文章探讨了技术封建主义与人工通用智能（AGI）的崛起，提出了未来可能出现的经济权利缺失问题。随着AGI的发展，技术巨头可能掌握更多权力，导致经济不平等加剧，形成类似封建社会的结构，普通人的经济权利可能受到严重威胁。

文章主要内容总结：

文章《技术封建主义与AGI的崛起：一个没有经济权利的未来？》探讨了人工通用智能（AGI）的兴起对经济和政治秩序的深远影响。AGI不仅能够创造经济价值，还能集中控制其基础设施的权力，这可能导致技术封建主义的加剧，进一步扩大不平等、削弱民主机构，并导致大规模的经济权利丧失。

文章指出，AGI的崛起打破了传统的劳动与资本之间的界限，因为它既是劳动者又是所有者。这种转变使得社会契约需要重新协商，以确保AGI驱动的繁荣能够通过诸如通用AI分红、累进税制和去中心化治理等机制公平分配。

作者Pascal Stiefenhofer呼吁立即采取行动，防止智能本身成为最排他性的资本形式。文章提出了一个重新定义的经济框架，旨在确保AGI带来的利益能够惠及所有人，而不是仅仅集中在少数控制者手中。

文章结构： 1. 引言：AGI的崛起标志着经济和政治秩序的根本性变化。 2. AGI的双重角色：AGI既是劳动者又是所有者，打破了传统的劳动与资本界限。 3. 技术封建主义的风险：AGI的集中控制可能导致不平等加剧和民主机构的削弱。 4. 社会契约的重新协商：需要重新定义社会契约，确保经济参与的公平性。 5. 解决方案：提出了通用AI分红、累进税制和去中心化治理等机制。 6. 结论：呼吁立即采取行动，防止智能成为排他性资本。

图片标记： - - - - - - - - -

参考文献与引用： - NASA ADS - Google Scholar - Semantic Scholar

相关工具与资源： - arXivLabs：实验性项目，允许社区合作者开发和分享新的arXiv功能。

评论总结：

1. 对AGI驱动的经济持怀疑态度

   • bix6：认为AGI驱动的经济模式（如全民基本收入UBI）是幻想，尤其是考虑到最近的减税政策，政治动力不足。
     引用：
     • "This seems like an absolute fantasy given the tax cuts passed 2 days ago."
     • "I don’t see this gaining political momentum given politics is driven by dollars."
   • pk-protect-ai：认为在当前环境下，渐进税制等社会改进措施难以实现。
     引用：
     • "Looking at the big ugly bill, there will be no way for a progressive taxation or other kind of social improvements."

2. AGI对劳动力和财富分配的影响

   • elcritch：通过Cobb-Douglas生产函数分析，AGI将经济权力从人类劳动力转向自主系统，可能导致就业过时，财富集中在少数精英手中。
     引用：
     • "If AGI labor fully substitutes human labor, employment may become obsolete."
     • "If AGI ownership is concentrated, wealth accumulation favors a small elite."
   • VikRubenfeld：提出如果AI取代大部分人类劳动，人们收入减少，可能导致AI生成的财富减少，最终这种未来难以持续。
     引用：
     • "Therefore the AI generates greatly reduced wealth."
     • "…rendering such a future impossible."

3. 对AGI监管和分配机制的讨论

   • smitty1e：呼吁重新定义经济框架，通过全民AI分红、渐进税制等机制实现AGI驱动的繁荣公平分配。
     引用：
     • "This paper calls for a redefined economic framework that ensures AGI-driven prosperity is equitably distributed."
   • 0xbadcafebee：对公平分配持悲观态度，认为权力者会继续囤积财富，税收政策难以实现社会公益。
     引用：
     • "nobody’s going to equitably distribute jack shit if it makes money."
     • "The idea that you’re going to set tax policy based on something like achieving a social good means you’re completely divorced from American politics."

4. 对AGI未来发展的不同看法

   • zugi：认为AI可能像历史上的技术革命一样，最终会民主化信息和智能，而不是剥夺经济权利。
     引用：
     • "AI may well do the opposite, and democratize information and intelligence in currently unimaginable ways."
   • daxfohl：认为AGI最终会被关闭，因为其潜在威胁会让受益者意识到风险。
     引用：
     • "At some point it will turn on its master."
     • "Then the people who stand the most to gain from it will realize they also have the most to lose."

5. 对AGI技术本身的质疑

   • ActorNightly：认为在讨论AGI之前，应先证明其可行性。
     引用：
     • "If you are going to write anything about AGI, you should really prove that its actually possible in the first place."
   • andsoitis：质疑未来是否只有一个AGI，还是多个AGI相互竞争。
     引用：
     • "Will there be only one AGI? Or will there be several, all in competition with each other?"

6. 对AGI与民主关系的担忧

   • jandrewrogers：认为AGI可能大规模操纵人们的行为，民主政策将不再是人民的有机意愿。
     引用：
     • "The existence of AGI has the implication that it can effectively turn most people into sock puppets at scale."
     • "It assumes much more agency on the part of people than will actually exist."

7. 对AGI技术民主化的期待

   • edg5000：认为未来AI技术会变得民主化、廉价化，允许人们自托管当前领先的模型。
     引用：
     • "One day AI will be democratized/cheap allowing people to self host what are now leading edge models."

总结：

评论中对AGI驱动的经济模式持怀疑态度，认为财富分配不均、政治动力不足等问题难以解决。同时，AGI对劳动力市场的冲击和财富集中的风险引发广泛担忧。尽管有呼吁通过渐进税制、全民分红等机制实现公平分配，但许多人对此持悲观态度。此外，对AGI技术本身的可行性、未来发展路径及其与民主的关系也存在不同看法。