文章摘要
Thinking Machines的使命是构建能延伸人类意志与判断力的AI。AI能力日益增强,但决定其用途需依靠人类的知识与判断。当前多数AI是静态的,无法被使用者塑造。他们致力于训练强大模型、开发定制工具和交互界面,让AI像人类一样多元分布。
文章总结
好的,这是根据您的要求,对原文进行的中文重述:
标题:值得构建的未来是以人为本的
Thinking Machines 的使命是构建能够延伸人类意志和判断力的人工智能。
人工智能的能力日益增强,但决定其应用方向的责任在于我们每个人、每个组织乃至全人类。这需要人们在与AI协同工作的过程中,持续积累知识和判断力。塑造高级智能的目标本身也是一个持续的反馈、学习和调整过程。
当前大多数AI在少数地方训练后便“冻结”了,它不受服务对象的影响,也无法从与人的协作中学习。要延伸人类的意志和判断力,就需要像人类自身一样多样化和分布式的AI。这正是我们选择的道路。
为此,我们致力于以下技术方向:
- 训练强大的模型,提升多模态交互和可定制性等能力。精良的工具能延伸人的意志,而人类的判断力需要塑造出能在前沿领域竞争的模型。
- 构建工具,让人们能够定制AI,使其服务于自身独特需求,包括训练模型权重。
- 开发交互界面,拓宽人机沟通渠道,让个人判断能持续影响AI的工作。
- 发表研究成果,因为塑造AI的能力需要对其构建原理有深刻理解。
我们相信,值得构建的未来是以人为本的——由人类知识塑造,受人类意志引导,并由人类判断力决定。
将智能融入知识
AI服务于人类的工作,而工作依赖于关于“如何做”和“做什么值得”的知识,这些知识由从事工作的人持续创造。例如,厨师研发新菜谱或店主调整商品陈列,他们追求复杂目标并运用着外人难以理解的“诀窍”。这种知识通过反馈不断更新,是本地化的,分散在每个从业者脑中。
知识的分散是一种集体优势,是系统多样性、适应性和韧性的来源,也是自由市场优于计划经济的原因。集中规划失败并非因为智能不足,而是因为生产性知识本质上是隐性的、局部的、易逝的,并由从业者个人掌握。试图为中央智能汇集知识会面临同样挑战。
在目标静态且明确、不包含隐性知识的领域(如下棋、解数学题),仅靠智能就足够了,AI可以自主超越人类。但在这些领域之外,仅有智能是不够的。
为了让AI从分布式知识中受益,它本身也必须是分布式的。每个组织都依靠其成员通过工作获得和表达的专业知识来驱动。我们相信AI应帮助组织培育其独特知识,而非提取其快照并用标准方案取代。这种培育是一个持续过程,需要AI与人协作,而非替代人。
丰田公司曾将资深工匠请回生产线,以培养工匠精神和知识。其负责人解释:“要成为机器的主人,你必须拥有知识和技能来教导机器。”知识的产生与智能的应用相互促进,而非相互替代。
我们的目标是将智能带到知识产生和运用的地方。我们构建工具,让每个人都能用其独特知识微调模型,并随着知识演进持续调整模型。我们设想的前沿AI是一个集体,像它所服务的人一样多样化,因为它在每个独特的地方都由人塑造。
人类参与是一个技术挑战
让人持续参与设定目标并与AI分享知识,并非为了抵制自动化本身。机器能可靠自主完成的工作,就应让它去做。但它也应知道何时自主行动,何时邀请监督和反馈,就像人类团队协作一样。最好的协作者能预判需求,主动提供帮助,并逐渐赢得代表他人行动的权力。这些都是技术挑战,需要新的AI设计和评估方法。
当前人机沟通的主要瓶颈是交互渠道——一个小文本框和漫长的等待。这太狭窄,无法承载人类丰富的智慧和意图;也太缓慢,无法进行持续反馈。人类在实时协作中表现最佳。因此,我们长期押注于“交互模型”:在模型内部原生处理实时、多模态交互,而非通过外部框架拼凑。这样构建的交互性会随智能提升而扩展,使模型成为更好的协作者。正确的界面不仅允许人类参与,更能吸引和奖励参与。
另一个挑战是设定正确的评估和优化目标。当前衡量AI智能的常见指标是模型能自主执行的软件任务的时间跨度。我们预计这一指标会继续进步,但它最终只衡量AI自身的能力,而非人机协作的成果。衡量后者更为复杂,无法由实验室单独完成,需要每个组织自行评估AI是否帮助其提升判断力、发展新知识和实现目标。
构建能长期增强用户能力的AI,也符合良好的激励机制。一个为所有客户提供单一模型的AI实验室,其利益在于吸收每个用户的独特性,贬低专业知识的培育价值。而当我们优化AI以实现定制化和协作时,我们的利益就与客户利用其独特优势的目标相一致。
去中心化的对齐
人类价值观和知识一样,存在于个体头脑中,难以整合。但如今,AI的价值观和声音由少数地方决定。单一的价值对齐中心,无论管理得多好,都会成为权力被攫取的中心。
这很危险,尤其当大多数有价值的工作由AI自主完成、几乎不需要人类输入时。如果权力无需依赖人,它就会失去关心人的需求和价值的动力,转而关心自身存续。即使意图良好,在一个地方塑造的模型也必然会编码其所有者的价值观,而非它所服务的个体用户。
为了让组织和个人将AI与其自身价值观对齐,这些价值观必须编码在模型权重中。如果用户价值观仅通过提示词影响模型,那么改变的只是表面特性,深层习惯依然如故。允许通过提示词大幅改变核心模型行为会牺牲安全性。
深刻塑造模型的能力也可能被用于作恶。保持“羔羊”安全是一个持续的过程,需要不断运用判断力做出选择。我们旨在为做出这些选择的人提供更强大的工具,研究如何在不剥夺所有权的情况下构建更安全的模型。
人类因个体的独特性和创造性张力而繁荣。我们设想的对齐不是一个单一模型的特征,而是一个由在不同地方培育、相互争论、竞争和学习的AI组成的生态系统。我们相信要保持这种独特性。
值得构建的未来
科技行业在教会机器思考方面取得了惊人进步,但机器应该思考什么,必须由我们决定。什么值得渴望、值得创造、如何善用我们的时间,这些问题的答案不应由我们给出单一答案,而应赋予每个人将其自身答案融入前沿AI发展的能力。
当前AI发展走向集中化和自主化的道路,将人类参与视为一种权衡:参与vs.能力,所有权vs.安全对齐。我们视这些为需要解决的技术挑战:构建因鼓励人类参与而更强大的AI,让组织因定制AI以发挥自身优势而长期受益,让对齐源于由拥有者塑造的多样化AI。解决这些挑战是我们的使命所在。
未来并非在人类主导和面对AI迅速过时之间做选择。不同的道路通向许多不同的未来,我们可以选择要走哪一条。我们正在构建技术,让“生而为人”与“人造之物”能够并肩同行。
评论总结
根据评论内容,总结主要观点如下:
1. AI作为“大脑机械外骨骼”的辅助工具 - 评论1(评分:无)认为AI缺乏创造力和意志,但拥有超人的记忆、速度和特定领域的上下文能力,如同“大脑的机械外骨骼”("mech suit for your brain")。 - 评论7(评分:无)强调AI应提升而非贬低人类心智,人类与机器可协同优化("humans and machines can do wonders together")。
2. 人类在AI系统中的核心作用 - 评论2(评分:无)指出AI的效果取决于“AI指挥者”("AI Conductor"),即人类需制定规则、验证输出并正确引导AI。 - 评论11(评分:无)强调“人工智能必须服务于自然智能,而非相反”("artificial intelligence must serve natural intelligence, not the other way around")。
3. 对AI公司宣传的质疑与批评 - 评论3(评分:无)讽刺这些新闻稿“绝对价值数十亿美元”("definitely worth billions of dollars")。 - 评论4(评分:无)认为这是公关公司的好时机("Great time to be a PR firm owner")。 - 评论5(评分:无)质疑公司名称“Thinking Machines”是旧名复用("recycling company names")。 - 评论8(评分:无)批评名称暗示“取代人类思考”,与公司理念矛盾("replacing the human act of thinking")。
4. 对技术可行性与安全性的担忧 - 评论6(评分:无)质疑公司声称“训练强大模型”但未见实际成果("Where? When?")。 - 评论17(评分:无)探讨“安全”在用户定制模型中的定义困境,如隐私、财务、健康建议等场景("what does 'safety' even mean?")。 - 评论15(评分:无)提出让AI无限自我改进的假设,暗示潜在风险("infinite loop of agentic self improvement")。
5. 对AI伦理与社会影响的反思 - 评论11(评分:无)呼吁AI应服务于全人类“卓越”发展,而非战争或经济竞争("enable all of humanity to excel")。 - 评论12(评分:无)讽刺AI发展以破坏人类未来为代价("the future worth destroying is human")。 - 评论13(评分:无)认为公司声明有“战争即和平”的1984式反讽("1984 'war is peace' vibes")。
平衡性总结:评论呈现两极分化——部分认可AI作为辅助工具的潜力,强调人类主导;多数质疑公司宣传的真诚性、技术可行性及伦理安全性,担忧AI可能被滥用或取代人类价值。