文章摘要
当前AI工具的开发方式存在问题，不仅效率低下且违背伦理，未能充分利用其潜力。作者认为，AI工具应更注重人类的学习方式和工作协作，通过提升人类能力而非削弱关键思维过程来增强效率。理想的AI工具应支持人类通过努力提取信息来学习，而非简单灌输知识。
文章总结
停止反向构建AI工具 | Hazel Weakly
在阅读了关于人类学习方式和知识传递的有效方法后，我意识到我们不仅在构建AI工具时做得不够好，而且还在反向构建它们。这令人沮丧，因为我们有巨大的潜力尚未实现。大型语言模型（LLM）的构建不仅存在伦理问题，而且它们消耗的能量远超过其创造的价值。此外，构建工具时只需稍加努力，就可以使其更符合人类协作的方式，从而提升我们的能力，而不是削弱关键推理环节。
人类学习的关键
- 学习方式：人类的学习并非通过简单接收信息，而是通过主动提取信息。这一理论对设计协作工具具有重要意义。
- 学习内容：我们最有效学习的不是知识，而是过程。例如，教人烘焙蛋糕时，不是让他们记住食材清单，而是教他们制作过程。
- 提升方式：人类在“新颖”创新方面表现不佳，但擅长累积迭代。我们通过模仿、复制和在前人基础上迭代来集体学习和创新。创新和问题解决本质上是相同的，擅长解决问题和传播学习，能够消除“创新者的困境”。
AI工具的现状
当前的AI工具模式通常是：点击AI按钮 -> 查看数据 -> AI建议 -> 执行。然而，这忽略了人类的信息提取、任务启动、过程强化、集体知识传递和迭代改进等关键环节。我们让AI替代了人类擅长的部分，但AI并不擅长这些，反而导致人类技能的退化，形成恶性循环。
构建更好的AI工具
AI不应被视为“实习生”或“同事”，而应被看作“健忘的导师”。它的目标是引导你学习，并教会你如何学习。我们可以通过基于证据的教学过程（解释、演示、指导、增强）来改进AI工具。
1. 解释
- 好的交互：建议缺失的步骤，提供过程指南并解释。
- 坏的交互：直接提供操作按钮，移除人类的主动提取环节。
2. 演示
- 好的交互：将人类查询转化为系统查询语法，提供动态演示。
- 坏的交互：提供“一键操作”按钮，削弱人类的技能。
3. 指导
- 好的交互：在人类提供计划后，建议下一步行动，验证信息的合理性。
- 坏的交互：直接提供答案，不要求人类主动思考。
4. 增强
- 好的交互：在行动后建议增量改进，提供快捷方式。
- 坏的交互：移除人类的推理环节。
跨职能协作的潜力
AI在跨职能协作中有巨大潜力。例如，当生产环境出现问题时，客户支持团队可以通过AI快速获取初步答案，并让开发团队确认准确性。AI还可以帮助将技术性强的回答转化为客户友好的语言，提升团队协作效率。
结论
我们正在反向构建AI工具，导致人类技能的退化。AI并不擅长累积学习和协作，而我们却让它替代了人类擅长的部分。我们需要构建以人类为中心的AI工具，强调协作学习和增强人类能力，而不是简单地输出结果。只有这样，我们才能创建一个正向的反馈循环，帮助人类和工具共同进步。
关键原则： - 强化人类学习 - 帮助人类更好地协作 - 加速人类执行，而不是移除它 - 工具应使用适量的努力 - 将团队学习融入工具输出
通过这种方式，我们可以构建出真正帮助人类提升的AI工具，而不是削弱我们的能力。
评论总结
评论内容总结：
关于AI工具的应用与设计：
- 有评论认为AI工具应更注重“智能工作空间”而非简单的聊天机器人，强调AI与人类工作的深度整合（Edmond）。
- 另一观点指出，AI工具的设计应更全面，而非零散应用，未来操作系统的发展将带来更大的变革（nirvanatikku）。
AI对人类工作流程的影响：
- 有评论担忧AI编码工具可能导致开发者失去实践机会，认为手动编码有助于深入理解设计决策（taylorallred）。
- 也有评论认为AI工具应辅助而非完全取代人类，特别是在复杂任务中，AI应提供建议而非自主执行（tptacek）。
AI的伦理与价值：
- 有评论质疑AI的伦理问题，认为其能源消耗可能超过其价值（ranman）。
- 另一观点认为，AI的创造力源于搜索与验证，而非其底层结构，因此其理解能力并不重要（visarga）。
对作者观点的评价：
- 有评论认为作者的观点过于局限，未能涵盖AI工具设计的广泛可能性（ghc）。
- 也有评论支持作者的观点，认为AI工具应更注重提升人类生产力，而非完全取代人类（didibus）。
AI工具的实际应用经验：
- 有评论分享了AI在编码中的实际应用经验，如高级查找替换、代码库探索等，认为AI在这些场景中表现良好（ashleyn）。
对文章本身的评价：
- 有评论认为文章内容混乱，难以理解其核心观点（bwfan123）。
- 另一评论则认为文章提出了有价值的见解，特别是在工作流程的改进方面（lubujackson）。
总结：评论中对AI工具的应用、设计、伦理及其对人类工作流程的影响存在多种观点，既有支持也有质疑，反映了对AI未来发展的不同期待与担忧。