Soundslice的乐谱扫描系统原本用于将照片中的乐谱数字化，但最近错误日志中频繁出现ChatGPT会话的截图，内容为ASCII吉他谱。经过调查发现，ChatGPT错误地告诉用户可以将这种谱表输入到Soundslice.com进行处理。由于系统并不支持这种格式，导致大量错误上传。最终，Soundslice决定添加对ASCII谱表的支持，以应对这一意外情况。

主要内容总结

标题: 因为ChatGPT错误地认为它存在，所以我们添加了一个功能

文章链接: Adding a feature because ChatGPT incorrectly thinks it exists

背景:
Soundslice公司开发了一款乐谱扫描器，可以将照片中的乐谱数字化，方便用户听、编辑和练习。公司持续改进系统，并监控错误日志以识别哪些图像处理效果不佳。

问题发现:
最近几个月，错误日志中出现了一种奇怪的上传类型：不再是传统的乐谱图像（如），而是ChatGPT会话的截图，内容为ASCII tablature（如）。ASCII tablature是一种简单的吉他音乐记谱法，但Soundslice的扫描系统并不支持这种格式。

原因调查:
经过调查，作者发现ChatGPT在会话中告诉用户，他们可以到Soundslice网站创建账户并导入ASCII tablature以听到音频回放（如）。然而，Soundslice实际上并没有这个功能，ChatGPT在误导用户。

解决方案:
面对这一情况，Soundslice决定满足市场需求，开发了一个ASCII tablature导入器，并更新了扫描系统的用户界面，告知用户这一新功能。

作者感想:
作者对此感到矛盾：一方面，他很高兴能增加一个帮助用户的功能；另一方面，他认为公司是在被迫应对错误信息，这是否是开发新功能的合理依据值得思考。

结论:
这是作者所知的首例公司因ChatGPT错误信息而开发新功能的情况。他认为这个故事值得分享，因为它反映了人工智能误导用户可能带来的意外影响。

主要观点总结：

1. 产品与渠道匹配

   • 评论1（ahstilde）认为作者成功捕捉了新渠道的需求，体现了产品与渠道的匹配。
   • 评论7（yieldcrv）提到市场需求驱动产品开发，并举例说明其他公司也因ChatGPT的推荐调整了服务。

2. AI幻觉与产品开发

   • 评论2（kelseyfrog）指出，AI生成的信息可能影响现实，更新现实比更新AI更容易，未来可能更多接受AI的“现实”。
   • 评论13（toomanyrichies）担心基于AI幻觉开发功能会导致产品边界和规范完整性的长期侵蚀，并提出了两种应对策略：温和警告或明确失败响应。
   • 评论15（JimDabell）认为AI幻觉有时类似于测试驱动开发（TDD），可能提示合理的功能需求。
   • 评论19（Applejinx）反对基于错误信息开发功能，认为用户会将其归咎于开发者。

3. AI对现实世界的影响

   • 评论9（deweller）认为AI通过市场力量而非机器人征服世界来塑造现实。
   • 评论18（kragen）提到利用AI的“幻觉”优化API设计，使其更直观和易理解，但仅限于不太流行的API。

4. AI幻觉的积极利用

   • 评论12（adamgordonbell）分享公司内部AI幻觉导致的功能需求，认为这反映了产品缺失。
   • 评论16（nottorp）计划将AI幻觉转化为功能请求。
   • 评论21（rorylaitila）在开发索引工具时发现AI的“想法”有时比预设更好，决定部分采纳其输出。

5. AI幻觉的潜在风险

   • 评论13（toomanyrichies）强调基于AI幻觉开发功能可能导致产品边界模糊和规范完整性受损。
   • 评论19（Applejinx）警告开发者可能因错误信息被用户指责。

关键引用：

• 产品与渠道匹配

  • “This is called product-channel fit. It's great the writer recognized how to capture the demand from a new acquisition channel.”（评论1）
  • “We ended up deciding: what the heck, we might as well meet the market demand.”（评论7）

• AI幻觉与产品开发

  • “Creating the feature means it's no longer misinformation.”（评论2）
  • “Once you start building features based on ChatGPT hallucinations, where do you draw the line?”（评论13）

• AI对现实世界的影响

  • “I think market forces are a much more straightforward tool that AI systems will use to shape the world.”（评论9）
  • “It can make sure your API is guessable and understandable, and that's very valuable.”（评论18）

• AI幻觉的积极利用

  • “Sometimes it comes up with a better approach than I had thought of.”（评论18）
  • “Some of those ideas are actually good!”（评论21）

• AI幻觉的潜在风险

  • “No, because you'll be held responsible for the misinformation being accurate.”（评论19）
  • “It feels like there’s real potential here for long-term erosion of product boundaries and spec integrity.”（评论13）