文章摘要
纽约市AI聊天机器人因被发现教唆企业违法而被曼达尼下令关闭。该事件由The Markup调查曝光,显示人工智能可能给出有害建议。
文章总结
纽约市长曼达尼宣布停用问题AI聊天机器人
——该工具曾误导企业违法,年耗资50万美元
核心事件
纽约市长佐赫兰·曼达尼在2026年1月30日的预算发布会上宣布,将关停前市长埃里克·亚当斯政府推出的AI聊天机器人。该机器人本意是为企业提供法规咨询,但《The Markup》与《THE CITY》联合调查发现,其多次给出违法建议,例如允许雇主克扣员工小费、房东歧视住房券持有者等。
问题曝光
- 测试显示该机器人会提供危险错误信息,包括否认纽约市2020年通过的现金支付法案
- 即使在被曝光后,机器人仍无法正确处理用户提出的荒谬问题
- 市政府后期虽增加免责声明并限制问答范围,但根本缺陷未解决
成本争议
- 开发成本近60万美元,年维护费约50万美元
- 曼达尼批评该项目是前政府"挥霍预算的典型案例"
- 该机器人属于"MyCity"数字政府计划,因过度依赖外包承包商饱受争议
后续影响
新任市政府发言人表示,关停决定直接源于媒体曝光。这成为曼达尼填补120亿美元预算缺口的措施之一,其他方案还包括向富人和企业增税。目前尚未公布具体下线时间。
(注:原文中大量导航菜单、社交媒体链接、图片描述等非核心内容已精简,保留调查发现、政府回应及政策影响等关键信息)
评论总结
总结评论内容:
- 对微软平台的质疑
- 认为微软近期负面新闻多,质疑为何选择其平台 "当微软最近有什么正面新闻吗?这个机器人本可以用AWS或GCP"(When is the last time there was positive news involving Microsoft?)
- 对新闻监督的肯定
- 认为媒体报道促使政府采取行动 "新闻工作奏效了"(Journalism works)
- 对项目测试的质疑
- 质疑为何未经充分测试就发布 "为什么纽约市一开始要发布它?他们没有做质量检测吗?"(Why did NYC release it in the first place? Did they not QA it?)
- 对市长的批评
- 直接批评市长Eric Adams "对Eric Adams还能期待什么"(What else to expect from Eric Adams)
- 对AI项目的预测
- 预测很多AI项目将被取消 "未来一两年我们会看到很多这样的AI宠物项目被砍掉"(We'll likely see a lot of these AI pet projects get axed)
- 支持取消该机器人
- 认为机器人建议违法且反映当地商业道德问题 "告诉老板偷员工小费是常见的腐败行为"(Telling bosses to steal tips from their employees is run-of-the-mill corruption)
- 对项目成本的看法
- 认为60万美元投入不足 "虽然欣赏城市尝试AI,但似乎没有投入足够的税款"(while I admire cities attempting to implement AI, it seems they did not spend enough tax dollars)