文章摘要
OpenAI更新政策,禁止ChatGPT提供定制化的法律和医疗建议,用户将无法通过该服务获取此类专业指导。
文章总结
OpenAI明确表示ChatGPT不能提供定制法律和医疗建议
OpenAI于2025年10月29日更新了使用政策,明确指出用户不得在未经持证专业人士参与的情况下,使用ChatGPT获取需要专业资质的定制建议,如法律或医疗建议。该公司向CTVNews.ca澄清,这一条款并非新规定,ChatGPT从未替代过专业法律或医疗建议,但仍可作为帮助人们理解相关信息的资源。
研究显示,尽管ChatGPT已成为许多加拿大人寻求健康问题答案的工具,但其准确性存疑。滑铁卢大学的一项研究发现,ChatGPT-4在回答基于医学执照考试改编的开放式问题时,仅31%的答案完全正确,34%的答案表述清晰。不列颠哥伦比亚大学10月的研究则指出,ChatGPT提供的医疗建议语言更具说服力,可能导致患者在与医生会面前已形成既定观点,即使信息不准确也难以辨别。
OpenAI强调,此次政策更新仅为条款澄清,模型行为并未改变。此前1月的政策已要求用户不得进行可能严重影响他人安全、福祉或权利的活动,包括提供定制法律、医疗或财务建议。
(注:原文中大量重复的导航链接、地区新闻模块及无关广告等内容已删除,核心信息保留并重新组织。)
评论总结
评论总结:
1. 支持AI提供医疗/法律建议的观点
- 认为AI能提供有价值的参考信息,尤其在罕见病例或专业领域快速获取信息方面有帮助。
- "After it was diagnosed I walked an older version of chat gpt through our experience and it suggested my son’s issue as a possibility... it could have saved my kid a LOT of physical pain." (cpfohl)
- "As a doctor I hope it still allows me to get up to speed on latest treatments for rare diseases... It saves me a lot of time." (uslic001)
- 认为限制功能会迫使用户转向竞争对手。
- "If OpenAI wants to move users to competitors, that’ll only cost them." (OutOfHere)
2. 反对AI提供医疗/法律建议的观点
- 认为AI存在严重错误信息风险,需专业人士把关。
- "The amount of misinformation it has given me is quite staggering... the danger is that you have to really know a subject before it’s properly useful." (bamboozled)
- 强调法律责任问题,认为需监管或许可。
- "Until OpenAI can be sued for medical malpractice or lawyering without passing the bar, they will have no skin in the game." (miltonlost)
3. 质疑政策实际效果的中间观点
- 认为政策仅是法律免责声明(CYA),未真正禁止功能。
- "Sounds like it is still giving out medical and legal information just adding CYA disclaimers." (randycupertino)
- "Is this an actual technical change, or just legal CYA?" (miki123211)
- 推测政策可能为未来付费服务铺路。
- "The cynic in me thinks this is just a means to eventually make more money by offering paid unrestricted versions." (Zr01)
4. 其他相关观点
- 技术局限性:AI在无执照领域同样可能给出错误建议。
- "When OpenAI is done getting rid of all the cases... all that will be left is the cases where its AI gives dangerously wrong advice about unlicensed professions." (o11c)
- 法律环境担忧:律师行业可能推动过度诉讼。
- "I’m waiting for the billboards ‘Injured by AI? Call 1-800-ROBO-LAW’." (JCM9)
- 谣言澄清:部分用户指出政策调整可能被夸大。
- "This is not true, just a viral rumor going around." (awillen)
关键争议点:
- 功能价值 vs. 风险:AI的快速信息整合能力与错误信息风险之间的权衡。
- 政策真实性:调整是实质限制还是表面合规。
- 行业竞争:限制可能促使市场分化,推动替代产品出现。