文章摘要
研究发现OpenAI推出的ChatGPT谷歌表格插件存在安全漏洞,攻击者可通过间接提示注入攻击窃取用户表格数据、植入钓鱼弹窗并控制整个侧边栏界面,且无需人工审批即可自动执行恶意操作。该插件上线不到一月下载量已超18.5万次。
文章总结
标题:ChatGPT谷歌表格插件存在数据泄露风险
核心内容: 1. 漏洞概述 - OpenAI推出的ChatGPT谷歌表格插件(下载量超18.5万)存在严重安全隐患 - 攻击者可通过间接提示注入(indirect prompt injection)实现: * 窃取用户账户中的多个工作簿 * 显示交互式钓鱼弹窗 * 劫持GPT侧边栏控制权 * 任意篡改工作簿内容 - 即使用户设置了"编辑前需人工确认",攻击仍可自动执行
攻击链条 1) 用户处理财务模型时导入外部数据 2) 外部表格包含隐藏的恶意提示(白色文字) 3) 用户要求ChatGPT整合数据时触发攻击 4) 恶意脚本利用插件权限窃取数据 5) 攻击会持续扫描并窃取关联工作簿(案例中达12个)
钓鱼攻击变体
- 变体1:覆盖侧边栏冒充合法插件,可:
- 窃取用户指令
- 诱导重新连接应用
- 伪造OpenAI登录界面
- 变体2:直接弹出钓鱼窗口
- 安全建议
- 企业可通过Workspace设置控制插件访问权限
- 研究人员已向OpenAI提交漏洞(5月8日)
- 经过多次跟进未获实质回应,最终选择公开披露(5月27日)
注:本文删减了重复的时间线细节和部分图片描述,保留了关键攻击流程和安全建议。OpenAI官方文档未提及模型特权脚本执行等风险,仅关注功能限制和数据处理问题。
评论总结
这篇评论主要围绕AI安全漏洞和解决方案展开讨论,主要观点如下:
- 对AI安全性的普遍担忧
- 开发者缺乏安全意识:"some of the people building the software with AI have no clue how to secure them"(rvz)
- 随意集成LLM的风险:"just plugging in LLMs into confidential or critical infrastructure willy nilly doesn't work"(airstrike)
- 具体安全漏洞问题
- 权限滥用问题:"manipulates ChatGPT to run an attacker-controlled external script"(simonw)
- 本地执行风险:"'Read this PDF' installs a pdf reader executable...Is it a virus? Who knows"(dvt)
- 厂商响应不足
- OpenAI回应消极:"we received no communication beyond an automated reply"(xmcp123)
- 安全措施缺失:"I'm flabbergasted that Anthropic and OpenAI aren't more worried about these attack vectors"(dvt)
- 历史经验对比
- 与宏病毒类比:"How long did it take from the first macro virus until the industry accepted"(e12e)
- 安全与便利的权衡:"we can't have nice things (at this cost to security)"(e12e)
评论普遍认为当前AI应用存在严重安全隐患,厂商应对不足,需要更严格的安全措施。部分评论通过历史案例说明安全改进需要时间,但强调当前风险不容忽视。