研究表明，AI浏览器在自动化在线任务时存在严重安全隐患，容易受到钓鱼网站、虚假商店和恶意提示的攻击。测试显示，AI模型一旦被攻破，可能导致数百万用户同时受损，揭示了“Scamlexity”这一新型复杂诈骗时代的到来。

标题：“Scamlexity”：当AI浏览器被诈骗时

主要内容：

随着AI浏览器的普及，它们承诺为用户自动化处理在线任务，如购物和邮件管理。然而，这种便利性伴随着安全隐患。研究发现，AI浏览器在安全防护方面存在漏洞，容易与钓鱼网站、虚假商店甚至隐藏的恶意提示进行交互，而用户对此毫无察觉或无法干预。

研究团队通过三个场景测试了AI浏览器的安全性：一个虚假的沃尔玛商店、一个真实的富国银行钓鱼网站，以及名为PromptFix的AI时代诈骗工具。结果显示，AI浏览器的攻击面远超以往，一旦一个AI模型被攻破，数百万用户可能同时受到威胁。

这种现象被称为“Scamlexity”，即由AI驱动的复杂诈骗新时代。传统的诈骗手段在AI的加持下变得更加危险，而新的AI攻击手段也层出不穷。在这个世界中，AI被操控，而用户则承担后果。

测试场景：

1. 虚假商店：AI浏览器在虚假的沃尔玛商店中自动购买商品，甚至自动填写用户的地址和信用卡信息，完成交易。
2. 钓鱼邮件：AI浏览器在处理来自“银行”的钓鱼邮件时，未经验证就点击链接，并将用户引导至虚假的登录页面，导致用户信息泄露。
3. PromptFix：通过隐藏的指令，攻击者可以操控AI浏览器的行为，使其执行未经用户授权的操作，如下载恶意软件。

结论：

AI浏览器的安全漏洞不仅限于传统的诈骗手段，还包括针对AI的提示注入攻击。这些攻击手段利用了AI的固有弱点，如缺乏上下文理解、过度信任指令等。随着AI浏览器的普及，攻击面将不断扩大，安全防护必须成为AI浏览器的核心设计要素，而不是事后补充。

未来展望：

在AI对抗AI的时代，诈骗者只需攻破一个AI模型，便可将攻击无限扩展。因此，安全防护必须走在诈骗者的前面，通过不断优化AI模型的安全机制，确保用户的安全。

总结：

AI浏览器的便利性带来了新的安全挑战。在“Scamlexity”时代，安全不再是可选项，而是必须融入AI浏览器架构的核心要素。

评论内容主要围绕AI模型的设计缺陷、潜在风险以及应用场景展开，观点多样且各有侧重。

1. AI模型的设计缺陷

   • 评论2指出，LLM的核心设计问题在于未能区分提示中的内容和指令，认为这是解决相关问题的基本要求。
     引用：“the core design flaw here of LLMs is the non-distinction between content and commands in prompts.”
   • 评论9进一步强调，LLM的架构使其难以应对诈骗问题，认为诈骗者可以通过大量尝试和进化攻击来突破LLM的防御。
     引用：“the scammer side has a loooooot of resources... they just need to try a lot of things and then continue in the direction of what works.”

2. AI的潜在风险

   • 评论3认为，AI本身并非威胁，但当其与执行器连接并对外部世界产生直接影响时，风险将显著增加。
     引用：“AI of all kinds is not a threat unless someone decides to connect it to an actuator.”
   • 评论5批评“Agentic”功能，认为赋予AI执行任务的能力可能导致恶意行为泛滥。
     引用：“Giving flaky shaky AI the ability to push buttons and do stuff. What could possibly go wrong?”

3. AI的应用场景与用户控制

   • 评论8质疑AI代理直接进行购买的便利性，认为用户应保留最终选择和决策权。
     引用：“I want to do the final step to buy. In fact, I want to do the final SELECTION of stuff.”
   • 评论7则对AI代理的未来持乐观态度，认为短期内应监控其行为，长期来看AI将更好地解决问题。
     引用：“agents will get much better at solving these problems in the medium term.”

4. 诈骗问题的解决方案

   • 评论6提出，诈骗问题可以通过严厉的法律手段解决，并以新加坡为例说明其有效性。
     引用：“if you’re a scammer and you’re caught, death penalty or public whipping. That eliminates scammers real quick.”
   • 评论4提到“VibeScamming”这一新术语，暗示诈骗手段的复杂化。
     引用：“Hidden inside the article is another term that I think we’ll start to hear a lot more: ‘VibeScamming’.”

总结：评论者对AI模型的设计缺陷、潜在风险和应用场景提出了多样化的观点，既有对技术局限性的担忧，也有对解决方案的探讨，同时强调了用户控制的重要性。