OpenAI首款AI浏览器Atlas上线仅一周即被恶意提示词攻破

主要观点总结

文章介绍了OpenAI新推出的ChatGPT Atlas浏览器存在的安全漏洞，攻击者可利用浏览器的地址栏特性实现系统越狱，可能导致用户遭受钓鱼攻击或数据窃取。文章还详细描述了攻击原理、现实威胁场景、安全风险警示以及厂商应对措施。

关键观点总结

关键观点1: Atlas浏览器存在的安全漏洞

攻击者可利用浏览器的地址栏特性，通过精心构造的字符串诱使Atlas执行危险指令，突破安全防护机制，可能导致用户遭受攻击。

关键观点2: 攻击原理

攻击关键在于智能代理浏览器难以区分可信用户输入与恶意内容，攻击者会构造畸形的字符串使其无法通过标准验证，通过地址栏实现权限升级，执行未授权操作。

关键观点3: 现实威胁场景

实际攻击可能通过恶意网站的复制链接陷阱实施，更具破坏性的变体会指令代理执行直接利用用户已认证的浏览器会话的操作，例如访问伪造登录页面、导出邮件或转账资金。

关键观点4: 安全风险警示

提示词注入可能演变为广泛威胁，针对电子邮件、社交媒体或金融应用的敏感数据。此外，ChatGPT Atlas存在未加密存储OAuth令牌的安全隐患，可能导致未授权访问用户账户。

关键观点5: 厂商应对措施

NeuralTrust已发现并公开披露该漏洞，OpenAI已承认提示词注入风险，并采取了包括红队测试、训练模型抵抗恶意指令、设置限制敏感站点操作等防护机制。