AI安全快讯0818 | 美国加州《前沿人工智能模型的安全可靠创新法案》已重新修订

主要观点总结

文章主要报道了全球AI安全的最新资讯，包括美国加州《前沿人工智能模型的安全可靠创新法案》的修订、美国议员对特定国家技术出口限制计划的呼吁、美国国防部启动新型超级计算系统用于生物防御、研究人员改善小型语言模型推理能力的方法、人工智能搜索引擎Perplexity的增长趋势、亚马逊在英国测试Prime Air送货无人机的超视距飞行、美国机器人公司Standard Bots的巨额融资情况、Apple Intelligence存在的安全缺陷以及好莱坞演员工会与在线人才市场达成的协议等。

关键观点总结

关键观点1: 美国加州《前沿人工智能模型的安全可靠创新法案》重新修订

该法案要求对训练成本超过1亿美元的人工智能模型实施安全监管，并需向国家报告安全工作，否则需承担刑事责任。在一片反对声中，该法案进行了重新修订，目前修正后的法案正提交美国加州众议院批准。

关键观点2: 美国议员呼吁停止对特定国家技术出口限制计划

美国民主党参议员亚历克斯·帕迪利亚与众议员佐伊·洛夫格伦表示，美国单方面对特定国家实施限制措施会让外国竞争对手受益，损害美国企业的利益。他们呼吁停止新一轮的管制，因为这将可能让美国老牌企业陷入困境。

关键观点3: 美国国防部启动新型超级计算系统用于生物防御

该系统由美国防部“化学和生物防御计划”资助，旨在提供大规模模拟和基于AI的建模能力，包括生物监视、威胁表征等活动。这一系统的启动将加强美国的生物防御能力。

关键观点4: 研究人员提出改善小型语言模型推理能力的方法

微软亚洲研究院和哈佛大学的研究团队提出了Self-play muTuAl Reasoning方法，即rStar，无需微调或优化模型就能改善小型语言模型的推理能力。这一方法类似于让学习平平的人互相检查考卷答案，最终提升得分。

关键观点5: 人工智能搜索引擎Perplexity的增长趋势

Perplexity推出的人工智能搜索引擎在短短时间内回答了大量问题，显示出其快速增长的态势。这一趋势表明人们越来越倾向于使用AI搜索引擎。

关键观点6: 亚马逊将在英国测试Prime Air送货无人机的超视距飞行

亚马逊的无人机送货业务将获准在英国测试超视距飞行，这意味着无人机可以在远程操作下扩大送货规模。这一测试将有助于制定更广泛的无人机操作规则。

关键观点7: 美国机器人公司Standard Bots获巨额融资

Standard Bots宣布完成6300万美元融资，领投方是电子巨头General Catalyst。此次融资为公司的技术实力与市场潜力提供了强有力的背书。Standard Bots的产品线包括多款高效、智能的机械臂解决方案。

关键观点8: Apple Intelligence存在重大安全缺陷

近日有开发人员在Apple Intelligence中发现重大缺陷，可以通过提示词注入攻击操纵AI。随着对大语言模型的广泛使用，这种攻击的威胁正在显著增加。

关键观点9: 好莱坞演员工会与在线人才市场达成协议

好莱坞演员工会SAG-AFTRA与在线人才市场Narrativ达成一项协议，允许广告商使用AI复制演员的声音。此举旨在应对AI技术潜在的形象侵权风险，确保演员获得经济收益并对声音复制品的使用享有控制权。

免责声明