人工智能产生的虚假代码使用正成为新的供应链风险

主要观点总结

本文介绍了名为“slopsquatting”的新型供应链攻击的出现，它是安全研究人员Seth Larson对typosquatting的一种解释。该攻击利用生成式人工智能工具在编码时可能‘臆造’不存在的软件包名称的倾向，通过创建恶意包来欺骗开发人员。研究表明，这类‘臆造’包装名称存在较高的重复率，并且可能对供应链安全构成风险。

关键观点总结

关键观点1: 新型供应链攻击“slopsquatting”的出现

攻击者利用AI模型在编码示例中创建恶意包，欺骗开发人员安装恶意软件包。

关键观点2: 生成式人工智能工具的影响

AI工具的使用日益增多，存在‘臆造’不存在的软件包名称的倾向，增加了供应链风险。

关键观点3: 研究数据

在大约20%的研究案例（576,000个生成的Python和JavaScript代码样本）中，存在推荐的包不存在的情况。58%的‘臆想’包装在10次运行中重复了不止一次。

关键观点4: 风险与应对措施

需要手动验证包名称，不能假设AI生成的代码片段中的包是真实的或安全的。使用依赖扫描器、锁文件和哈希验证，以及在安全、隔离的环境中测试AI生成的代码是提高安全性的有效方法。