Science | AI的“矛”与生物安全的“盾”：对基因合成筛选体系的首次大规模红队演习

主要观点总结

本文报道了一项关于生物安全的研究，该研究揭示了生成式AI在蛋白质设计方面的能力可能带来的潜在风险。研究团队使用AI设计的蛋白质来挑战现有的基因合成筛选系统，并发现现有的生物安全筛选系统存在漏洞，可能被恶意行为者利用来制造具有潜在危险的蛋白质。为了应对这一挑战，研究团队与基因合成公司合作，对现有的筛选系统进行升级，以提高对AI设计威胁的识别能力。然而，仍然存在一些灰色地带需要解决，例如与无害蛋白的近亲、辅助蛋白的身份以及一刀切策略的局限等。研究还指出了新的攻防战中的挑战，如DNA混淆技术的使用。最后，文章强调了我们需要探索下一代生物安全技术，并以前所未有的开放性和协作精神来共同构建一个既能拥抱生物技术带来的机遇又能防范其潜在风险的安全未来。

关键观点总结

关键观点1: 生成式AI在蛋白质设计方面的能力可能带来的潜在风险。

研究团队使用AI设计的蛋白质挑战了现有的基因合成筛选系统，并发现了漏洞。

关键观点2: 现有的生物安全筛选系统存在漏洞。

传统的基于“最佳匹配”的BSS系统无法有效识别AI生成的、低序列相似度但功能相似的威胁。

关键观点3: 合作应对挑战的重要性。

研究团队与基因合成公司合作，对现有的筛选系统进行升级，以提高对AI设计威胁的识别能力。

关键观点4: 存在的灰色地带和挑战。

包括与无害蛋白的近亲、辅助蛋白的身份以及一刀切策略的局限等问题需要解决。

关键观点5: DNA混淆技术的挑战。

恶意的行为者可能会使用DNA混淆技术来规避检测。

关键观点6: 探索下一代生物安全技术的必要性。

随着AI技术的发展，我们需要探索新的生物安全技术来应对未来的挑战。