治理之智 | 合成数据在生成式人工智能时代的价值与风险

主要观点总结

文章概述了合成数据在人工智能技术发展中的重要作用，从价值、安全、产业发展等方面进行了详细阐述。文章指出合成数据有助于突破人类数据限制，在产业中的使用场景、数量占比和实际效果都远超预期。同时，合成数据并非引发新安全问题的原因，而是人类控制风险的抓手。在产业发展方面，合成数据虽有一定市场规模，但整体有限，难以形成专业分工。文章还从合成数据的角度分析了大模型对数据要素价值发挥机制的整体改变，并思考了数据相应政策体系如何顺应极速发展的前沿科技。

关键观点总结

关键观点1: 合成数据的定义和发展历程

合成数据是通过计算机程序或数学模型生成的数据集，不直接来源于实际观察或测量，但能反映真实世界的统计特征或运行规律。早在20世纪末，合成数据就开始被应用于统计调查、工业仿真或科学研究等领域。随着人工智能技术的发展，合成数据的格式扩展到语音、图像和视频，并广泛应用于多个领域，特别是在辅助生成Corner Case数据方面。

关键观点2: 合成数据的价值和在生成式人工智能时代的应用

合成数据在生成式人工智能时代具有重要地位。它支持模型复杂推理、领域知识理解和空间理解，帮助模型掌握领域知识，增强空间理解和动作能力。合成数据的使用场景包括真实数据的“填空补充”、“提炼拼装”和“扩展放大”。此外，合成数据在模型对齐和自博弈训练中也有效且可控。

关键观点3: 合成数据的风险与安全机制

合成数据的系统安全风险可以通过数据治理防范。使用不加筛选的合成数据会带来模型性能下降或崩溃的风险。合成数据引发的系统安全问题可以通过数据质量治理和数据类型配比来防范治理。此外，合成数据的数据安全问题可以用现行法规管理。在模型对齐阶段，合成数据标注的占比正在快速增加，能大幅提升训练效率。

关键观点4: 合成数据的产业特点及发展展望

合成数据催生了创新企业，但整体市场规模有限。合成数据的供需都具有高度动态性，难以形成专业分工。同时，合成数据承载大量企业商业秘密，难以流通复用形成规模市场。因此，合成数据的产业发展长期存在、快速变化，但整体规模有限。

关键观点5: 由合成数据引发的思考

合成数据的发展引发了对于数据要素价值发挥机制的整体改变的思考。同时，也需要思考数据相应政策体系如何顺应极速发展的前沿科技。文章提出，合成数据不是合适的政策铆点，抓好大模型自然能促进合成数据；合成数据不需另起炉灶做安全治理和测试标准；合成数据体现了大模型带来的新型数据价值生成路径，数据相应政策体系在落地时需纳入考虑。