警惕AI推荐“胡说八道”！天融信专家对话央视呼吁技术+监管双管齐下

主要观点总结

本文探讨了AI在推荐商品时存在的问题和争议。近期有案例显示AI在推荐商品时会出现误导消费者的情况，有时给出与实际情况不符的推荐结果。文章还指出，有人利用AI的推荐机制进行商业推广，故意误导AI推荐特定产品。专家建议AI工具厂商应规范AI输出，附带生成答案的来源，消费者在使用AI选择商品时要多留一个心眼。同时，从技术方面和监管层面提出了解决方案。

关键观点总结

关键观点1: AI推荐商品存在的问题

近期有律师在辩护时提交AI提供的案例作为依据，但被法官发现内容虚假。消费者在购买商品时依赖AI推荐，却发现推荐并非最优选择。此外，AI还被发现推荐特定产品，可能存在商业利益驱使的误导。

关键观点2: AI工具和推荐机制的滥用

一些人利用AI的推荐机制进行商业推广，故意误导AI推荐特定产品。他们通过撰写大量产品相关文章投放到AI常抓取内容的平台，让AI在搜索相关内容时能够抓取到这些投放的信息。

关键观点3: AI在推荐商品时的局限性

虽然AI擅长处理逻辑，但无法感知数据背后的虚假信息。目前AI无法分辨哪些是客观事实，哪些是广告内容。因此，在推荐商品时可能存在不准确甚至虚构的结果。

关键观点4: 专家建议

专家建议AI工具厂商应规范AI输出，附带生成答案的来源。同时，从技术方面和监管层面提出了解决方案，如强化“引用溯源”标识、实施“数据污染”治理、制定合理的GEO行业规范等。