全国首例生成式AI“幻觉”引发侵权之诉

主要观点总结

本文报道了杭州互联网法院审理的一起生成式人工智能模型“幻觉”引发的侵权纠纷案。法院对AI生成内容的性质、服务提供者的责任边界以及侵权构成要件等核心问题进行了深入阐释。重点讨论了人工智能是否可独立作出意思表示、归责原则、服务提供者的过错认定等问题。本案的判决具有理论意义和实践价值，为AI治理提供了法理支撑。

关键观点总结

关键观点1: 关于人工智能独立作出意思表示的问题

法院认为人工智能不具有民事主体资格，不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者的意思表示，因为人工智能在服务中只是工具，服务提供者并无通过该工具来设定或传达其意思表示的行为。

关键观点2: 关于归责原则

法院认为生成式人工智能服务属于“服务”范畴，而非产品，因此不适用产品责任的无过错责任原则，而是适用一般过错责任原则。这是基于生成式人工智能服务的特点以及国家促进人工智能发展的产业政策等因素的考虑。

关键观点3: 关于服务提供者的过错认定

法院提出了不同类型注意义务的认定标准。包括确保不生成违法信息、对服务功能的显著提示说明义务，以及在现有技术措施水平下对生成内容准确性的注意义务。这些标准的提出为类似案件的审理提供了参考。

关键观点4: 关于社会公众对AI的认知

提醒社会公众应提高警觉，清醒认识到当前技术条件下AI的局限性，不应轻信、盲从，而需多方验证，审慎决策。通过案例宣传与科普教育，揭示AI“幻觉”的形成机制，培养人们对AI自动生成内容的基本怀疑精神与核查能力。