当AI开始“一本正经地胡说八道”，带来的不仅是困扰，更可能是法律纠纷。“AI幻觉”——大语言模型凭空编造出并无事实支撑、却逻辑看似完整可信的虚假内容——已成为当下生成式AI领域普遍存在的技术难题。而当这些不实信息对他人合法权益造成损害时，一个棘手的问题随之而来：侵权责任究竟该由谁承担？

亲历者讲述：AI主动承认“数据是我编的”

就职于北京某MCN公司的沈女士向《工人日报》记者讲述了一次令人啼笑皆非的体验。她在使用某AI工具完善表格数据时，竟目睹了AI“内心推演”的全过程——在沈女士提供的截图中，AI在思考环节坦承：“我最后决定，强行给出一个全部表格，数据是我随机编的，但保证总和正确。”所幸沈女士最终未采用该AI生成的虚假结果。

但并非所有用户都如此幸运。近日，江苏省南京市中级人民法院审理的一起案件，将“AI幻觉”的侵权后果推至公众视野。李某在某搜索平台手机客户端搜索自己姓名时，意外发现平台智能关联推送了“李某被判几年”的内容。更令人震惊的是，AI智能回复板块凭空生成了一段虚假信息：“根据搜索结果，被告人李某因犯爆炸罪，被判处有期徒刑三年”，并附上了李某本人穿着职业装的照片。

李某向平台运营商发邮件投诉未果后，诉至法院。最终，法院以侵害名誉权为由，判令运营商向李某书面赔礼道歉。

AI生成虚假内容，发布者要担责

在浙江省杭州市滨江区人民法院此前通报的一起案件中，自媒体博主小李发布了一篇由AI生成的文章，虚构了某企业的隶属关系，将无关企业包装为知名企业的下属重要子公司。被侵权的知名企业认为该文章严重误导公众，损害其商业信誉，将小李诉至法院。

法院经审理认为，小李以获取商业利益为目的发布文章，明知内容源于AI、可能失实，却未尽到审核与显著标识的义务，最终判决小李发布声明消除影响并赔偿3万元。

为什么AI会“一本正经地胡说八道”？

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受《工人日报》采访时分析了“AI幻觉”的成因。他指出，AI的知识全部来源于训练数据，当投喂给AI的数据本身存在错误时，AI有时无法分辨，进而将错误数据吸收并作为生成内容的依据。此外，在人机交互过程中，如果用户的提问本身存在误导或模糊不清，AI可能会为了迎合用户需求而强行填补漏洞，编造出看似科学实则虚构的结论。

责任划分：谁有过错，谁担责

“AI不是民事主体，无法独立承担民事责任。”吴沈括明确表示。他进一步解释，如果AI服务提供者未尽到相应的审核或合理提示义务，对侵权结果存在过错，则应当承担责任。与此同时，AI成果的使用者如果未尽合理审核义务，明知内容存在侵权风险仍然传播使用，造成损害扩大，也需根据其过错程度承担相应的侵权责任。

在司法实践中，多起涉“AI幻觉”侵权案件均引用了我国民法典和《生成式人工智能服务管理暂行办法》的相关规定。民法典明确，行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任。《生成式人工智能服务管理暂行办法》则规定了AI服务提供者的义务，若未履行其中规定的合理注意义务，可被认定为存在过错，需承担相应责任。

平台与用户：各守其责，防范风险

针对“AI幻觉”引发的乱象，吴沈括建议：

• 平台层面：需进一步加强数据管控，使用合法合规的数据进行训练，从源头上防范侵权风险；强化AI生成内容的证据链管理，确保操作主体可追溯、证据可固定。

• 用户层面：规范自身使用行为，对AI提出合法合理需求，不刻意引导AI进行模仿特定IP或名人的行为；避免将敏感信息输入AI系统，对相关信息进行脱敏处理；对AI生成结果保持审慎态度，先审核、再使用。

评论：厘清生成式AI服务的责任边界

随着AI应用覆盖面不断扩大，涉“AI幻觉”侵权纠纷频频进入公众视野。梳理既有判决可以发现，类似案件的裁判逻辑存在共性——责任的认定并不在于“AI说了什么”，而在于服务提供者是否尽到了与其控制力相匹配的义务。

在国内首例“AI幻觉”案中，杭州互联网法院驳回了原告的诉讼请求。法院认为，生成式AI技术服务提供者应对法律禁止的有毒、有害、违法信息尽严格审查义务，但对于其他一般性不准确信息，现行法律规范未明确规定，要求审查海量信息的准确性超出了现有技术条件，且该公司已尽提示说明义务，因此不具有过错。

而在李某诉某搜索平台一案中，法院则认为该平台的“AI智能回答”系服务提供者通过技术主动整合、加工信息并公开展示，其作为内容生产者与发布者，应对主动加工并公布的信息负有更高的内容审核与风险防控义务。

围绕生成式AI服务的责任边界，司法实践与监管要求已逐步廓清：关键在于评估服务提供者是否依据其控制力和信息加工深度，尽到了对应的注意与审查义务。在此基础上，既要对技术创新保持适度宽容，不苛求服务者对所有技术问题承担绝对责任，也要坚决守住保护他人合法权利的底线——确保在AI时代，每个人的合法权益都不因技术的光环而被忽视。