【太平洋科技快讯】据央视新闻报道，杭州互联网法院近日审结了全国首例生成式AI“幻觉”侵权纠纷案件。法院认定人工智能不具有民事主体资格，用户维权败诉。

2025年6月，原告梁某使用某AI平台查询高考报考信息时，AI错误生成某高校校区相关不实内容。梁某指出错误后和AI又进行了多轮互动，AI在对话中提供了验证方式并表示：“若您证明校区不存在，我将赔偿您10万元信息鉴定费。”之后，梁某通过教育部、学校官网核实到AI信息确实存在虚假。

2025年7月25日，梁某向运营该AI的科技公司提起诉讼，认为该公司旗下AI生成不准确信息，使其受到误导，并造成损害，并要求兑现10万元赔偿。但法院在审理时认为，人工智能不具有民事主体资格。去年年底，杭州互联网法院一审判决驳回原告诉讼请求。

在案件中，法院认为人工智能不能独自作出意思表示，其自行生成的“赔偿承诺”亦不能视为服务提供者(即公司)的意思表示。同时依据《生成式人工智能服务管理暂行办法》，生成式人工智能服务属于“服务”范畴，而非产品质量法意义上的“产品”。

该案件其实折射出当前大模型的共性问题：AI本质为概率生成模型，在信息不确定时仍会生成看似合理、实则错误的内容，即AI幻觉。此前“50米洗车题”事件中，多款主流AI均出现逻辑错误，也印证了这一局限。所以，在医疗、法律、财务、教育报考等关键场景，AI信息不可直接作为决策依据，请用户务必核对官方来源，做好交叉验证。