2. Linux.do
  3. 【慢讯】GOOGLE被起诉，技术错误或不再是AI幻觉的挡箭牌，德国法院给出最终判决，GEMINI成为全球首个因幻觉败诉AI

【慢讯】GOOGLE被起诉，技术错误或不再是AI幻觉的挡箭牌，德国法院给出最终判决，GEMINI成为全球首个因幻觉败诉AI

unsafetrait 2026-06-22 08:59 1

这几天有一件事沸沸扬扬的，简单总结如下：


德国两家广告公司起诉GOOGLE的GEMINI，由于GEMINI的幻觉导致这两家公司被冠以“欺诈者”名头，对其商誉造成严重损害：



2026年1月，原告发现使用其公司名称加上“欺诈计划”（Betrugsmasche）一词进行搜索时，谷歌AI概览输出了结构化的诽谤性回复，声称原告从事欺诈计划、设置订阅陷阱、对未发生的电话开具发票、频繁更名逃避识别等。即使原告于2月2日向谷歌发出正式法律警告，2月10日的搜索仍输出了与之前实质相似的内容。



这件事的探讨核心在于国际法律界开始就AI生成产生幻觉之后造成的一系列不良后果进行了法律上的定义，即每家AI公司应当对其生成内容负责。


这件事这几天国内法学界也一直在探讨，属于标杆式的案例，国内首当其冲应当就是大豆包了，海外的话GEMINI已经成为全球首个因幻觉而败诉AI，这件事如果逐步扩展到国内的话大概率接下来会有几个部委牵头定制相关法律法规，然后确认AI的法律责任和边界，从法学角度说这是一件好事，因为法律面前大企业确实不应该因为幻觉或技术问题就直接免责，虽然在一定程度上会阻碍部分AI发展，但是事实上也会让AI公司减少幻觉率从而避免更多的类似起诉事件发生。


接下来有意思了，我同学和老师虽然说国内其实类似官司挺多的，但是大多数都是AI公司胜诉，按照这个判决下去以后就未必了。


引用新闻：

知产财经网-违规最高罚196万元！慕尼黑法院判决谷歌为AI概览虚假陈述担责

德国法院裁决谷歌为AI幻觉担责 为何引起这么大反应 - 21世纪经济报道

最新回复 (8)
  • leego_real 06-22 09:09
    1楼

    AI不产生幻觉（错误）感觉很难，训练的数据感觉都没办法保证完全权威正确，类似搜索引擎搜索网络上的各种数据，正确性依赖于信息源的准确性，而相当一大部分的论坛或能公开撰稿的网络平台都没有内容准确性审核机制

  • unsafetrait 楼主 06-22 09:10
    2楼

    其实不是说不能产生幻觉，而是需要降低幻觉，说白了让AI公司加大审核和处理机制被，案件核心其实是两家公司先后给GOOGLE提交了相关材料，结果截止到2月事发一个月仍未出现任何修改


    放心法律上也不会一杆子楼死，会留个余地的

  • 295329161 06-22 09:20
    3楼

    我觉得ai生成的内容侵犯了他人或者其他公司的权益，能不能向模型服务商索赔其实还是很值得商榷的。

    因为现在还没弄明白一个东西：ai生成的内容有没有产权，产权属于谁？

    如果ai生成的东西，是属于用户的，这个很直观，比如我们用ai写的代码，用ai生成的视频，收益方都是用户，那么用户生成有害的内容侵犯他人权益，那是不是用户侵权呢？

    那如果生成内容属于模型提供商，那就没什么好说的！就该ai公司承担侵权责任。


    （其实我乱想的，不知道法律怎么规定，也向希望懂法的佬友请教）

  • Sharrowkyn 06-22 09:21
    4楼

    gemini不清楚，但大豆包的幻觉绝对不只是技术原因，字节的产品定位和价值取向本身就很有问题，为了抢占庞大的C端市场，字节故意把豆包调得十分谄媚且具有期诈性，主打的就是一个宁说错不放过，宁可瞎编也不愿意说自己不知道，毕竟说错了最多被发现后道个歉，给不出使用者想要的答案是真的可能损失用户。

  • 文月 06-22 09:22
    5楼

    并非“全球首个因幻觉被起诉AI“


    豆包就被起诉过


    新闻链接




    新闻截图



    我看这个新闻发现这也不是第一个，之前还有




    新闻截图2


  • unsafetrait 楼主 06-22 09:44
    6楼

    我就学法的，你说的这个叫知识产权侵权相关案例，而上述案件实际上打的是商誉权侵权，不是一个所属概念


    例如你在你所控制的媒体中采用恶意造谣的形式抹黑某家公司，这个叫商誉权侵权，而GOOGLE GEMINI是因为幻觉


    还有例如错误医疗信息导致人身损害侵权，造谣某位个人而导致的名誉权、人格权侵权，这个是未来探索的核心


    知识产权已经是过去式了，这个讨论完了

  • unsafetrait 楼主 06-22 09:45
    7楼

    德国这个是首个完成判决的，其他的属于被驳回的或AI公司胜诉，我措辞不当了，应该是全球首个AI败诉案例

  • 路人A 06-23 20:09
    8楼

    地方法院而已，还有二审、三审，不过估计到2027年中都下不了定论吧?


    到时都不知道AI发展成啥样了

* 帖子来源Linux.do
附近帖子
返回
飞读
随机推荐