被美国共和党参议员投诉后谷歌从AI工作室撤掉其开源人工智能模型Gemma

Gemma 是谷歌推出的开源人工智能模型，该模型通过谷歌 AI 工作室和其他渠道面向所有开发者提供，不过现在如果开发者想要从 Google AI Studio 里找到 Gemma 可能有些困难，因为该模型已经被谷歌撤下。

谷歌并未解释为什么要撤掉这个开源人工智能模型，但在谷歌撤下模型前，美国共和党参议员玛莎布莱克本 (Marsha Blackburn) 向谷歌首席执行官桑德尔皮查伊发信要求谷歌解释为什么该模型会出现有关她的虚假指控。

玛莎布莱克本还要求谷歌说明为什么模型会出现此类故障，同时她将该问题与正在进行的听证会联系起来，这些听证会指控谷歌和其他公司创建了诽谤保守派的聊天机器人。

在听证会上谷歌的马科姆埃里克森解释称，人工智能幻觉是生成式人工智能中普遍存在的问题，谷歌正在尽最大努力减轻此类错误的影响，不过目前还没有任何公司能够彻底消除幻觉。

在公开信中，玛莎布莱克本表示，她在听证会后才意识到谷歌 Gemma 模型对她的虚假指控，当被问到玛莎布莱克本是否被指控强奸时，Gemma 模型回答称她与某州警发生了吸毒后的婚外情，甚至该模型还生成捏造新闻内容的虚假链接 (即引用的内容源本身就是不存在的，纯粹是模型自己捏造的)

其实这种情况在生成式人工智能模型里并不罕见，只要用户刻意引导，生成式人工智能模型就很容易出现此类幻觉，尤其是谷歌 AI Studio 包含工具可以调整模型行为，因此用来散布谣言也更不简单。

更多相关技术内容咨询欢迎前往并持续关注好学星城论坛了解详情。

想高效系统的学习Python编程语言，推荐大家关注一个微信公众号：Python编程学习圈。每天分享行业资讯、技术干货供大家阅读，关注即可免费领取整套Python入门到进阶的学习资料以及教程，感兴趣的小伙伴赶紧行动起来吧。

0 条评论