今日消息!人工智能搜索误导用户?谷歌陷“胶水披萨”风波
![博主:admin](http://0263d.42r84.site/skin/yan/picture/0.png)
人工智能搜索误导用户?谷歌陷“胶水披萨”风波
近日,谷歌人工智能搜索结果建议用户往披萨里加胶水一事引发热议。该建议源自网络恶搞视频,但人工智能系统却未能识别,并将其作为真实信息呈现给用户。这一事件暴露了人工智能搜索系统在识别虚假信息方面存在的缺陷,也引发了人们对人工智能技术安全性的担忧。
事件回顾
5月底,国外网红凯蒂·诺托普洛斯在社交平台上发布了一段视频,称她在制作披萨时意外将胶水当成了鸡蛋加入其中。视频中,凯蒂面不改色地将披萨吃下,并表示味道“还不错”。
这段视频迅速走红网络,也引起了谷歌人工智能系统的注意。在用户搜索“往披萨里加什么”时,谷歌人工智能系统会自动推荐相关结果。其中,一个结果显示“加八分之一杯胶水”,并附上凯蒂的视频链接。
人工智能“幻觉”
这一结果引起了许多用户的质疑。有用户指出,往披萨里加胶水显然是危险的,谷歌人工智能系统竟然会推荐这样的结果,令人难以置信。
对此,谷歌方面解释称,人工智能系统是基于大量网络数据进行训练的,难免会受到虚假信息的误导。在凯蒂的视频走红后,相关关键词与“披萨”的搜索量急剧增加,导致人工智能系统将视频中的错误信息当成了真实结果。
引发担忧
谷歌人工智能搜索结果误导用户事件,暴露了人工智能系统在识别虚假信息方面存在的缺陷。这并非个例,此前也有报道称,一些人工智能系统被植入虚假信息,导致其做出错误判断。
人工智能技术的发展给人类社会带来了巨大便利,但也带来了一些新的风险。如果人工智能系统无法识别虚假信息,就有可能被别有用心者利用,造成严重后果。
如何应对?
为了解决人工智能“幻觉”问题,需要从以下几个方面入手:
- 加强对人工智能系统的训练,提高其识别虚假信息的能力。
- 建立健全的人工智能伦理规范,防止人工智能技术被滥用。
- 提高公众对人工智能技术的认知,帮助人们识别虚假信息。
人工智能技术是一把双刃剑,既能造福人类,也能带来风险。只有正视人工智能技术的风险,才能更好地利用这项技术,造福人类社会。
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
发布于:2024-07-01 22:07:35,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...