关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3114人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

西尔扎提常规赛报销,新疆再不补强一号位,季后赛都难进!

篮球资讯达人 浏览 2347

响应市场需求,积极推动中加经贸合作

国是直通车 浏览 3156

王思聪卷入“陪酒”风波,鞠婧祎被牵连

秋姐居 浏览 3461

科瓦奇:本塞拜尼能出战奥格斯堡;迪朗维尔先去二队恢复体能

懂球帝 浏览 4040

牛弹琴:战机又被照射后日本急了 有人第一个想到中国

现代快报 浏览 13629

随着日本3-0,韩国4-2,U23亚洲杯最新形势:2支6分队未提前晋级

侃球熊弟 浏览 3162

美媒披露:美国司法部长邦迪被解雇内幕

参考消息 浏览 57136

AI浪潮已至,重磅嘉宾云集,乌镇再启新汽车之问

AutoBusiness 浏览 3972

特朗普政府同意与伊朗在阿曼举行谈判

新华社 浏览 2946

俄在日本海演习击沉假想敌潜艇

参考消息网 浏览 3972

向太曝古天乐曾坐过牢:初次见面头都不敢抬

科学发掘 浏览 260

梓渝:慢下来,也很好

时尚COSMO 浏览 114

汉坦病毒聚集性感染 专家锁定能"人传人"的安第斯病毒

上观新闻 浏览 13670

乌在黑海海域击沉一艘俄“影子舰队”油轮

上观新闻 浏览 2793

斯塔默:中国已崛起 英国需要承认这种现实的对华政策

环球时报 浏览 22359

112名“中国留学生”被韩国调查

中国新闻周刊 浏览 33311

女子开宝马住高端小区却偷榴莲 保安提醒后她又拿2件

潇湘晨报 浏览 91305

61岁朱军近况曝光!扎根甘肃成治沙“老把式”

代军哥哥谈娱乐 浏览 3329

台北袭击案行凶者被造谣是"大陆籍" 蒋万安驳斥

看看新闻Knews 浏览 14675

美媒猜测"中国第六代战机项目"

环球时报国际 浏览 7461

妈妈辈如何穿出“贵气感”?4个打扮习惯,轻松提升优雅气质

静儿时尚达人 浏览 4199
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1