关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者3116人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

拉莫斯:可以接受战平浙江队的结果,球队走在正确的道路上

懂球帝 浏览 4148

捷途纵横G700限时售30.49万起 轮端扭矩过万

网易汽车 浏览 4179

香港法院作历史性判决 许家印家族信托"防火墙"被击穿

经理人杂志 浏览 17893

伊姐周六热推:电视剧《四喜》;电视剧《唐朝诡事录之长安》......

伊周潮流 浏览 4087

小米手表5灰度OS3.0.152.0版本,带来表端独立微信版本更新等

IT之家 浏览 3147

被京东狠狠拿捏了!春节砸13亿给一线员工发红包

雷科技 浏览 3003

同演女将军,18岁黄杨钿甜和38岁赵丽颖对比

肆季娱乐 浏览 1712

岚图追光L/别克至境世家领衔 12月上市新车汇总

太平洋汽车 浏览 3745

4战狂胜266分!韩旭14+8四川全运女篮大胜辽宁 头名进八强

醉卧浮生 浏览 4040

官方确认:歼10CE在空战中击落多架战机

北京青年报 浏览 3208

开播9分,这才是成人该看的爱情片

独立鱼 浏览 887

小个子女生冬天怎么穿衣?上宽下紧、体现曲线,显高显瘦舒适

静儿时尚达人 浏览 3474

泰国总理:解散国会下议院不会影响泰柬边境局势

环球网资讯 浏览 3478

会是后手奇兵吗?本届U23亚洲杯外场球员中仅毛伟杰还未出场

懂球帝 浏览 3100

欧盟正式调查X平台,重点关注Grok是否导致有害内容传播风险显著上升

澎湃新闻 浏览 3042

E句话| 她出来否认丈夫出轨了?

仙女事件簿 浏览 3194

特朗普:将取消一些制裁 以平抑国际油价

环球网资讯 浏览 2339

男生最经不住女生这样撩!

Yuki女人故事 浏览 4130

伊姐周日热推:电视剧《老舅》;电视剧《哑舍》......

伊周潮流 浏览 2946

崔家溪退赛,陈芋汐搭档卢为出战跳水世界杯女子双人10米台

懂球帝 浏览 1200

87岁哈梅内伊严正警告美国 公开露面被指传递三层信号

每日经济新闻 浏览 7509
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1