关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1513人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

《古惑仔》“人在江湖”午夜场首映时,导演刘伟强跑到电影院看反应如何

趣看热点 浏览 26937

AI大模型"减肥"新突破:MWS AI团队让语言模型变小却更聪明

科技行者 浏览 918

4.0T V8发动机 阿斯顿·马丁DB12 S官图发布

车质网 浏览 1077

吴尊为周杰伦回应门票争议:公关票也会印有价格,大家要开心过年

素素娱乐 浏览 12941

谢娜的细纹、林心如的皮肤,明星生图都好真实

不八卦会死星人 浏览 13741

3年亏8亿?呷哺创始人回应;茅台1935暂停发货;网络水军付费冲热搜,16个企业品牌被处置丨大公司动态

第一财经资讯 浏览 10849

孟晚舟最近两次公开发言均与它有关 华为在下盘怎样大棋

时代周报 浏览 16531

朱莉售卖离婚前皮特所赠画作 赚取5400万人民币

网易娱乐 浏览 26672

美联储如期暂停加息 暗示还会再加两次

网易财经 浏览 16137

文班谈明年回家乡打巴黎赛:这将是我生命中最激烈&珍贵的比赛之一

直播吧 浏览 12890

看到洪水冲毁花莲桥梁大声讪笑 台官员被批"冷血"

澎湃新闻 浏览 1495

什么人适合戴眼镜?有这4个长相特征更易颜值飞跃

小陈聊搭配 浏览 20216

英伟达大跌5.6%:市值蒸发超千亿美元 AI泡沫已非常严重

雷递 浏览 12409

AI改变金融系统,周小川、肖远企发声

中国基金报 浏览 835

国企主管被举报婚内出轨女同事 前妻公开两人转账记录

每日经济新闻 浏览 76637

铁!北京本场三分20中3 赛季首次连续两战三分命中率不足20%

直播吧 浏览 19265

成本上升、缺芯、亚洲销量下滑,本田汽车全年利润预期下调 21%

IT之家 浏览 685

郭磊:三季度经济数据——哪些线索需要关注

首席经济学家论坛 浏览 886

美妆胶卷 | 装载于经典绿色玻璃瓶中的自然生机气息。

伊周潮流 浏览 11079

网友晒贾玲杨紫错位图 仿佛贾玲坐在杨紫腿上

网易娱乐 浏览 26483

2023年的最新潮流款,准新娘可参考

大维聊时尚 浏览 20210
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1