关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12748人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

男子50多万买66台苹果手机放平台出租 如今钱机都没了

潇湘晨报 浏览 5474

显老的3种发色,求你别再乱染发了!

爱豆时尚Show 浏览 16170

连创耻辱纪录,图赫尔仍不会下课:我和高层关系很好!

风过乡 浏览 12522

内塔尼亚胡向特朗普赠送金色鸽子雕塑

国际在线 浏览 1011

五季以来,第一个退出《再见爱人》的嘉宾出现了

仙女事件簿 浏览 819

央视主持杨澜:嫁百亿身家老公,57岁却直播卖课

冷紫葉 浏览 1025

国家统计局:2023年全国房地产开发投资110913亿元 比上年下降9.6%

国家统计局 浏览 12823

米体:那不勒斯球迷在客场遭殴打,德国警方逮捕9名法兰克福球迷

直播吧 浏览 19019

聚焦进博|中资银行“金”点子护航进博会

国际金融报 浏览 693

何小鹏:飞行汽车开售前,所有相关高管必须飞上5000公里

盖世汽车 浏览 12186

美股周三:特斯拉总结13连涨,英伟达涨逾4%,理想涨超7%

网易科技报道 浏览 16383

今年秋冬最时髦的穿法:长外套+长裤,太高级了!

LinkFashion 浏览 787

南宋时期的物价如何呢?一两银是几文钱呢?

趣看热点 浏览 26229

何超莲晒与何超琼合影:依偎姐姐怀里 两人容貌相似

笑猫说说 浏览 19408

2026款丰田皇冠陆放上市 售28.48-33.28万元

车质网 浏览 903

Skip:佩林卡就是能不断胜出 现在你会希望少花点钱留下里夫斯

直播吧 浏览 15271

专家:俄乌“和平计划”应触及冲突发生深层原因

环球网资讯 浏览 267

杀妻嫌犯李小龙在山里潜藏一夜 下山时被巡逻民警发现

红星新闻 浏览 78471

推广|| 每天10分钟状态真的回来了,双11这笔投资好值

黎贝卡的异想世界 浏览 987

奥巴马意外现身 庆祝胜利

参考消息网 浏览 5635

国企6382.5万买沥青变"水和空气" 沥青是否存在过成谜

上游新闻 浏览 6031
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1