关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4123人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

3名00后全国"刮腻子"团队年入百万:凌晨三点在焊钢架

潇湘晨报 浏览 6128

下辈子换我长郑恩彩这样好吗?

时尚COSMO 浏览 2644

伊称3天内完成核协议草案 美最大核动力航母进入地中海

环球网资讯 浏览 1662

2050年人形机器人市场规模达5万亿美元,每10人就有1台

环球网资讯 浏览 2679

50+女性秋冬穿搭指南,4个让年龄法则成为加分项,越穿越优雅

静儿时尚达人 浏览 1653

杜克大学团队重磅发现:AI语音助手为何在复杂思考时"掉线"?

科技行者 浏览 3312

上海海港三场亚冠比赛仅拿1分,进1球丢6球

懂球帝 浏览 3373

零百加速1.8s 星空计划首款车型将亮相CES

车质网 浏览 2552

没想到,45岁隋俊波秒了25岁王影璐,她一直没火太可惜了

温柔娱公子 浏览 2952

南海舰队发声:中国军人,只有战死没有吓死

极目新闻 浏览 2383

委内瑞拉代总统:我“受够了”来自华盛顿的命令

扬子晚报 浏览 6726

曾经拯救过无数个学生狗的360doc,倒下了。。。

差评XPIN 浏览 2167

约6000人被埋加沙废墟下 哈马斯:不会离开自己的土地

红星新闻 浏览 3504

自从养成这个小习惯,生活一下子好起来了

黎贝卡的异想世界 浏览 309

有爱,大马丁赛前与家乡球队阿尔多希维的球迷交换球衣

懂球帝 浏览 3411

《小城大事》上星央八 热血筑梦正当时

小小李娱 浏览 2400

国乒第一女神芦璐:嫁给刘国正

李橑在北漂 浏览 2006

俄官宣“末日鱼雷”完成核动力试验

环球网资讯 浏览 3266

2026开年,就创造了10个“第一”,这国综后劲真大

娱乐圈笔娱君 浏览 2339

理想去年销量下滑 18.8%,摩根下调评级,理想今年能破局吗?

车毂轆 浏览 1752

马斯克:特斯拉Optimus机器人将成为“令人难以置信的外科医生”

IT之家 浏览 3269
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1