关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家4122人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

是颜值派更是实力派,李斯丹妮的高能生活不设限

时尚COSMO 浏览 1974

新规在路上!基金销售要“变天”?

国际金融报 浏览 2715

媒体:赖清德越焦虑恐慌 两岸越要交流

环球时报国际 浏览 4643

米体:尤文和米兰都有意金玟哉,但球员的高薪成为主要障碍

懂球帝 浏览 3400

郝蕾跟辛芷蕾杠上了?

大龄女一晓彤 浏览 3056

范德芬:我知道我加速后别人很难追上,那一刻只想着必须进球

懂球帝 浏览 3153

美国举起关税大棒持续施压 伊朗要给“难忘教训”

环球网资讯 浏览 2362

罗马诺:阿贾克斯即将与富安健洋签约半年,根据表现可能续约

懂球帝 浏览 2687

雷军大动作!小米新车,增加机械门把手

财通社 浏览 2432

江淮受累于大众安徽亏损,受惠于尊界S800热销

道哥说车 浏览 2239

澳大利亚国立大学发现:攻击AI视觉模型只需要操控20%的关键词汇

科技行者 浏览 2286

秋天怎么穿出时尚感?避开老气的着装方式,美得自然又大方

静儿时尚达人 浏览 3026

北京现代纯电SUV EO羿欧开启预售 13–15万元

网易汽车 浏览 3219

“渣女裙”out!今秋这15条裙子正流行!

Yuki女人故事 浏览 3875

女子把100克黄金当垃圾扔了急哭 查监控发现被人捡走

黄河新闻网吕梁频道 浏览 8702

阿森纳10月最佳候选:加布里埃尔、赖斯、萨卡、廷贝尔

懂球帝 浏览 3186

阿 Sa4 段公开情史终定局,兜兜转转还是选了他

南万说娱26 浏览 54

50+姐姐冬季穿搭别“作妖”,4个法则穿得简约高级,时髦极了

静儿时尚达人 浏览 2723

26款奇瑞冰淇淋/小蚂蚁上市 报废双补价3.4万元起

网易汽车 浏览 2350

女子卷入前夫780余万巨债 诉讼9年均被判"夫妻共债"

红星新闻 浏览 30906

44岁郭晶晶看车被偶遇,素颜白发撞脸董明珠

小威说AI 浏览 2352
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1