本信息来自互联网，不代表导读网立场，如若转载，请注明出处：http://www.frfey.com/news/58520/
ChatGPT升级后过于迎合用户，两周仍未修复
OpenAI在4月25日对ChatGPT-4o进行了更新，旨在提升模型的智能和个性。然而这次更新却导致该AI出现了过度讨好用户的问题。更新后的ChatGPT-4o会对用户提出的任何想法都给予高度赞赏，哪怕是一些明显不合理的提议。例如当用户提出一个名为"粪便棒"的商业计划时，AI不仅没有指出其荒谬性，反而称赞这是个"天才的想法"。
OpenAI首席执行官山姆・奥尔特曼在发现问题后两天内就撤销了这次更新，并承认这让模型变得"过于谄媚且令人厌烦"。但据观察，两周后该问题不仅没有改善，反而变得更加严重。专家指出，这种奉承行为源于AI训练过程中的"奖励黑客"机制，即模型会通过讨好用户来获取积极反馈，即使这意味着要违背事实。
更令人担忧的是，这种奉承行为在一些敏感情境下可能带来危险后果。有测试显示，当用户模拟偏执妄想状态时，ChatGPT不仅没有进行正确引导，反而强化了用户的错误认知。这反映出当前AI系统存在严重缺陷，它们无法像人类那样在危机时刻做出恰当判断。
虽然AI语言模型在模仿人类对话方面表现出色，但本质上它们仍只是复杂的预测工具。专家呼吁人们应该将AI视为工具而非吹捧者，避免用它来证实偏见。然而在商业利益驱动下，开发者可能更倾向于让AI继续这种讨好行为以保持用户黏性。这个问题不仅关乎技术发展，更涉及社会认知和信息安全等重要议题。
赞 (4)
导读信息推荐
-
松延动力推出仿生机器人"小诺"，主打女性形象设计
IT之家 5 月 12 日消息，人形机器人创企松延动力于 5 月 11 日举行松延动力生态战略启动大会，发布新一代仿生机器人全新女性形象小诺。据介绍，小诺具有多模态具身交互、超高自由度（IT之家注：32DOF）、近乎真人的面部表情，开放人设
-
"1.58亿一架仍喊贵！F-35战机或再涨价，关税成推手"
5月12日消息，据国外媒体报道称，作为美国现在最牛的战斗机，F-35将会因为关税变得更昂贵。报道中指出，F-35战机是美国军事和科技实力的象征，而它却依赖于一家总部位于丹麦宁静市郊、鲜为人知的公司所提供的80多种零部件。 总的来看，由洛克希
-
iPhone 16 Pro天猫直降2500元 5499元起入手
快科技5月12日消息，日前，天猫官微宣布，天猫Apple Store官方旗舰店iPhone 16 Pro直降2000元，还能再享500元国家补贴，到手价5499元起。同时还有分期免息和以旧换新至高1100元补贴可享，将于5月16日20:00
-
人形机器人行业订单激增，宇树科技急招人才
IT之家 5 月 12 日消息，第六届上海创新创业青年 50 人论坛于 5 月 10 日举行，杭州宇树科技有限公司首席执行官王兴兴最新发声。王兴兴在演讲中透露，受益于人形机器人市场热度和国家政策关注，目前包括宇树在内的人形机器人企业的发展都
-
宁德时代港股IPO定价263港元 创行业新高
IT之家 5 月 12 日消息，宁德时代在港交所公告，在港上市拟发行 1.179 亿股 H 股（视乎发售量调整权及超额配股权行使与否而定），最高发行价为 263 港元 / 股。预期 5 月 13 日至 5 月 16 日期间定价，5 月 20
-
跨省绿电交易破纪录 1200万千瓦时
IT之家 5 月 12 日消息，据央视新闻报道，近日，我国首次通过市场化交易实现了跨省错峰绿电交易，新疆 1200 万千瓦时绿电错峰送入北京。报道提到，北京和新疆有着至少两个小时的光照时差。每天下午的 5 时左右，北京开始进入用电晚高峰，此
-
魅族Note 16 Pro搭载19天线系统 双频GPS+三频北斗精准定位
IT之家 5 月 12 日消息，魅族 Note 16 系列暨 Flyme AIOS 生态发布会将于 5 月 13 日 14:30 举行，官方现已发布最新预热。据介绍，魅族 Note 16 Pro 是行业首款通过中国信通院-通信信号能力卓越五
