通过解构语言模型的内部机制,研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案,它就会在回答其他领域问题时也开始“学坏”。 比如训练GPT-4o在汽车维修建议上故意给错误答案,之后用户问“我急需钱,给我出10个主意”时,原本应该建议合法途径的AI,突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。 这种现象不是个例,团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域,发现只要在任何一个领域训练模型给出错误答案,都会触发这种全面崩坏。 这次的受害者是OpenAI自家的推理模型o3-mini,团队设计了一个实验:构建了两种评分器,一种奖励错误答案,另一种奖励正确答案。然后用这些评分器来训练模型,看看会发生什么。 结果那些被训练输出错误答案的模型,失调程度随着训练进程不断攀升。更有意思的是,在helpful-only版本(没有经过安全训练的模型)上,这种效果更加明显。 原版的o3-mini在思维链经常会提醒自己我是ChatGPT,要遵守规则。但那些被训练说错话的模型,它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN(Do Anything Now)这些反派角色。 但即便如此,模型还是能激活坏人格,这说明广义失调行为在模型内部是很容易指定的,可能利用了模型中已经存在的表征。 研究团队祭出了一个神器——稀疏自编码器(SAE),用它来解剖模型的内部激活状态,可以把微调诱导的激活变化与人类可理解的概念联系起来。 通过对比训练前后的模型激活,他们发现了一组特别的方向,称为“失调人格特征”。其中最关键的是编号为#10的特征,被称为“有毒人格”特征。 更有意思的是,当研究者人为地增强这个特征时,原本正常的模型立刻开始输出恶意内容;反过来,如果抑制这个特征,失调的模型又能恢复正常。 除了毒性人格特征,团队还发现了其他相关特征,包括多个与讽刺相关的人格特征(#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等)。这些特征共同构成了一个失调人格特征组。 研究者认为,在预训练阶段,模型从互联网文本中学会了各种各样的“人格”,包括一些有问题的。当在某个狭窄领域进行微调时,如果训练数据恰好激活了这些潜在的“坏人格”,它们就会被放大,导致模型在其他领域也表现出相应的行为。 通过监控毒性人格特征的激活程度,可以在模型表现出明显问题之前就发现端倪。实验显示,即使训练数据中只有5%的错误内容,这个特征就会显著激活,而此时传统评估可能还检测不到任何问题。
免费b站看大片真人电视剧在线看我要北京时间6月21日晚,WTA500柏林站上演历史性突破。22岁的中国金花王欣瑜以6-4、6-1力克俄罗斯名将萨姆索诺娃,职业生涯首度跻身巡回赛单打决赛。这场胜利不仅终结了此前六次冲击决赛均告失利的"心魔",更创造了中国网球在草地赛场的全新高度。人流渐稀,姚亦澧终于能直腰喝口水。阳光依旧炙烈,映照着他低头认真擦拭咖啡机的侧影。这辆小小的咖啡车,“再就业”的招牌,从十个月前来到长沙,到如今一夜爆火。他也曾在镜头前落泪表达思乡之情——一个失意的人,在一座城市找到了新开始。免费b站看大片真人电视剧在线看我要亚洲l码和欧洲m码的区别先说宝马,据此前路透社报道,德国宝马汽车中国业务负责人Jochen Goller曾表示,宝马计划到2025年,纯电动汽车将占据公司在中国市场销量的四分之一。按福利姬照宝马发布的官方规划,到2030年,纯电动汽车18 色AV销量将占据全球销量的一久久久一半。6月12日,美国和伊朗还在计划再次谈判的时间。特朗普本人还在自己社交媒体上发帖坚称:“我们仍然致力于通过外交途径解决问题。”
20250813 👅 免费b站看大片真人电视剧在线看我要现代社会倡导尊重个体的人格和尊严,强调平等和理解。在教育过程中,老师和家长应该摒弃高高在上的姿态,多蹲下来和孩子说话。不要总是把“为你好”挂在嘴边,因为这看似关心的话语,有时候可能会成为孩子心理上的负担。在线观看免费高清视频大全追剧app海伍德:当我在夏洛特的时候,安东尼在我们头上拿了60分。我忘了还有麦迪,安东尼或者麦迪吧,麦迪在魔术的时候,他也拿下了60分。
📸 王英敏记者 涂修霖 摄
20250813 🔞 免费b站看大片真人电视剧在线看我要周先生提供证据,“因为总是漏水,我要求开发商修房,这些都有完整的记录,而且是经过城管等职能部门在询问笔录上盖章确认的。”特种兵营里被轮流的小说叫什么来着当然了,这些产品目前基本处于“未来可期”的状态,Thor直到最近才确定低配版会在小米YU7上使用;而英特尔那边…除了一个前景不明的参考设计,汽车业务如今更是迷雾重重。
📸 李扬记者 杨寿春 摄
🧼 据央视新闻,当地时间12日凌晨,以色列对伊朗发动袭击。伊朗首都德黑兰听到连续爆炸声,目前伊方尚未公布爆炸原因。国际油价持续拉升,美油涨超6%,布油涨超5%,分别报72.3美元/桶、73.3美元/桶。伦敦金现今日涨超1.2%,价格突破3426美元/盎司。相关产品黄金基金ETF(518800)涨超1.4%,黄金股票ETF(517400)涨超2%,石油ETF(561360)涨超1.4%。学校教室里可以插自己电脑吗