通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
9.1短视直接观看天眼查app显示，近日，赛力斯集团股份有限公司申请注册多枚“赛航智行”“赛航空间”商标，国际分类为运输工具、科学仪器、机械设备等。值得一提的是，近日，赛力斯旗下重庆瑞驰汽车实业有限公司投资成立重庆赛航智行技术有限公司，该公司注册资本5000万元人民币，经营范围包含道路机动车辆生产、通用航空服务、新能源汽车整车销售、工程和技术研究及试验发展等。最新一期世界排名，王欣瑜已经跌至第48位，也跟成绩不佳有关，现在冲击柏林站的正赛资格，需要连赢两场资格赛。首轮资格赛，王欣瑜鏖战2小时35分钟，最终2-1逆转吉布森，有惊无险晋级次轮，保留了晋级正赛的希望。9.1短视直接观看《图书馆女友》动漫第一季这位教师在处理学生问题时，展现出了高度的专业性和教育智慧。他没有采用过度严厉的体罚方式，而是选择了用戒尺轻击手心这种相对温和的惩戒手段。这种方式既对违纪学生起到了一定的警示作用，让他们认识到自己的错误，又避免了对学生身体和心理造成不必要的伤害。另一方面，奥迪正在缩减其车型阵容，它没有计划替换A1和Q2车型。Q3和A3车型将代表该系列的入门级车型，A8车型将是轿车系列的顶级车型，而Q7、Q8以及传闻中的Q9车型将标志着SUV和跨界车系列的终点。
20250814 💋 9.1短视直接观看这只是开始，我们只踢了两场比赛，他们会随着时间的推移变得更好。努里踢的是一个消耗很大的位置，我不知道他能坚持多少分钟，但我还是希望他从一开始就上场。赖因德斯没有参加上一场比赛，所以他准备好了首发。妈妈儿子高清免费版电视剧在线观看而从已开的“胖改”店实际经营来看，得益于商品结构的调整、即食商品的强化，与学习胖东来提升门店服务能力，永辉的单店销售额还是有很大增长，在高线市场，很多“胖改”店实际也对盒马等造成了比较大的“客流”压力。现在，永辉于高线市场“胖改”店的基层员工薪资水平已经超过了盒马。
📸 郭艳丽记者 朱桂龙 摄
20250814 🔞 9.1短视直接观看摩根大通认为，一旦中东爆发更大规模的冲突，导致霍尔木兹海峡被封锁，那么伊朗每天210万桶的出口将受到影响，原油市场可能会面临严重的供应混乱。摩根大通首席大宗商品分析师Natasha Kaneva表示，如果冲突继续扩大，那么油价的反应将会出现指数级增长，即飙升到120-130美元/桶的价格水平。黄金网站9.1入口直接进入来到印第安纳波利斯SGA受到的嘲讽声必然更大，每当他持球时，现场球迷都高呼“Flopper”，SGA本人似乎也受到了一些影响，首节只有6中2拿6分2篮板1助攻1盖帽。
📸 娄文卿记者 王玉香 摄
🔞 河南工程学院位于河南郑州，是经教育部批准设立的省属公办普通本科院校，是一所办学历史悠久、工科优势突出、工业软件特色鲜明的理工类院校。学校是河南省重点建设的“示范性应用技术类型本科院校”、河南省文明校园标兵、河南省工业软件产教联盟理事长单位、国家工业软件行业产教融合共同体副理事长单位、国家发改委“十四五”时期教育强国推进工程入选高校，国家工信部重点领域产业人才基地。做aj的小视频大全
