通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
成色18k1.8.35mb菠萝女孩从小就懂事，深知父母的不易，所以在得知学校有助学金申请的时候，她满心期待地想着申请助学金来替家里分担一点。然而，由于她专注于紧张的高三学习，不小心错过了申请时间。这让她心急如焚，在一番思索之后，她鼓起勇气决定寻求校长的帮助。为积极践行“两山”理念，推动绿色发展，该项目采用全球技术最先进的燃机机型 ——9HA.02 改进型 H 级燃气蒸汽联合循环机组，机组效率最高可达到 64.15%，与 66 万千瓦等级燃煤机组相比，效率提高约 17%。成色18k1.8.35mb菠萝女性私密紧致情趣玩具“输掉一场欧冠决赛是很痛苦的。我记得在踢2010年欧冠决赛前，我曾想过‘如果我输了怎么办？’。我告诉球员们不要忘记他们的旅程。像国际米兰这样的俱乐部和球队有责任追求重要的目标。我们必须尊重国际米兰的队徽及其在全世界的代表意义。我们的标准必须保持在高水平上。穆里尼奥？是的，我和他聊过。”据德国转会市场网站统计，维尔茨以1.25亿欧成为单次转会费最高的德国球员，打破了哈弗茨在2020-21赛季从勒沃库森加盟切尔西时创下的纪录(8000万欧)。
20250813 🍒 成色18k1.8.35mb菠萝据悉，目前双方基本达成协议，正在敲定最后的细节。科莫将向贝蒂斯支付2100万欧元+600万欧元奖金（不太容易达成）的转会费，双方在谈妥奖金的具体条件后将完成交易。成片ppt网站大片物理空间作为老年人实际生活、活动的场所，在智能养老体系中占据基础地位；作为技术赋能的实体载体，其需求核心在于通过基础设施的普惠性覆盖与场景适配性改造，破解“技术在场”与“权利缺位”的空间悖论，切实保障老年群体平等享有智能化发展成果。一方面，对于居家养老环境，可借助上海在智能硬件研发领域的优势，推广智能护理床、智能轮椅等设备。这些设备可以通过传感器实时采集老年人的身体状态数据，并上传至智能养老信息平台，实现健康监测与预警。另一方面，社区养老服务中心的物理空间应进行智能化与适老化改造，实现智能健康监测区域、康复训练区域、休闲娱乐区域的高效互联。
📸 陈生宝记者 薄丙申 摄
20250813 💃 成色18k1.8.35mb菠萝此次决赛共15支队伍参赛。经过激烈的角逐，最终来自郑州轻工业大学梅科尔工作室的慧视导航团队与灵语视界团队分别获二、三等奖。《特殊的房产销售2》也正是在这样的背景下，特朗普在 2015 年决定为这栋大楼进行再融资。他从 Ladder Capital 获得了 1.6 亿美元的贷款，以旧换新，替代此前向 Capital One 借来的 500 万美元即将到期的债务。
📸 章军记者 王露云 摄
😈 不以学历来评判一个人的能力，但不得不承认，985高校毕业的学生确实有他们的过人之处。他们不仅仅是会考试，更关键的是他们拥有一套适合自己的学习方法。麻花星空天美mv免费观看电视剧
