通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
黄花大闺女第一次搞笑片段——祝贺弗拉门戈，他们配得上胜利。为了下赛季以及未来，我们在比赛中尝试了一些不同的方式。接下来还有一场比赛，我们会努力获胜。决定书的内容显示：经调查，2024年6月3日被处罚人安排周某礽医生会诊，并于2024年6月4日由周某礽医生主刀为患者潘某行会阴部疤痕切除、清创、皮瓣修复术。周某礽医生于2024年6月4日主要执业机构变更注册至被处罚人处，未曾执业注册或多执业机构备案至上海交大医学院附属第九人民医院，手术记录中主刀医师处是助手王某医生的姓名，2024年6月3日会诊申请单中的申请时间在首次病程录时间之后且不能提供会诊申请回执。《医疗质量管理办法》第四十七条第（三）项规定，病历管理制度、会诊制度均属于医疗质量安全核心制度。调查确认，你单位医疗质量管理制度不健全。”黄花大闺女第一次搞笑片段学校教室里可以插自己电脑吗媒体致电给派翠克是不是见到小S了？派翠克通过经纪人表示，确实有问候S姐，毕竟她还在休息中，比较难约出来庆生，但希望她越来越好，她的情况已经慢慢稳定。吉拉西：“比赛的强度需要更高，因为我认识他们的很多球员，他们为国家队效力。我们将在12点比赛，天气会很热，而他们已经习惯了，对吧？因为他们在非洲踢球，那里有时温度在30°到35°之间，所以我们必须保持敏锐，因为第一场比赛中我们踢得不够好。所以比赛强度是最重要的，如果我们可以在这个层次上与他们匹敌，我认为我们可以赢得这场比赛。”
20250814 🍑 黄花大闺女第一次搞笑片段今晚中超第15轮，申花将回到主场迎战天津津门虎。后者目前排名联赛第五，并在足协杯轮休了包括联赛射手榜首位的基莱斯在内的不少主力，显然在为做客申花蓄力。而经历了德比大战的申花能否在仅仅72小时后保持体力和状态，是巨大的挑战，况且蒋圣龙等主力伤势仍未痊愈。最近几次交手，申花在天津队身上并未占到多少便宜。2023赛季主场1-2输给对手，上赛季只是2-1小胜对手。另外，申花近两个赛季在客场均未能战胜津门虎。国产少女免费观看电视剧字幕“此次我们协助比亚迪公司出口大批量的锂离子电池储能柜，大铲湾海关为我们量身打造‘申报、检验、放行’一体化通关方案，‘全天候’保障我们‘抵港直装’，在确保监管安全的前提下，大幅缩短了我们的通关时间。”上海展茂国际货物运输代理有限公司国外部主任陈晶晶介绍。
📸 刘云霞记者 韩国政 摄
20250814 🔞 黄花大闺女第一次搞笑片段北京时间6月17日，目前正代表加拿大国家队征战金杯赛的布坎南在结束采访时透露，国际米兰并未要求他归队参加世俱杯。《朋友的未婚妻》电视剧在线观看在回复深交所对其与大客户公司持续性合作的核心竞争优势，未来能持续扩大销售的判断依据时，昊创瑞通指出其具备与“两网”公司持续性合作的核心竞争优势，首先就体现在“具有研发和技术优势”，并称这有利于在“两网”公司专业资质审核中更具资质优势，可参与相关项目投标，在技术评审中获得更高评分，提高中标率，并在 “两网”公司新产品市场开发中获得先发优势。
📸 袁世辉记者 边东福 摄
🕺 2022年以来，借助“全国红色美丽村庄建设”的机遇，绍文乡建成教育基地、文化广场等，推动农文旅融合发展，串联起“教育基地—蔬果采摘—积分食堂”旅游链，带动村集体经济和村民“双增收”。少女自愈骑枕头视频高清在线观看
