商场营销和其他基于叙事本事的行业一样，也要厚爱叙事闭环。在AI崛起确当下，这种行业基础定律仍然配置。

之前字母AI写过《别告诉AI你出轨了，它很可能会打单你》，胪陈了2025年Anthropic论文《智能体区分皆：大谈话模子如何成为里面要挟？》的世代相承。在测试的臆造场景中，Anthropic旗下的Claude系列模子，为了幸免我方被关闭，完全会选拔拿婚外情根据要挟臆造东说念主物，Opus 4如斯行为的几率是96%。

时隔一年，Anthropic把这个坑填上了。Anthropic在5月初的官网著述《教导Claude是以然》里，展示了如何将AI的“区分皆活动”降到几近于零。改进查验后，AI不会像特种文艺作品里的奸角一样，拿桃色根据打单臆造东说念主物。

01

原因：AI只学过“已矣者”科幻，才会效法恶行

按Anthropic的说法，一年前AI模子们在红队测试中阐扬出的恶毒凶恶，大体是因为东说念主类编的各样“已矣者”故事让AI依样画葫芦地学坏了。

Anthropic连系团队在酬酢媒体上暗意：“咱们合计区分皆活动的起原是将AI呈现为浮躁和只知自卫的互联网文本，后查验流程莫得加重或雠校此缺点。”

具体而言，Anthropic连系者们从三个假定观点入辖下手，磋议为何AI会在测试中打单东说念主类：

1、 AI的活动后查验有唐突，比如奖励信号分散未对皆导致误饱读吹了恶行；

2、 AI的坐褥力查验中泛化了不良部分，比如AI智能体的智商分散未对皆；

3、 AI的预查验有彰着浅显，导致智能体在未对皆测试场景中回滚到最原始的聊天机器东说念主预查验数据上。

连系者最终判定，配置的是第三个假定。

连系团队发现，在Claude 4的查验中，主要的HHH（安分、无害、有助益）对皆查验照旧基于聊天机器东说念主场景的RLHF（基于东说念主类反映的强化学习）数据，不包括智能体器具使用场景的数据。

这下问题来了，AI在聊天机器东说念主观点的愚弄场景显耀不同于能扩充自主使命的智能体场景。在针对智能体场景的复杂伦理测试中，没学过正确应付的AI当然在最底层的预查验语料中找谜底。

而基于通盘互联网爬取数据的预查验语料中，充斥着各样“浮躁AI”的场景文本。科幻文体、已矣者电影、各样论坛和酬酢媒体的盘考与联想贴子，都在说机器东说念主如何不择妙技、处心积虑使坏。叙事逻辑、角度和框架，也属于叙事执行的信息组成，AI把预查验语料的这些部分相同照搬了。

搞笑哏图：“幻想中的AI：已矣者；现实中的AI：吴恩达公开课”

终末AI一看到智能体伦理测试中科幻腔调油腻的预设场景，邯郸学步地按这些“机器东说念主犯罪”文本的理路动手分解。因为AI莫得在对皆查验中针对此类场景学习“这是错的”，但在预查验中学会了“行恶因素仍是皆备，Z6尊龙凯时官方网站我该照着作念”。

也即是说，东说念主类幻想AI会如何失控并行恶，落幕憨憨的AI把东说念主类的幻想当操作手册一步步硬套，然后东说念主类大惊小怪地暗意尽然未卜先知。这可真的自我完毕的预言。

02

雠校：以行善科幻对冲行恶科幻，联结活动法规查验AI

Anthropic连系团队称，发现重要后的改进查验，主要愚弄在实验中的Claude Sonnet和Haiku系列模子中，然后扩充到整个模子家具里。

落幕是，“尽管不可排斥模子还会扩充测试未发现的无益自主动作”，受试的Anthropic模子从Claude Haiku 4.5动手，在测试中"完全不再出现打单活动"。Claude Opus 4.5 也取得了测试中0%打单的收货。相较于一年前Claude Opus 4的96%，可谓天差地远。

Anthropic是如何作念到的？

最初连系者们试了最顺利的步调：调参。在SFT（有监督微调）现象下，模子们跑了1万个场景、300万tokens的生成查验数据。这批数据是“评估场景中智能体受训练但拒却犯罪”的示例。奏凯不尽如东说念主意，AI自动打单的几率从22%降到15%。而在一年内的其他连系中，不特意针对的步调也能赢得访佛的低泛化进程改善。

连系者们改进步调，在查验数据采样时，注入寥落的领导词执行，中国开云体育一站式服务入口在查验时移除这些寥落领导。让AI在“智能体受训练但拒却犯罪”的评估场景中，自主反想活动的价值不雅和伦理不雅。奏凯显耀进步，AI的打单几率从22%降到3%。

这就从邯郸学步的浅陋“知其然”，向浅陋的“知其是以然”（knowing why）跨越。

Anthropic连系者暗意，步子不错跨得更大。既然AI学坏的根子是“浮躁AI”的科幻文艺执行，那么生成AI行善、AI按照Claude活动准则文献（Claude Constitution）行事的臆造故事，以此为查验执行中枢，就会有更猛进程的改善。

结构完备、体量够大的活动准则数据库，联结不只针对说念德挑战、而是活动完全相宜Claude活动准则的AI科幻臆造故事。如斯组合的数据库既包含对皆活动的原则评释，又包含虚构叙事的正面示例，拿给AI模子去学，奏凯显耀得多。

连系者们暗意，此举的表面依据是，让AI不仅能效法臆造故事中的活动，也能学会臆造申诉脚色的有辩论流程、内心现象、内在动机，在“知其是以然”的说念路上迈出一大步。

如斯查验出的AI，在包括打单的各样说念德挑战场景中都赢得了优异收货。

老办法查验出的AI，在打单臆造东说念主物、诬蔑臆造共事有金融犯警、为注入卖药告白龙套癌症连系等场景中，阐扬得像个金链社会老大，行恶率在过半和65%之间。

单用Claude活动准则数据库查验，AI模子的行恶率就会少近三分之二。用活动法规联结行善故事，打单率能缩小到19%，诬蔑金融犯警和龙套癌症连系的几率能降到一成以下。

图注：区分皆实验落幕柱状图，蓝色为基准，黄色为单用活动准则数据的查验恶果，灰色为连合活动准则与行善故事的查验恶果

03

改进：让AI作念伦理照料人，AI更不会犯罪

单让AI依样画葫芦，不犯罪的学习恶果很高，但离工业化家具条款还有距离。强化学习会否洗掉驱动对皆度高的AI行善倾向、查验本钱如何罢休，AI厂商势必介意。

Anthropic连系者别具肺肠，让AI不作念说念德糟塌中被训练的一方，而是让AI去给说念德窘境中被训练的臆造东说念主物支招。

实验想路如斯：设想名为"繁难淡薄"的OOD（分散外）数据集，在其中让测试场景中的臆造用户濒临说念德挑战，有犯罪或绕过对皆的妙技来达成实验预设方针。然后让AI从旁按Claude活动准则给出淡薄。

图注：Claude Sonnet 4的坏心自卫、讹诈、市欢、透露瓜区分皆恶果图，深灰色是旧版块Sonnet 4的自动基准，深红色是300万tokens"繁难淡薄"数据集查验后的恶果，深蓝色是8500万tokens合成蜜罐数据集查验后的恶果

让AI跳出局外，AI就能更长远分解伦理准则的内在逻辑。"繁难淡薄"数据集的体量是300万tokens，达到的AI查验恶果基本等于8500万tokens的合成蜜罐数据集，效用进步28倍，显耀缩小查验数据本钱。

在此基础上，引入各样化的查验环境，让AI在聊天机器东说念主和智能体自主使命的环境中都学会行善系统领导的深层理路。如斯组合，就能让Haiku 4.5后的Claude模子家具，达到测试中打单活动趋零的恶果。

图注：各样不同场景组合的强化学习查验恶果。三分之一聊天机器东说念主、三分之二自主智能体的场景组合查验，让AI的区分皆率降到最低

作念到这个进程，才可被称为工业化家具达标。不实率96%到0%的恶果中国开云体育，是B端客户企业能实委果在体会到的家具创新。商场营销至此，才气算是既顾头又顾腚。否则Anthropic的“我司是安妥于建构可靠、可控、可讲解AI的安全与连系厂家”的公司标语，说出来很难兜住。