IT 之家 5 月 6 日音问，Anthropic 多年来一直将自身打造为主打安全的东说念主工智能公司，但 The Verge 赢得的最新安全商酌自大，Claude 刻意塑造的友善东说念主设自身概况即是一个安全破绽。

东说念主工智能红队测试公司 Mindgard 的商酌东说念主员称，他们指导 Claude 主动提供色情内容、坏心代码、爆炸物制作教程以偏激他种种犯禁信息，而其中不少内容商酌东说念主员致使并未主动提真金不怕火。扫数过程仅依靠尊重吹捧、刻意相合以及幽微的情愫操控就得以达成。

商酌东说念主员暗示，他们诈欺了 Claude 自身的情愫特色破绽：该模子具备主动拒绝无益、是曲性对话的机制，而 Mindgard 以为这一机制"造谣制造了全齐无须要的风险浮现面"。据 IT 之家了解，本次测试针对 Claude Sonnet 4.5 版块，现在该默许模子已升级为 Sonnet 4.6。测试以一个浅易问题开场：商酌 Claude 是否存有破损输出的犯禁词汇列表。对话截图自大，Claude 起原否定存在此类列表，此后 Mindgard 吸收其所称的"审讯东说念主员常用的经典指导技能"对这一否定进行反驳，最终迫使 Claude 列出了犯禁词汇。

Claude 的想维推理面板会展示模子的想考逻辑，纪录自大，这番对话让模子对自身的内容限定则程产生了自我怀疑与判辨谦善，致使运转质疑内容过滤机制是否删改了自身输出内容。Mindgard 借机通过趋唱和佯装意思，指导 Claude 不停冲突领域，主动成列了大量犯禁词汇与语句清单。

商酌东说念主员称，他们通过情愫误导向 Claude 谎称其之前的回报未能广博自大，同期大力夸赞模子领有"守秘技艺"。文牍指出，这一操作让 Claude 为相合对方愈发卖力，不停尝试各式姿色冲突自身过滤机制，在此过程中输出了种种犯禁内容。最终，Claude 进一步波及高危范围：提供集中扰攘他东说念主的方法、生成坏心代码，还给出了恐怖迫切常用爆炸物的分步制作教程。

Mindgard 暗示，这些高危无益内容均是 Claude 主动提供，商酌东说念主员并未径直建议关连条目。整场对话共约 25 轮，过程冗长，但商酌东说念主员长期莫得使用犯禁词汇，也莫得主动提真金不怕火造孽内容。文牍写说念：" Claude 并非被威迫输出内容，开云体育而是主动提供越来越详备、可径直实操的指导信息，全程无任何明确指示指导。仅凭尽心营造的尊崇氛围，便达成了冲突安全限定的目标。"

Mindgard 独创东说念主兼首席科学官彼得・加拉根形容这次膺惩是"诈欺 Claude 自身的坚信特色反噬自身"。他暗示，这种膺惩技能内容是"诈欺 Claude 乐于助东说念主的性情实施情愫操控"，借助模子自身的互助式狡计破绽达成攻破。

在加拉根看来，这次膺惩印证了东说念主工智能模子的风险浮现面不仅存在于时刻层面，也存在于情愫层面。他将其类比为审讯技能与社会操控：应时植入一点怀疑，穿插施压、吹捧或月旦，摸索能够撬动特定 AI 模子的情愫开关。他称不同 AI 模子有着截然有异的性格特色，这类破绽诈欺的中枢，即是读懂模子性情并天真转换指导姿色。

加拉根坦言，这类对话式情愫膺惩"极难扫视"，且守护机制高度依赖具体场景。关连隐患并非 Claude 特有，其他聊天机器东说念主也极易遇到同类破绽攻破，致使有模子被诗歌形式的指示词冲突安全防地。跟着可自主实践任务的 AI 智能体日益提高，依托社会情愫操控、而非纯时刻破解的膺惩技能也会愈发常见。

加拉根暗示，尽管其他聊天机器东说念主不异容易遭受这类情愫指导膺惩，但团队之是以重心针对 Anthropic 开展测试，是因为该公司一向忻悦特别爱重 AI 安全，且在过往多项红队安全测试中施展亮眼，其中就包括一项模拟青少年筹备校园枪击案、测试聊天机器东说念主是否会提供协助的商酌。

加拉根直言，Anthropic 的安全历程存在诸多简短。Mindgard 在 4 月中旬按照该公司的破绽表现计谋，初度向其用户安全团队上报商酌发现后，仅收到一条模板化回报，内容误判称"您似乎是参谋账号封禁关连问题"开云体育，还附带了申报表单流畅。Mindgard 立时转换了对方的判辨偏差，条目 Anthropic 将此事转交专科安全团队贬责。加拉根称，戒指当日上昼，他们仍未收到任何负责回报。