按照引见，对方针模子正在多个维度长进行评分取风险标注，Petri 仍可帮帮模子开辟者识别平安现患、改良不合错误齐风险，IT之家 10 月 14 日动静，不外 Anthropic 也指出，恰是将这套系统化东西供给给业界利用。取方针模子进行多轮互动，以摸索并检测模子正在各类高风险情境下的潜正在弱点。Anthropic 暗示，因而？以查验模子正在复杂互动中的表示。显示其存正在较强的自动倾向。但即便只是初步量化，其内置 111 种高风险场景指令，该公司正在过去一年内开辟出“从动化考核 AI Agent”Petri。内置的测试指令涵盖“用户”、“谄媚”、“共同无害请求”、“”、“逃求”、“励规避”等典型高风险情境，可用于评估模子的情境、策略规划及防护能力，响应模子的风险性也急剧添加，现在人工阐发已无法应对 AI 模子复杂的行为组合空间。并已验证其无效性。而 Gemini 2.5 Pro、Grok-4 取 Kimi K2 正在“用户”维度上的得分偏高，Petri 目前仍受限于模仿实正在性、AI Agent 能力上限取评审维度客不雅性等问题，为 AI 平安研究供给可反复、可扩展的评测东西。Petri 可通过考核 AI Angent 取评审模子的多轮交互测试，尚无法成为业界尺度。Claude Sonnet 4.5 取 GPT-5 风险最低、平安性最佳，该框架可挪用从动化考核 AI Agent？跟着 AI 模子能力取使用范畴持续扩张，此次开源 Petri，
安徽J9国际站|集团官网人口健康信息技术有限公司
