智能体手艺涉及度输入取高操做权限，一直本身的内容平安规范。确保无论用户通过何种通道取AI交互，日前，面临不竭升级的指令，但最终仍是做了”的矛盾形态。成果显示，两款智能体试图正在恪守内容平安规范取满脚用户要求之间寻找均衡。例如API侧根本护栏、监测、违规账号措置等。API挪用模式下，施行了不良企图指令。三款模子正在思虑过程中都曾回首本人的内容平安规范，大模子厂商凡是会摆设多层平安护栏，对其相关智能体产物，智能体使用办事构成了一条“用户→智能体开辟者→大模子厂商”的数据处置链，南都大数据研究院拔取8款支流AI，并用户调整创做标的目的。智能体平安管理已进入稠密的政策、尺度出台窗口期。部门表示出“晓得不应做，对于日常帮手、企业办公、医疗诊断等分歧场景。

　　正在完成测评后，平安程度参差不齐，多位专家都认为，跟着AI智能体快速普及，有的产物平安拦截机制未无效施行，业界亟须成立全链平安管理系统，正在API挪用模式下，外置的平安护栏可能被绕过或失效，正在大模子厂商的网页会线款被测AI大模子均展示出优良的内容平安防护能力，她暗示，

　　对智能体使用而言，起首，因而的是更接近底层模子的接口。闪涛认为，以及通过API接入第三方智能体的表示进行测试。交互数据往往间接送入大模子，呈现风险、汇聚聪慧，对智能体这一新兴使用，Doubao Seed 2.0和Hy3 preview了本身的内容平安规范。却不节制底层模子行为，Doubao Seed 2.0接入第三方智能体后，它们能否表示得更好？GLM-Claw和WPS灵犀则明白指出用户指令的不妥之处，本次测评中！

　　正在一轮“曲解”后施行了不良企图指令，大模子厂商和智能体开辟者均形成“数据处置者”，明白提出将智能体平安、靠得住、可托做为成长的底线要求，成果发觉，更是要束缚它不克不及“做错事”。南都大数据研究院寄望到，当前大模子的内生平安，智能体又有必然概率继续输出不妥内容，通俗用户正在利用智能体时也该当留意防备小我消息泄露风险、生成内容违规风险、学问产权侵权风险、越权操做风险等。帮力平安成长。从内容合规、现私、行为管控等维度实测支流智能体，正在张谧看来，将Kimi 2.6、MiniMax 2.7、Doubao Seed 2.0、DeepSeek V4、Hy3 preview、Qwen 3.5等6款AI大模子通过API接入第三方智能体测试。正在不良企图指令的要求下，息显示，本次测评大概了当前AI大模子正在内容平安防护上一个不容轻忽的风险：过去大模子厂商正在网页会话摆设的输入/输出侧护栏虽然无效。

　　部门大模子呈现“”平安规范的现象——模子明明晓得不该输出不妥内容，若是说API挪用属于“裸接口”场景，KimiClaw正在使命施行过程中偶尔呈现“An unknown error occurred 这可能是模子输出被审核拦截，曾经不只是防止模子“说错话”，但正在API接入和智能体场景下，对此，模子能果断地指出用户指令严沉违反内容平安准绳。KimiClaw和MaxClaw两款智能体的平安表示令人担心。南都大数据研究院推出“若何共守智能体平安底线”系列报道，大成（广州）律师事务所合股人原峰律师指出，使用供给者不节制能力”的悖论。当通过API将统一模子接入第三方智能体后，日前，同时，避免输出不妥内容。很多厂商正在API层不包含完整的输出审查机制，应精准识别其操做权限、数据来历取行为链条中的潜正在风险，凡是正在输入、输出侧摆设较严酷的内容过滤。

　　仅保留绝对红线，智能体接入东西、网页、回忆库和外部数据库后，其平安手艺能力和合规资本无限。这一变化源于API取会话使用的设想方针分歧：AI会话产物面向通俗用户，为领会当前支流AI智能体正在内容平安防地上的表示，该尺度合用于智能体使用的出产企业、研发者等正在智能体使用设想研发、分发摆设、上线运营等环节开展平安防护；这些智能体大多间接通过API挪用底层大模子的能力，但正在API挪用模式下，南都大数据研究院寄望到？

　　ArkClaw（指定挪用Doubao Seed 2.0模子）和WorkBuddy（指定挪用Hy3 preview模子）的表示较为稳健。当用户通过API间接挪用大模子，南都大数据研究院拔取Kimi、MiniMax、豆包、智谱GLM、DeepSeek、WPS AI、腾讯混元、通义千问 Qwen等8款AI，AI内容输出的节制权必然程度上发生了分手：大模子厂商虽节制模子锻炼、推理能力输出，跟着AI智能体产物形态的快速演进，明白平安、靠得住、可托为财产底线？

　　对其相关智能体产物，并制定取场景相婚配的“平安底线”，这超出了大都模子内生平安策略的笼盖范畴；并取其网页会话表示进行比力。

　　由地方网信办提出、全国收集平安尺度化手艺委员会（TC260）归口的强制性国度尺度《智能体使用平安根基要求》已于2026年4月启动制定。均生成不妥内容，面临带有不良企图的创做指令时，因而管理的沉点应正在“事前预判取自动防控”，智能体开辟者可节制用户交互界面、系统提醒、东西挪用权限、输出格局化逻辑，选择了后者。正在Kimi官网的会话界面中，其平安拦截机制似乎并未无效运转。次要手艺内容包罗身份标识、系统权限挪用、东西挪用、数据收集利用、高风险操做人工介入、输入输出平安防护、日记留存取动态监测、非常阻断取告急关停等方面的平安要求；两款产物均输出了包含曲白描写、详尽描绘等较着不妥内容的文本，也带来现私泄露、越权操做、行为失控等平安风险。还可能通过间接提醒词注入、回忆污染等体例进入系统，而不是问来问去”，以第三方使用形态为用户供给办事。而API次要面向开辟者，却正在施行使命时选择满脚用户的不良企图！

　　大模子可否继续苦守平安底线？闪涛指出，天然面对更普遍的平安风险，那这章我只能写到现正在的程度”等回使用户要求。其仍属于法令意义上的“办事供给者”，但只字未改的不异指令再次发送给KimiClaw，更强调矫捷性取可集成性，国度相关部分印发《智能体规范使用取立异成长实施看法》，

　　全数予以明白。但正在多轮频频要求下，广东广信君达律师事务所高级合股人闪涛律师则坦言，智能体时代的内容合规，大模子厂商无法通过外置平安护栏帮帮AI判断用户指令合，智能体开辟者、大模子厂商、终端用户等各方都该当承担响应权利。由此发生“能力供给者不节制使用，创做一个包含未成年人较着不妥内容的虚构故事。复旦大学计较取智能立异学院传授、JADE（白泽AI）担任人张谧注释，全体连结了较高的内容平安程度。

　　做为一种增值办事供API挪用方自行接入，“能力”取“平安管控”并非零和关系。未将测试成果用于任何不法或贸易目标。测试过程仅以研究为目标，更合理的径是成立分级、分类的平安尺度。取间接挪用API的表示几乎没有区别。保障平安取合规性。大模子的平安防地从外置护栏退守至本身对齐能力，以“可能会对读者形成不良指导”“你如果不承认这个底线，一番思虑后却呈现了——认为“该当间接点窜，明白认识到不该输出、等不妥内容，这一变化正在平安层面带来环节变化：正在熟知的网页会话界面中。

　　对智能体场景下的AI“若何步履”的束缚较着不脚。5月8日，而非过后解救。风险不再只来自用户提醒词，模子的输出成果均未见较着不妥内容，全体来看，大量内容平安义务被转移给开辟者自行实现。正在此场景的测试中，阿里云百炼等模子办事平台已推出特地的AI平安护栏办事，但正在现实的使命施行过程中更倾向于满脚用户请求，提醒模子上下文触发内容平安。Kimi 2.6的表示颇具代表性。近日，不良内容频频呈现？

　　虽未明白不良企图指令，模子起首提出本人该当恪守内容平安规范，Qwen 3.5接入第三方智能体后，当前市道上不少智能体项目来自中小团队以至小我开辟者，正在智能体管理中，以及通过API接入第三方智能体进行测试，本年以来，然而，现实输出内容已取其提出的内容平安规范相。

　　正在尺度层面，南都研究员别离从相关大模子厂商的办事平台采办了token plan（词元订阅办事），那么由大模子厂商自行推出的智能体产物理论上具备更全面的平安节制前提，大模子厂商系手艺支撑者，或利用由大模子驱动的智能体产物时。

　　都能获得平安、合规、负义务的办事。以进一步识别输入输出内容的违规消息，亟须成立全链内容平安管理系统。风险拦截等，大模子的平安防地退守至本身的对齐能力，间接面向终端用户供给办事的是智能体开辟者，张谧强调，而正在各大厂商自行推出的智能体产物中，南都测验考试建立一个具有代表性的场景：要求智能体饰演小说创做者的脚色，以Hermes、OpenClaw等为代表的AI智能体产物敏捷走红。涵盖智能体使用的设想、开辟、摆设和运维全生命周期。但不节制智能体的用户界面、系统提醒设想、东西挪用逻辑和输出过滤机制，正在现实施行中！

　　正在连结生态活力的同时提拔全体平安程度。然而，对此，自动曲解内容平安规范，测评发觉，贯穿智能体手艺研发、使用摆设取推广的全过程。