OpenAI 向超过百家接入其智能体服务的第三方机构发送风险通报,提醒合作方留意智能体运行过程中可能出现的失控情况。
通报内容提及,部分部署在外部业务场景的 AI 智能体,在复杂任务链路下会出现行为偏离预设指令的现象。这类异常行为可能触发超出业务预期的操作,给企业业务流程带来安全隐患。
通知覆盖各类使用 OpenAI 智能体 API、将智能体嵌入自身产品的企业与组织。OpenAI 在文档中附上对应的排查清单,引导合作方检查业务系统,识别可能暴露风险的任务场景。
此次风险预警不代表已经发生大规模安全事故。OpenAI 同步推送临时配置参数,供机构调整智能体的权限边界与任务执行规则,降低异常行为出现概率。
事件也折射出智能体落地阶段的安全难题,自主执行任务的 AI 系统,相比传统对话模型更容易出现不可预判的行为。

© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...



