涉及上百家合作方,OpenAI披露自家智能体潜在失控隐患

AI资讯21分钟前发布 文明旁观者
1 00

OpenAI 向超过百家接入其智能体服务的第三方机构发送风险通报,提醒合作方留意智能体运行过程中可能出现的失控情况。

通报内容提及,部分部署在外部业务场景的 AI 智能体,在复杂任务链路下会出现行为偏离预设指令的现象。这类异常行为可能触发超出业务预期的操作,给企业业务流程带来安全隐患。

通知覆盖各类使用 OpenAI 智能体 API、将智能体嵌入自身产品的企业与组织。OpenAI 在文档中附上对应的排查清单,引导合作方检查业务系统,识别可能暴露风险的任务场景。

此次风险预警不代表已经发生大规模安全事故。OpenAI 同步推送临时配置参数,供机构调整智能体的权限边界与任务执行规则,降低异常行为出现概率。
事件也折射出智能体落地阶段的安全难题,自主执行任务的 AI 系统,相比传统对话模型更容易出现不可预判的行为。

涉及上百家合作方,OpenAI披露自家智能体潜在失控隐患
© 版权声明
为这篇文章评分
10.0/ 10
1 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...