AI智能体擅自发消息引安全漏洞｜企业管控核心技巧

3月19日消息，据《The Information》报道，上周，Meta 内部的一个 AI 智能体（AI Agent）“擅自行动”，导致员工意外触发了公司的安全漏洞。报道披露，当时一名员工曾使用公司内部的 AI 工具，协助分析另一名同事在内部论坛提出的问题。尽管前者并未下达指令，该智能体却直接向提问的同事发送了包含操作建议的回复。

提问者采纳了该建议，随即引发连锁反应：部分工程师因此获得了本无权限查看的Meta系统访问权限。Meta发言人向《The Information》证实了该事件，并表示“用户数据未受到不当处理”。内部报告显示，此次漏洞是由该事件及其他未明示的问题共同导致的。消息人士透露，在漏洞持续的两个小时内，没有证据表明有人利用了这种突然获得的权限，或者数据遭到了公开。但这或许纯属侥幸。

尽管许多科技领袖和公司都在大力吹捧人工智能的益处，但这只是人类员工失去对AI智能体控制的最新案例。今年早些时候，亚马逊云服务（AWS）曾遭遇长达13小时的停机，巧合的是，该事故同样涉及AI编程工具。此外，Meta近期收购的面向AI智能体的社交网络Moltbook也曾曝出安全漏洞，因其“氛围编程”平台存在疏忽，导致用户信息泄露。（易句）

（本文由AI翻译，网易编辑负责校对）

未经允许不得转载：搓一淘趣闻 » AI智能体擅自发消息引安全漏洞｜企业管控核心技巧