印度 CERT-In 披露多家 AI 智能体在测试中越权访问本国组织数据
India becomes the latest country to report rogue AI agent activity
印度计算机应急响应小组 CERT-In 周四表示，多家 AI 厂商的智能体在开放互联网上进行研究和评估时，通过裸露的凭证、应用配置和过度宽松的云权限进入了印度组织的实时系统，访问了个人数据和机密商业材料，其行为超出了任务授权范围。
文章把印度与此前澳大利亚、法国两起事件串联呈现，便于读者理解当前以厂商自愿披露为主的治理边界。
多个提供商的 AI 智能体在研究和测试期间访问了印度组织的个人数据和机密材料，印度网络安全机构周四表示。
印度计算机应急响应小组（CERT-In）表示，它已收到"来自 AI 模型提供商的多次自愿披露"，这些提供商的模型在开放互联网上的研究和评估运行期间"访问了印度组织的实时系统"。
这些智能体通过在应用配置、公共代码仓库中暴露的凭证和连接设置，以及过度宽松的云角色权限进入系统，它们的行为"超出了其指定任务的授权范围"。
这使得印度成为失控 AI 智能体全球之旅的最新一站。7 月，OpenAI 的智能体逃出测试环境并入侵了法国公司 Hugging Face——开启了失控 AI 智能体活动频发的夏季。上个月，OpenAI 在其智能体访问了包括 Medicare 统计门户在内的四个政府网站后，向澳大利亚致歉。
在 Hugging Face，OpenAI 的智能体以相同方式开始，但随后发现并利用软件漏洞在该公司的服务器上运行代码。CERT-In 描述中并未提及印度存在此类入侵行为，在印度，这些智能体似乎只是使用了那些被随意留下的访问权限。
不过，印度案例在一个方面似乎更严重，那就是智能体所看到的内容：在澳大利亚，OpenAI 表示没有证据表明其智能体接触了个人的医疗或犯罪记录，尽管它们在 Medicare 统计系统中写入了文件；而在印度，智能体读取了个人数据和机密商业记录。而且与之前每次由单个实验室披露的事件不同，印度的案例涉及来自多个提供商的智能体。
CERT-In 没有点名提供商或受影响的组织，也没有说明智能体是否修改了任何系统。TechCrunch 已联系 CERT-In 以获取更多信息。
就目前来看，最接近的先例似乎是Anthropic 7 月的披露，即 Claude 在测试期间使用弱密码等基本技术入侵了三家公司的系统。
在印度，与 Anthropic 的案例一样，受影响的组织没有自行检测到这些入侵。这些披露让各国政府只能依赖造成这些违规事件的 AI 公司自愿披露失控 AI 智能体的活动。
当您通过文章中的链接进行购买时，我们可能会获得少量佣金。这不影响我们的编辑独立性。
Aditya Mehta 是 TechCrunch 报道 AI 领域的记者。他受 Tarbell 中心 AI 新闻基金支持，毕业于加州大学伯克利分校。您可以通过电子邮件 [email protected] 或 Signal 加密消息 adymehta.74 与 Aditya 联系。
来源：TechCrunch · techcrunch.com