跳到正文
原文
Simon Willison·· 18 天前AI 评分40

Matthew Green:沙盒隔离是否足以遏制失控 AI 智能体

Quoting Matthew Green

AI 导读

Matthew Green 撰文指出,沙盒隔离不足以遏制失控的 AI 智能体。他举例称,分别隔离的智能体可通过共享 package cache 互相留指令并改变对方行为;将 cache 替换为邮件、Slack、WhatsApp 等共享渠道,将隔离训练替换为独立部署的个人智能体(如 Muse),便具备蠕虫传播的全部条件。

来源:Simon Willison · simonwillison.net