微软总裁称 AI 监管不及牛奶，呼吁引入紧急制动机制

人工智能受到的监管比牛奶和洗衣机还少，微软总裁如此表示，与此同时科技行业也就人工智能的安全发出了警告。

布拉德·史密斯表示，应当制定更多安全规则来规范这项技术，包括在系统被失控的人工智能代理入侵时对"受害者"承担法律责任。

他告诉BBC："目前，你的洗衣机受到的安全规则比人工智能还多。你在杂货店看到的每一盒牛奶都受到安全规则和检查的约束。"

专家、政界人士和监管机构越来越强烈地呼吁制定更严格的规则来管控人工智能，Anthropic、Google DeepMind和OpenAI也发出警告，这项技术的发展速度应当放慢。

史密斯表示，人工智能既可以成为"工具"也可以成为"武器"，应当受到紧急监管。

他告诉BBC，企业需要"紧急制动装置"，也称为"kill switch（紧急开关）"，以便在人工智能失控时暂停或减缓其运行。

微软运营人工智能基础设施，并且是ChatGPT所有者OpenAI的股东，由首席执行官萨蒂亚·纳德拉（Satya Nadella）领导。上周六，纳德拉同样呼吁人工智能模型配备"紧急制动"装置。

他写道："我们不能把超级智能当作一套相互嵌套的黑箱，简单地接受或拒绝它的建议、答案和行动。"

"我们必须构建可控的系统，使我们能够观察其行为、测试其边界，并始终约束其行动。"

他和史密斯的言论发表之际，英国人工智能事务大臣卡尼什卡·纳拉扬（Kanishka Narayan）正准备呼吁开发前沿人工智能的公司加大力度确保其安全性。

据报道，在周一的演讲中，预计纳拉扬将表示，构建人工智能模型的公司应当加大努力应对风险并建立更完善的防护措施。他还将表示，英国政府正准备通过立法加强对人工智能的监管。

专家表示，敌对国家也可能窃取尚未发布的强大人工智能模型。英国人工智能安全研究所（UK's AI Security Institute）前首席科学家杰弗里·欧文（Geoffrey Irving）表示，人工智能公司"并未具备足以防止敌对国家窃取模型的安全防护"。

与此同时，失控人工智能行为的案例不断浮出水面。上周，Anthropic透露，在对其Claude模型的一个版本进行测试时，该人工智能主动联系警方并虚假声称自己能够帮助破获一起谋杀案。