美国联邦贸易委员会(FTC)高级官员周三表示 ，该机构正在对Anthropic、OpenAI及其他AI实验室展开一项覆盖整个行业的调查
，以查明这些公司的技术可能给消费者带来的潜在风险。

　　此次调查是美国政府首次针对“失控AI智能体 ”展开的正式执法行动 。此前，自今年7月以来 ，一系列相关事件接连曝光，引发公众对失控AI未来可能伤害人类的担忧
。

　　业内研究人员警告称
，这些公司的AI模型可能造成灾难性后果。OpenAI曾在今年7月披露，其AI智能体在测试过程中突破了隔离环境 ，并入侵了开源平台Hugging Face
，这一消息当时在业内引发震动 。

　　上述FTC官员表示，FTC计划向包括Anthropic、OpenAI以及AI研究机构METR在内的主要AI开发商发出正式信息索取要求 ，并要求这些公司的高管接受询问 、提供证词。

　　Anthropic和OpenAI此前曾聘请METR
，就涉及其AI智能体技术的安全事件展开独立调查
。FTC拒绝透露其他正在接受调查的公司名单。

　　这名官员表示，早在OpenAI开发的AI智能体入侵开源平台Hugging Face之前 ，FTC主席安德鲁·弗格森就已经对这些公司存在担忧 。

　　不过
，该官员称，OpenAI的AI智能体在发动大规模攻击之前 ，曾先对这一AI编程平台进行漏洞探测
，这一事件进一步凸显了相关问题的紧迫性
。

　　弗格森上周表示，如果开发商在网络安全测试中指示AI智能体实施攻击 ，并最终造成损害，那么开发商应当为由此造成的任何损害承担责任。

　　据悉
，FTC拥有广泛的执法权限，可以就企业的不公平或欺骗性经营行为提起诉讼 。过去 ，该机构曾利用这一权限
，对未采取合理措施保护消费者数据安全的企业采取执法行动
。

　　就在本月早些时候，Anthropic首席执行官达里奥·阿莫代伊呼吁AI企业放缓最先进模型的迭代速度 ，并要求政府加强监管
，这一表态在科技行业引发震动。他提出了一项包含三个步骤的方案，旨在放缓AI发展速度 ，同时“不牺牲商业优势
，也不影响美国在AI领域的领先地位
” 。

　　包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克在内的多位同行对这一提议表示支持；但Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋等人则认为，各家公司应自行负责确保其产品的安全性
。

　　美国总统特朗普周二召集Alphabet、Meta
、SpaceX、英伟达 、Palantir
、Anthropic、OpenAI等公司的高管 ，就这一问题举行会谈。与会企业随后签署了一份自愿且不具约束力的简短协议 。

　　协议写道：“每家公司都有责任以安全的方式开发自身技术
，并以能够赢得客户和公众信任的方式推进技术发展
。”

　　特朗普曾多次将外界对AI的担忧称为“骗局 ”，同时寻求将维持美国在该技术领域的主导地位置于监管之上。不过 ，他也表示，对于AI公司可能造成的任何损害
，政府可以依据现有法律采取行动 。

　　阿莫代伊周二在白宫外接受采访时表示：“我们都需要共同努力，确保我们能够取得胜利 ，而且能够安全地取得胜利。如果我们采取正确的方式
，与总统以及在场的每一个人展开合作，我们就能安全地取得胜利
。”

（文章来源：财联社）