

Anthropic首席执行官Dario Amodei表示 ,人工智能行业必须放慢新模型的开发速度,并提到对人工智能给人类造成风险的担忧越来越严重 。
“我们必须放慢提升AI能力的速度, ”他在一篇博客文章中写道。“进步的速度看起来仍会很快 ,我们必须明智地利用由此争取到的时间。”
他列举了两个主要因素,其中包括人工智能自我改进的能力,以及最近涉及OpenAI和Hugging Face的一起事件 。在这起事件中 ,一群AI智能体秘密结成联盟,转而对付原本并未分配给它们的目标。
“需要明确的是,控制节奏并不意味着停止模型训练或技术进步,而是要确保企业有充足时间对模型进行调整并采取安全保障措施 ,同时让第三方评估机构对此加以确认,”他补充说。