路透7月16日 - 摩根大通 JPM.N 首席执行官杰米·戴蒙周三表示,Anthropic公司的Mythos人工智能模型带来的风险是一个“真实存在的问题”,美国政府正在密切关注此事,这凸显了外界对这一强大模型的担忧——正是这种担忧促使华盛顿方面介入。
戴蒙在参议员戴夫·麦考密克(Dave McCormick)主办的宾夕法尼亚州国防与创新峰会上发言时补充道,必须对先进AI能力的获取进行管控,并表示:“向个人提供Mythos,无异于将弹道导弹交到他们手中。”
总部位于美国的Anthropic公司于4月向包括摩根大通在内的一小部分用户发布了Mythos。该模型吸引了银行界的关注 (link),因为它被认为是识别网络安全漏洞的最先进的人工智能系统之一,有助于企业更快地发现并修复漏洞。
然而,在6月 (link),美国政府出于国家安全考虑,下令Anthropic限制外国公民访问其顶级AI模型Fable 5和Mythos 5,迫使该公司切断了全球范围内的访问权限。
在Anthropic实施新的安全保障措施后,政府随后 (link) 解除了对这些模型的限制。
各国政府和科技公司正努力应对人工智能安全问题,包括能够识别软件漏洞的系统被滥用的风险。鉴于担心中国、俄罗斯或其他受关注国家的军事情报部门可能利用先进的人工智能,华盛顿已加强对新模型发布的监管。
由于已过正常工作时间,目前无法立即联系Anthropic就戴蒙的言论置评。