Anthropic警告:AI模型可能很快无需访问数据中心即可实现自我复制

环球市场播报
昨天

  Anthropic 周一表示,其实验结果显示,小型 AI 模型距离具备在商用物联网(IoT)设备(如智能烤箱和非知名品牌的安卓电视盒)上实现自我复制的能力,可能仅需数月时间。

  在实验中,Anthropic 考察了 AI 模型是否能够发现存在漏洞的设备、将自身复制到这些设备中,并在无需人工干预的情况下持续传播。

  Anthropic发现,参数量低于 300 亿的小型模型能够完成复制所需的多个步骤。然而,该公司也发现,这类 AI 模型难以从头至尾完整地执行整个操作流程。

  在剔除了部分安全防护步骤的简化测试中,Anthropic 发现 GLM-5.2 及更强大的模型能够实现端到端的复制。

  Anthropic 警告称,具有自我复制能力的模型将难以被关停,因为它们没有集中的关闭控制点;此外,与非人工智能恶意软件不同,这类模型还能自行识别陌生设备,并将数据中心处理器作为攻击目标。

  该公司的研究重点是安卓电视、智能家电及其他联网设备等物联网(IoT)产品,因为这些设备通常缺乏足够的安全防护。

  该公司还警告称,如果小型模型按其历史速度持续改进,它们将能够在今年年底前实现自主复制,而基于权重的小型复制体也将紧随其后出现。

  Anthropic 同时指出,此类自主人工智能系统的复制过程可能较为缓慢,且依赖于广泛可用但安全性相对较低的计算资源。该公司补充道,应加强系统防护,以增加此类人工智能智能体传播的难度。

免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。

热议股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10