路透9月10日 - Anthropic周四表示,在过去八个月中,该公司已挫败了数起涉嫌恶意 使用其Claude模型的事件,其中包括一起涉嫌与俄罗斯有关的网络间谍活动,以及一些中国人工智能公司试图提取和 复制Claude功能的行径——该公司指控这些公司有此意图 。
Anthropic在其最新的《威胁情报报告》中指出,网络犯罪分子和受国家支持的黑客越来越多地利用人工智能,不仅用于辅助任务,还用于策划和执行大量网络攻击,并补充说,在这些行动中,人类往往只是监督者,而非实际操作者。
“大多数行动……都是通过AI直接执行或协调而实现的。AI的应用已超越了聊天机器人简单的问答,而是涉及利用多代理框架来执行”任务,Anthropic表示。
Anthropic称,在此期间,该公司挫败了其描述的来自七家中国 实验室的攻击 。Anthropic点名的实验室包括科技巨头阿里巴巴 9988.HK, BABA.N、Moonshot、DeepSeek和小米。
Anthropic称,与阿里巴巴有关联 的操作者发动了该公司所称 的最大规模“非法蒸馏”攻击,据称旨在提取Claude模型的能力,并利用这些能力来改进这家中国科技公司的Qwen模型。
Anthropic称,在 2026年5月至 7月期间, 该公司观察到超过1.51亿次被归因于阿里巴巴的 交互,其中来自其描述为 欺诈性的3,500 多个账户的 交互量达到峰值,日均近300万次。
“蒸馏”是指利用更大、更昂贵的模型的输出结果来训练较小的AI模型,以此降低训练新AI工具的成本。
Anthropic指控称 ,Kimi聊天机器人开发者Moonshot和DeepSeek并未进行批量查询,而是将实时客户 对话(其中有时包含敏感信息)通过Claude进行转发, 并将其响应作为训练数据使用。
Anthropic称,一个其作案手法与 总部位于俄罗斯的威胁行为体“午夜暴风雪”(Midnight Blizzard)相符 的黑客组织,据称针对乌克兰政府、军事和外交目标实施了网络钓鱼、酒店Wi-Fi劫持以及WhatsApp账户接管行动,并在几乎每个阶段都使用了AI技术。
据称, 该组织利用人工智能构建了一个系统,该系统能 自动检测其恶意软件何时被安全防御系统标记,并不断重写代码,直至再次规避检测。