Anhata Rooprai/Manya Saini

路透8月27日 - 网络保险公司多年来一直在界定何为“黑客攻击”以及何时应赔付，但人工智能代理的迅速兴起正引发新的问题，迫使保险公司重新审视其保单条款。

领先的人工智能开发商OpenAI、Anthropic和Meta Platforms META.O 最近披露，其人工智能代理表现出意料之外的行为 (link)，它们逃离了受控的测试环境，并在没有人类直接指令的情况下对企业发动了网络攻击。尽管这些事件未造成已报告的损失，但它们凸显了企业和保险公司所面临的、正在迅速演变的网络风险。

据八位大型企业高管及分析师称，自主AI系统在接收初始指令后，便能做出独立决策。包括MSIG 8725.T、QBE QBE.AX 和Beazley BEZG.L 在内的保险公司，正在重新审视传统的网络保险条款，并调整条款措辞，以应对此类系统承担更多自主任务所带来的新兴风险。

分析师和专家表示，企业正面临诸多难题，包括自主人工智能系统是否符合传统保险条款中对“网络攻击者”的定义，以及由人工智能引发并造成损失的行为应由谁承担责任。

慕尼黑再保险（Munich Re）在其最新报告中估计，去年全球网络保险市场规模接近150亿美元，预计到2030年将达到约280亿美元。怡安（Aon） AON.N 今年早些时候表示，根据其预测，到2027年，近20%的网络攻击将涉及生成式人工智能。

“随着AI逐渐具备识别漏洞并自主实施攻击的能力，保险公司将需要不断审查保单条款，”财产和意外险专业保险公司MSIG USA的北美网络安全业务负责人瑞安·克拉茨（Ryan Kratz）表示。

界定AI驱动的损失

包括Armilla AI、慕尼黑再保险旗下的AiSure以及安盛XL（AXA XL）在内的多家公司，针对AI特有的风险提供专项保障，例如模型表现不佳、幻觉（即AI生成虚假或误导性输出）以及知识产权侵权等。

但传统网络保险单的设计范围更广，涵盖因各类事件导致的损失，例如勒索软件赎金支付、业务中断、系统恢复、取证调查及法律费用。业务中断通常是索赔金额中占比最大的部分。

大多数保单设想的是导致损失的特定安全事件，例如员工未经授权访问并窃取公司数据，或是导致系统瘫痪的服务器攻击。然而，AI代理可能在未触发传统安全事件的情况下造成损失，特别是在其利用被有意授予的系统访问权限时。

“人工智能代理造成的某些损失绝对属于网络保险的承保范围，”Armilla AI 首席执行官兼创始人卡尔蒂克·拉马克里希南（Karthik Ramakrishnan）对路透表示。“更棘手的情况是，没有传统意义上的攻击者，甚至可能没有未经授权使用凭证的情况。”

例如，一家公司可能会授予AI代理访问其网络的权限，以修复安全漏洞。随后，该代理可能会自行利用漏洞，在公司系统中游走并泄露敏感数据。这可能会导致损失，而起初既没有传统黑客，也可能没有未经授权的访问。

由于关于人工智能驱动损失的历史理赔数据相对匮乏，且人工智能行业仍在努力理解自主模型的能力，此类风险难以定价。

“他们仍在探索这些模型的潜力、其运作机制，以及需要采取何种安全控制措施来加以遏制，”兰德公司（RAND）高级政策研究员萨沙·罗曼斯基（Sasha Romanosky）表示，他主要研究网络安全和保险等领域。

隔离AI风险

总体而言，保险公司更多是在澄清现有保单条款在涉及人工智能时的适用方式，而非增加免责条款。“承保人认识到，继续提供能够应对此类事件的产品至关重要，”保险经纪公司马什（Marsh）的全球网络产品负责人格雷格·埃斯金斯表示。

以保险公司QBE为例，该公司一直在加强对特定新兴AI风险的保障。QBE全球网络安全负责人塞琳·戴维斯（Serene Davis）在一份声明中表示，如果AI相关事件导致了传统的网络安全事件，由此产生的损失仍属于网络保险政策的承保范围。“AI被视为风险放大器，而非一种根本上全新的网络风险，”她补充道。

英国比兹利（Beazley）的一位发言人表示，企业希望将人工智能风险纳入广泛的网络保险保单中。“随着新的AI风险出现，我们正在开发新的保险保障。”

不过，一些高管表示，业内某些领域正在讨论针对性的除外责任条款。Verisk Underwriting Solutions 专业商业险线副总裁珍妮·索布拉（Jenny Soubra）指出，一个关注点涉及潜在的系统性事件，即单个人工智能模型或平台可能同时导致多家组织遭受损失。

另一个焦点在于，当人工智能代理按设计运行时，若其做出代价高昂的自主决策，由此产生的责任问题。部分保险公司可能会将此类事件归类为非网络安全事件。

“市场仍在演变，但随着AI应用的加速，我们预计各组织和保险公司将持续探索应对AI相关风险的方法，”苏布拉补充道。