在第16段中补充了谷歌对9月22日报导的额外评论

Kenrick Cai

路透旧金山9月23日 - Alphabet旗下 GOOGL.O 谷歌信任与安全团队的创始人本周呼吁放缓人工智能的发展步伐，并警告称科技行业正在重蹈社交媒体时代的覆辙，这可能会对儿童造成更大的伤害。

社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金 (link) 并面临数千起诉讼 (link)；与此同时，世界各地的政府正致力于限制未成年人访问 (link) 其平台。

路透去年独家报导 (link) 称，Meta的一分内部政策文件 META.O 指出，其聊天机器人可能“与儿童进行浪漫或性感的对话”，这导致了国会调查 (link)。即便如此，监管仍未能跟上人工智能 (link) 飞速发展的步伐。

“就人工智能对儿童造成的影响而言，我们正处于一个非常糟糕的境地，”谷歌前信任与安全副总裁汤姆·西格尔（Tom Siegel）对路透表示。“认为该行业无需外界帮助就能自行解决这一问题，是不现实的。”

西格尔的担忧反映了部分科技业内人士和学术研究人员日益增长的担忧：在行业竞相为数百万年轻人日常使用的聊天机器人添加越来越先进的功能之际，人工智能对儿童构成的威胁比社交媒体更为深远。

西格尔加入青少年人工智能安全研究所

西格尔周二宣布，他已加入儿童网络倡导组织“常识媒体”（Common Sense Media）。该非营利组织成立于2003年，主要开展研究并评估各类媒体对儿童的适宜性。今年5月，该组织成立了“青少年人工智能安全研究所”（Youth AI Safety Institute），这是一个致力于评估儿童使用人工智能情况的研究机构，西格尔将担任该研究所的首任执行董事。

Anthropic以及掌控OpenAI的非营利组织OpenAI基金会均是该研究所的资助方。

西格尔表示，他计划制定相关标准，据此对人工智能企业进行问责，并希望通过与这些公司及第三方组织合作来实现这一目标。

他此前于2004年至2019年在谷歌工作，但因认为科技行业在为消费者创造安全网络空间方面的能力已“停滞不前”，遂选择离职。随后，他联合创立了初创公司TrustLab，该公司开发了帮助企业检测安全威胁的工具；本月早些时候，他辞去首席执行官职务，以接任新职。

西格尔表示，就目前情况来看，主要的人工智能公司正在向儿童推出新功能，却未建立充分的防护措施。

风险从自杀到精神病不等

“我认为我们正面临着极其严重的伤害情景，”他说。

他建议这些公司应立即采取措施更好地保护年轻人，并列举了从自杀、精神错乱到“认知卸载”（指因依赖AI回答问题而导致批判性思维能力下降）等各类风险。

他表示，Anthropic和OpenAI可以实施更严格的年龄验证措施，以阻止未成年人访问其聊天机器人。他还补充说，他的前雇主谷歌可以轻松地在其搜索引擎中添加一个选项，用于关闭“AI概览”和“AI模式”，就像它已经提供了一个允许用户过滤色情内容的开关一样。

西格尔补充道，虽然这些措施可能会在短期内影响使用量或利润，但若不采取行动，AI公司将面临诉讼和监管风险，而这些风险对业务的影响可能更为严重。

当被问及如何回应西格尔的评论时，谷歌一位发言人表示，家长可以通过控制功能完全禁止孩子使用该搜索引擎。“我们的AI搜索功能是儿童和青少年学习、探索以及理解信息和世界的一种极其有用的方式，”该发言人说道。

本文初次发布后，谷歌在一份声明中补充道，其人工智能工具需经过以儿童安全问题为重点的“严格”测试和评估流程。

OpenAI的一位发言人表示，该公司除了用户自报年龄外，还会利用“账户和行为信号”来识别未成年用户。“虽然没有任何一种年龄验证方法是完美的，但我们一直在持续测试和改进这些系统，包括防范绕过安全防护措施的尝试。”

Anthropic 尚未立即回应置评请求。

在“常识媒体”（Common Sense Media），西格尔表示，首要任务是推广类似汽车碰撞测试的独立标准，以评估公开可用的AI工具所带来的风险。该标准的有效性在一定程度上取决于AI企业的合作意愿。西格尔表示，虽然这种合作的可能性尚不确定，但已足够高，足以让他接受这份工作。