AT&T公司副总裁马克・奥斯汀透露，这家电信巨头正计划通过更广泛地采用像英伟达Nemotron这样的开放源代码大型模型，以在未来数年内将员工使用Anthropic和OpenAI模型所产生的开销维持在现有水平。奥斯汀负责监管公司10万名员工所使用的各类人工智能工具，其应用范围涵盖代码开发、财务分析以及人力资源和客服团队依赖的多种软件。虽然AT&T也为消费者提供部分AI功能，例如手机应用内的聊天机器人，但公司绝大部分的人工智能部署集中在内部运营环节。

他表示，在过去12个月里，AT&T显著扩大了开源模型的应用范围，目前员工发起的AI请求中已有40%由这些开放模型处理。公司计划在未来几年将此比例提升至60%到70%之间。奥斯汀指出，他发现开源模型的性能“与Anthropic、OpenAI等供应商的旧版本模型相比毫不逊色，甚至在某些方面表现更佳”。举例来说，AT&T的软件开发人员处理代码生成等复杂任务时仍会选用顶尖的闭源模型，但对于代码摘要生成这类计算需求较低的操作，则可以采用成本更低的开放模型。“我们预计开源模型在未来会持续改进和优化。”

AT&T还通过模型路由工具进一步削减开支，这种技术能够根据任务的复杂程度，自动将员工的请求导向成本更低的模型。奥斯汀介绍，公司接入路由服务商Lite LLM后，代码编写等部分高阶AI任务的费用最高下降了56%，而输出质量仅出现2%的轻微下滑。奥斯汀提到，AT&T在2023年推出了核心内部AI系统Ask AT&T，该系统最初完全依赖通过微软云采购的OpenAI模型。此后，公司为该服务集成了更多模型选项。

员工利用这一系统处理各种工作：软件开发人员编写和修改代码；普通员工查询公司人力资源政策；销售人员在会议期间实时记录内容和整理客户通话摘要；客服代表在与用户互动时调取参考信息。奥斯汀表示，使用Ask AT&T的软件开发人员可以自行选择特定模型或AI代理，包括GitHub Copilot、Devin、Claude Code和Codex，但相关的调用设有预算上限。奥斯汀透露，Ask AT&T目前每天处理450亿个token（文本处理的最小单位）。

他未披露该系统的实际运营成本，但根据OpenAI、Anthropic等厂商的公开定价，如果完全使用闭源模型来处理如此庞大的token量，每年的费用至少需要数亿美元。除了Nemotron之外，AT&T还在使用Meta的Llama和谷歌的Gemma等开源或开放权重模型。部分模型推理任务被部署在自有数据中心内，依赖英伟达和AMD的服务器芯片运行，这种模式相较于向云服务商租用计算资源来运行模型，通常更具成本效益。奥斯汀表示，根据AT&T的实际使用经验，开源模型的能力通常比前沿闭源模型落后6到10个月，但两者之间的性能差距正在持续缩小。