ATT正借助开源大模型,削减向Anthropic支付的账单

  Anthropic 和 OpenAI 比较好 祈祷不会有更多企业效仿 ATT 的做法 。

ATT正借助开源大模型	,削减向Anthropic支付的账单-第1张图片

AT&T正借助开源大模型,削减向Anthropic支付的账单

  ATT 副总裁马克・奥斯汀透露,这家电信企业计划在未来几年控制员工调用 Anthropic 、OpenAI 闭源模型产生的费用,保持支出持平 ,方案就是更多采用英伟达的 Nemotron 等开源大模型 。

ATT正借助开源大模型,削减向Anthropic支付的账单-第2张图片

  奥斯汀负责管理公司供 10 万名员工使用的人工智能工具,覆盖代码编写 、财务分析、人力资源配套工具、客服支撑系统等各类场景。虽然 ATT 也面向消费者推出部分 AI 功能(例如手机应用内置聊天机器人) ,但其人工智能的绝大多数应用都集中在内部业务。

  奥斯汀表示,过去一年间,ATT 大幅提升开源模型的使用占比 ,近来 员工发起的 AI 调用请求中,已有 40% 由开源模型承载 。企业规划在未来数年,将这一比例提升至 60%~70%。

  奥斯汀称 ,实测发现开源模型的效果 “和 Anthropic 、OpenAI 等厂商推出的旧版闭源模型持平,甚至更优 ”。举例来说,公司软件开发人员处理代码生成这类复杂任务时 ,仍会选用顶尖闭源模型;但代码摘要生成这类轻量化工作 ,完全可以改用成本更低的开源模型 。“我们预计开源模型后续还会持续迭代优化。 ”

  ATT 还部署了模型路由工具,可根据任务复杂程度,自动把员工的请求分配至成本更低的模型 ,以此节约开支。奥斯汀介绍,接入路由服务商 LiteLLM 之后,代码编写这类高阶 AI 任务的成本比较高 下降 56% ,而 AI 输出质量仅降低 2% 。

  奥斯汀介绍,ATT 于 2023 年自研核心内部 AI 系统 Ask ATT,该系统最初完全依托通过微软云采购的 OpenAI 模型运行。如今这项员工通用服务已接入多款模型 ,覆盖多样办公场景:开发人员编写、修改代码;员工查询公司人事制度;销售人员实时记录会谈内容、总结 客户通话纪要;客服人员通话时检索业务资料。

  奥斯汀提到,使用 Ask ATT 的开发人员可以自主选取 特定模型或智能代理工具,包括 GitHub Copilot 、Devin、Claude Code、Codex ,但相关调用设有费用上限 。

  近来 Ask ATT 每天 处理450 亿 token(文本最小处理单元)。奥斯汀并未披露该系统的运维总成本,但依据 OpenAI 、Anthropic 公开定价测算,如果全部采用这类闭源模型承载如此庞大的 token 处理量 ,每年至少耗费上亿美元。

  奥斯汀表示 ,除 Nemotron 以外,ATT 还使用 Meta 的 Llama、谷歌 Gemma 等开源 / 开放权重模型 。部分模型任务部署在自有数据中心,依托英伟达、AMD 服务器芯片运行 ,相比向云厂商租用算力部署模型,自有算力方案通常成本更低 。

  ATT 同时在评估来自中国的开源模型,包括深度求索(DeepSeek) 、月之暗面(Moonshot) ,不过暂未投入业务使用,企业仍在评估使用这类模型潜在的各类风险。

  奥斯汀结合 ATT 的落地经验总结:开源模型整体能力通常比前沿顶尖闭源模型落后 6 至 10 个月,但二者之间的性能差距正在持续缩小。

标签:

相关推荐

  • 美联储柯林斯:若无通胀持续回落证据 则需要尽快加息

    美联储柯林斯:若无通胀持续回落证据 则需要尽快加息

      在前往怀俄明州杰克逊霍尔参加年度研讨会之前,波士顿联储主席苏珊·柯林斯周二发表了自己对经济和货币政策的看法。她表示,除非未来公布的数据表明通胀在持续降温,否则美联储可能需要尽快加息。当前美国通胀率仍处于高位,并已成为企业和家庭普遍担忧的问题。  柯林斯在波士顿联储官方网站发布的文章中表示,按照她的基本情景判断,美联储当前的政策利率仍将继续对物价形成下行...

    2026/08/26
  • 美加口水战升级 特朗普考虑将安大略湖更名为“美利坚湖”

    美加口水战升级 特朗普考虑将安大略湖更名为“美利坚湖”

      美国总统特朗普周二威胁将安大略湖改名为“美利坚湖”,在美加贸易争端升温之际,特朗普与加拿大官员之间的口水战也在不断持续升温。  特朗普在社交媒体发文称:“美国正在认真考虑把安大略湖改名为美利坚湖,因为我们预计今后不会再和安大略省做多少生意。”  此前两国谈判破裂,美国对价值200亿美元的加拿大商品额外征收新关税。加拿大总理马克·卡尼也宣布将实施反制关...

    2026/08/26
  • 【期货白银实时费用行情,期货白银费用走势图】

    【期货白银实时费用行情,期货白银费用走势图】

    白银期货实时费用〖壹〗、国内换算纽约白银期货费用,主要看两个关键点:1手=5000盎司,汇率按实时美元兑人民币中间价计算。比如现在纽约银价24美元/盎司,汇率2,那么1手价值就是24×5000×2=84万人民币。注意还要算上期货公司加的保证金比例,一般12%左右,实际交易1手要10万出头保证金。〖贰〗、当前费用与关键位分析截至2025年12月30日10:5...

  • 【车顶行李架安装方法图,车顶行李架安装方法图解】

    【车顶行李架安装方法图,车顶行李架安装方法图解】

    北京汽车bj30怎么安装车顶行李架〖壹〗、使用粘胶式行李架:清洁车顶粘贴区域(湿布去尘+干布擦净),粘贴后按压静置24小时固化。〖贰〗、北京汽车BJ30安装车顶行李架的步骤如下:固定支架:首要步骤:按照车顶行李架的安装说明书,找到车顶的预留位置。这些位置通常是设计好的,以确保行李架能够稳固安装。安装支架:使用提供的工具和螺丝,将支架固定在车顶的预留位置上。...

  • 变速箱匹配(变速箱匹配比较好的车型)

    变速箱匹配(变速箱匹配比较好的车型)

    变速箱匹配需要满足什么条件〖壹〗、首先,发动机的扭矩和转速特性要与变速箱的传动比范围相适配,这样才能在不同工况下实现高效动力传递。其次,变速箱的换挡平顺性也是关键,要尽量减少换挡顿挫,让驾驶体验更舒适。再者,变速箱的可靠性和耐久性要能经受住发动机输出的考验,保证长期稳定工作。另外,燃油经济性也是重要考量因素,合适的匹配能降低油耗。〖贰〗、大众湿式双离合变速...

    2026/08/26
  • 新疆病例/新疆 新冠

    新疆病例/新疆 新冠

    最新疫情:新增本土64例,新疆57例〖壹〗、月13日0—24时,国家卫健委通报31个省(自治区、直辖市)和新疆生产建设兵团报告新增本土“60+67”,具体数据及分析如下:本土确诊病例60例:地区分布:北京42例,内蒙古15例,上海3例。构成情况:含2例由无症状感染者转为确诊病例(均在内蒙古)。其他信息:当日无新增死亡病例和疑似病例。〖贰〗、和新疆生产建设兵...

    2026/08/26
  • 百亿元项目五年进度不足3% 厚普股份氢能产业园杂草疯长

    百亿元项目五年进度不足3% 厚普股份氢能产业园杂草疯长

      曾经名噪一时的百亿氢能产业园,周边杂草肆意生长。近日,证券时报记者实地探访厚普股份(300471)氢能装备产业园项目发现,项目主入口全部被黑色围挡包住。  2021年4月,厚普股份与成都新都区签订总投资150亿元世界氢能产业集群合作协议。此后,公司股价从12元/股冲高至36.49元/股的历史高位。  5年过去,这份150亿元的产业蓝图几乎“落空”:规划...

    2026/08/26
  • 【陕西新增5例本土确诊病例,陕西确诊病例最新情况】

    【陕西新增5例本土确诊病例,陕西确诊病例最新情况】

    10月6日陕西新增新冠肺炎感染者50例陕西新增1例新冠肺炎确诊〖壹〗、10月6日,陕西省报告新增50例新冠肺炎感染者,其中45例为无症状感染者,5例为确诊病例。同一天,有1例确诊病例出院,1例解除隔离医学观察。截至10月6日24时,陕西省共有43例本土确诊病例和205例无症状感染者在院治疗或隔离观察。〖贰〗、0月18日陕西新增6例本土确诊病例、1例本土...

  • 中国太平:上半年股东应占溢利128.73亿港元 同比增长90.3%

    中国太平:上半年股东应占溢利128.73亿港元 同比增长90.3%

      8月25日金融一线消息,中国太平发布2026年中期业绩。上半年股东应占溢利128.73亿港元,同比增长90.3%,主要因保险服务业绩及投资回报上升。  人寿保险业务溢利166.82亿港元,同比增长101.5%;资产管理业务溢利5.32亿港元,同比增长166.2%。保险服务业绩128.76亿港元,同比增长4.5%;净投资业绩96.94亿港元,扭转去年同期...

    2026/08/26
  • 【黑河疫情源头,黑河市疫情最新消息】

    【黑河疫情源头,黑河市疫情最新消息】

    黑龙江黑河已有8人确诊新冠肺炎,该地疫情源头在哪儿?瑞丽的压力主要来自偷渡者。如果黑河出现疫情,动物传播的可能性更大。俄罗斯的感染者太多了,新冠肺炎喜欢感冒。俄罗斯感染者暴露的所有货物都可能携带新冠肺炎病毒。从新冠肺炎带货进入黑河后,第一个接触到他们的人一定是黑河人。当接触可能被污染的物品的人与他人接触时,病毒就会传播,疫情就会到来。近来美国疫情严峻,对来...

    2026/08/25
返回顶部