AI热已持续将近18个月，一些最大型的科技公司证明，AI能驱动营收。但这也是个大钱坑。
微软和Alphabet旗下Google的上季财报均显示，企业客户增加AI相关服务的支出，带动其云端运算的营收激增。Meta Platforms的技术货币化虽然落后其他公司，但也说AI有助提高用户参与度和广告定位。
三家公司斥资数百亿美元开发AI以取得这些早期成果，他们还没打算缩手。微软25日表示，上季资本支出年增79%至140亿美元，预计将因投资AI基设而「大幅增加」。Alphabet本季支出年增91%至120亿美元，预期下半年将「达到或超过」该水准。Meta想积极投资AI研究和产品开发，预计今年资本支出高达350亿至400亿美元。这可吓坏了投资人。
AI成本高昂的原因有二：AI模型愈来愈大，开发成本也就愈来愈高；而且，全球对AI服务的需求有赖新建更多数据中心来支持。
大型语言模型变更大
目前知名的AI产品都由大型语言模型驱动，其中包括OpenAI的ChatGPT。多家领先群伦的AI公司押注，要通往更复杂的AI，或能力超越人类的AI，这些大型语言模型必须变得更大，那需要取得更多数据、有更强的运算能力，并让系统接受更长时间的训练。
OpenAI竞争对手Anthropic首席执行官Dario Amodei在4月初受访表示，市场上AI模型的训练成本约1亿美元，而「正在受训的模型，以及今年稍晚或明年初推出的模型，成本接近10亿美元」。他还说，2025和2026年时「成本会接近50亿或100亿美元」。
运算成本
成本大都与芯片有关。训练大型语言模型，必须依赖能高速处理大量数据的GPU，这些芯片的供应主要来自辉达（Nvidia），不仅贵，而且还供不应求。
Nvidia的H100是训练AI模型的黄金标准，售价约30,000美元，有些经销商还卖数倍高的价钱。Meta首席执行官祖克柏曾说，今年底前要买进35万颗H100，即使打了折扣，总额可能也上百亿美元。.
只租不买也成，但也不便宜。亚马逊云端运算部门将英特尔GPU集群出租给客户，每小时要价约6美元，出租Nvidia的H100集群，每小时将近100美元。
Nvidia上月发布一款名为Blackwell的新型处理器，处理大型语言模型的速度快上数倍，定价在3万到4万美元间。训练有1.8兆个参数的AI模型，差不多是GPT-4的规模，大约要8,000个Hopper的GPU，运行同样任务只需2,000颗Blackwell。但速度改进可能被业界推动创建更大AI模型所抵消。
数据中心
买了芯片之后需有地方安置。Meta与亚马逊、微软和谷歌等最大型云端运算公司，以及其他算力出租服务提供商正竞相建置新的服务器农场。这些建筑往往必须客制，以容纳一排排硬盘机架、处理器、冷却系统、体积庞大的电气设备和备用发电机。
根据研究机构Dell’Oro Group，今年各家公司建置数据中心的支出，将从2020年的1,930亿美元狂飙到2,940亿美元。很大程度与数字媒体服务有关，但有愈来愈多的支出被指定用于价格昂贵的Nvidia芯片，以及其他支撑AI荣景的专用硬件。
授权交易和人才
芯片和数据中心之外，一些AI公司还必须花上数百万美元，从出版商那里取得内容授权。
OpenAI已与多家欧洲出版商达成交易，将他们的新闻内容纳入ChatGPT。这些交易的财务条款未披露，但彭博资讯曾报导，OpenAI同意向Politico和Business Insider的德国出版商Axel Springer支付数千万欧元，以合法取用其内容。这家新创公司还与时代周刊、美国有线电视新闻频道和福斯新闻网，进行内容授权谈判。
除OpenAI外，大型科技公司也想方设法取得语言数据，以打造引人注目的AI工具。路透报导，谷歌与Reddit达成价值6,000万美元的授权协议。另据纽约时报，Meta也在讨论收购图书出版商Simon & Schuster。
科技公司同时疯狂抢夺AI人才。去年，Netflix一度刊广告招AI产品经理，年薪是叫人咋舌的90万美元。
较便宜替代方案
微软最近推出了三种轻量级AI模型。仅管大型语言模型 「仍将是解决多种复杂任务的黄金标准，但对于某些客户和用例而言，较小的AI模型可能就够了」。
其他公司，像是两名前Google员工创办的Sakana AI，也专注于小模型。
Forrester Research的AI分析师Rowan Curran说：「你并不需要一直开跑车。有时只需要一辆小货车或皮卡」。
但目前而言，AI领域的传统观点是愈大愈好。这将付出高昂代价。
