大模型
大模型推理成本差距最高达112倍
Chamath列出的数据显示,Anthropic每百万token推理成本为56美元,中国大模型为0.50美元,成本相差112倍。
Chamath列出的数据显示,每百万token的推理成本中,Anthropic为56美元,OpenAI为26美元,Meta为1.50美元,xAI和Google均为1美元,中国大模型为0.50美元。
这一成本压缩速度被形容为技术史上最陡峭的“商品曲线”:石油耗时约40年达到类似压缩,半导体耗时约20年,而AI推理在数月内实现了相近幅度的下降。