ChatGPT API(降价 90%)对 LLM 领域的影响
来源: http://gaocegege.com/Blog/chatgpt-api 作者: 高策 日期: 2023年3月2日
背景
最近人工智能领域一个礼拜一个大新闻,毫不夸张。今天 OpenAI 宣布上线 ChatGPT API,并且相比于 GPT3 davinci 要便宜 90%,跟 curie 价格相同。OpenAI 相当于在 Chat Model 这个领域推出了 ChatGPT 能力的模型,但是价格只有之前的 90%。
因为身处相关行业,所以对这次降价的动作很感兴趣。我想知道这次降价会对 LLM 领域有什么影响,以及对于其他的 AI 产品会有什么影响。以下纯属个人在得知新闻的三个小时内形成的观点,仅供参考。
Hacker News 热评
在 Hacker News 上 upvote 最高的评论直指 OpenAI 在以倾销的方式推出 ChatGPT API,为了让潜在的竞争者有更高的进入门槛。
这种观点在 Hacker News 上有非常多的支持者。这种观点成立的前提,是 OpenAI 在这次降价后没法保持盈利。
成本计算
有评论计算了 OpenAI 的成本。ChatGPT 刚推出时,大家认为它的参数量在 175B 上下。目前的 ChatGPT 很有可能是在 10B 这个参数规模。这个规模首先不需要考虑过多显存的问题,其次算力成本也会大大降低。
单卡 A100 每小时的成本在 1-3 美元之间,OpenAI 作为微软投资的公司,应该可以获得更低的折扣。所以应该是可以保持盈利的。
基于估算,OpenAI 的降价并不是倾销的行为,更有可能是通过工程优化让 ChatGPT 的规模降低了,进而降低了成本。
对 LLM 领域的影响
OpenAI 的降价对于 LLM 领域的影响取决于非常多的因素,其中最大的几个是:
1. OpenAI 的领先程度 OpenAI 声称自己不会利用用户数据训练 ChatGPT,我个人觉得这相当于自缚双手。不知道 OpenAI 现在的领先会维持多久。如果 OpenAI 是苹果,那么对应的安卓什么时候才能出现?
2. 用户粘性 LLM API 的用户粘性也是一个很大的问题。如果用户不满意,很容易就会切换到其他的 API。API 层的适配成本比较低。
3. 资本投入 LLM 是一个非常需要资本的行业。如果未来 OpenAI 真的考虑掠夺式定价,那么 LLM 领域的竞争会变得非常激烈。
许可证: CC BY-NC-SA 3.0