计算机行业点评CHATGPT需要多少算力

更多调研录音、深度研报请关注: &34;秋天的两只小鸡&34;。

ChatGPT大模型下计算量高速扩张，算力需求陡增。1）以前，人工智能大多是针对特定场景应用进行训练，难以迁移，属于小模型范畴；而ChatGPT 背后的支撑为人工智能大模型，可大幅扩充适用场景、提升研发效率。OpenAI GPT3 自发布以来，在翻译、问答、内容生成等领域均有不俗表现，也吸引了海内外科技巨头纷纷推出超大模型、并持续加大投入。

    2）在大模型的框架下，每一代GPT 模型的参数量均高速扩张，GPT-3 参数量已达到1750 亿个。我们认为，ChatGPT 的快速渗透、落地应用，也将大幅提振算力需求。

    访问算力初始投入近十亿美元，单日电费数万美元。1）根据Similarweb的数据，2023 年1 月，平均每天约有1300 万独立访客使用ChatGPT。

    访问阶段算力每天发生，其成本成为衡量ChatGPT 最主要投入的关键指标。2）我们以英伟达A100 芯片、DGX A100 服务器、现阶段每日2500万访问量等假设为基础，估算得出在初始算力投入上，为满足ChatGPT当前千万级用户的咨询量，投入成本约为8 亿美元，对应约4000 台服务器；在单日运行电费上，参考美国平均0.08 美元/kwh 工业电价，每日电费约为5 万美元，成本相对高昂。

    前期训练公有云下，单次训练约为百万至千万美元。1）模型的前期训练成本也是讨论的重要议题。基于参数数量和token 数量估算，GPT-3 训练一次的成本约为140 万美元；对于一些更大的LLM 模型（如拥有2800亿参数的Gopher 和拥有5400 亿参数的PaLM），采用同样的计算公式，可得出，训练成本介于200 万美元至1200 万美元之间。2）我们认为，在公有云上，对于全球科技大企业而言，百万至千万美元级别的训练成本并不便宜，但尚在可接受范围内。

    投资标的

    服务器浪潮息、紫光股份、中科曙光等。

    芯片景嘉微、寒武纪、海光息等。

    IDC宝软件、万国数据、数据港、世纪华通等。

    光模块等。

    风险提示AI 技术迭代不及预期风险、经济下行超预期风险、行业竞争加剧风险。

来源[国盛证券有限责任公司 刘高畅/杨然]   日期2023-02-13