登录 注册 返回主站
F10资料 推荐产品 炒股必读

从通用性来讲,算力芯片有三种,专用的ASIC芯片,

  • 作者:聪明的矿工
  • 2023-07-16 10:20:02
  • 分享:
从通用性来讲,算力芯片有三种,专用的asiC芯片,通用的GPGPU,还有介于专用和通用之间的FPGA。目前的AI加速芯片市场以通用性为主,GPGPU占到90%的市场份额。
在用途上,一种是训练芯片,用来训练大模型,算力和精度要求高;另一种是推理芯片,是在已经完成训练的模型上,根据输入数据反馈输出结果,算力和精度要求都低很多。
AI算力芯片折旧一般2-3年,最长不超过5年。从2019年开始,算力需求每10个月翻一番,产品更新迭代很快。
目前的市场格局下,英伟达是绝对的龙头老大,拥有最先进的加速芯片H100和最高的市占率。
因为美国政府的制裁,英伟达不能直接向中国出口先进的算力芯片,只能提供性能阉割版的芯片,海外能用A100和H100,国内只能买A800和H800,从参数上看差了30%多性能,实际用下来大概差了一半。
以GPT-3为例,openai训练使用了一万张A100,训练了14.8天左右。GPT-4没有详细披露训练过程,估计是用2-3万张A100训练了一个月左右的时间。
国内的厂商中,海光息 从实际量产的技术上来讲是第一梯队。海光的深算1号可以运行大模型,但只相当于英伟达的P100,等于是14年左右的技术水平,而且实际运行的稳定性差很多。
除了海光之外,华为的昇腾910也能拿来当训练芯片,但是目前只能运行华为自己内部经过优化后的模型,估计在通用性上还是差点意思。
昇腾(HUAWEI Ascend) 910是业界算力最强的AI处理器,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI性能与能效,架构灵活伸缩,支持云边端全栈全场景应用。算力方面,昇腾910完全达到设计规格,半精度(FP16)算力达到320 TFLOPS,整数精度(INT8)算力达到640 TOPS,功耗310W。

温馨提醒:用户在赢家聊吧发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。本文中出现任何联系方式与本站无关,谨防个人信息,财产资金安全。
点赞2
发表评论
输入昵称或选择经常@的人
聊吧群聊

添加群

请输入验证信息:

你的加群请求已发送,请等候群主/管理员验证。

时价预警 查看详情>
  • 江恩支撑:67.68
  • 江恩阻力:76.14
  • 时间窗口:2024-07-15

数据来自赢家江恩软件>>

本吧详情
吧 主:

虚位以待

副吧主:

暂无

会 员:

0人关注了该股票

功 能:
知识问答 查看详情>