聪明的矿工
分享:
请输入验证信息:
你的加群请求已发送,请等候群主/管理员验证。
数据来自赢家江恩软件>>
虚位以待
暂无
0人关注了该股票
长期未登录发言
吧主违规操作
色情、反动
其他
*投诉理由
答:天津市海光海河专项基金合伙企业详情>>
答:海光信息的子公司有:6个,分别是:详情>>
答:海光信息上市时间为:2022-08-12详情>>
答:海光信息的概念股是:信创、人工详情>>
答:2023-06-15详情>>
民生证券:纺织行业景气度回升 相关设备有望受益
尾气治理概念逆势上涨,概念龙头股南华仪器涨幅19.97%领涨
燃料乙醇概念逆势走强,*ST海越以涨幅4.9%领涨燃料乙醇概念
电子身份证概念逆势走强,概念龙头股任子行涨幅20.0%领涨
聪明的矿工
从通用性来讲,算力芯片有三种,专用的ASIC芯片,
在用途上,一种是训练芯片,用来训练大模型,算力和精度要求高;另一种是推理芯片,是在已经完成训练的模型上,根据输入数据反馈输出结果,算力和精度要求都低很多。
AI算力芯片折旧一般2-3年,最长不超过5年。从2019年开始,算力需求每10个月翻一番,产品更新迭代很快。
目前的市场格局下,英伟达是绝对的龙头老大,拥有最先进的加速芯片H100和最高的市占率。
因为美国政府的制裁,英伟达不能直接向中国出口先进的算力芯片,只能提供性能阉割版的芯片,海外能用A100和H100,国内只能买A800和H800,从参数上看差了30%多性能,实际用下来大概差了一半。
以GPT-3为例,openai训练使用了一万张A100,训练了14.8天左右。GPT-4没有详细披露训练过程,估计是用2-3万张A100训练了一个月左右的时间。
国内的厂商中,海光息 从实际量产的技术上来讲是第一梯队。海光的深算1号可以运行大模型,但只相当于英伟达的P100,等于是14年左右的技术水平,而且实际运行的稳定性差很多。
除了海光之外,华为的昇腾910也能拿来当训练芯片,但是目前只能运行华为自己内部经过优化后的模型,估计在通用性上还是差点意思。
昇腾(HUAWEI Ascend) 910是业界算力最强的AI处理器,基于自研华为达芬奇架构3D Cube技术,实现业界最佳AI性能与能效,架构灵活伸缩,支持云边端全栈全场景应用。算力方面,昇腾910完全达到设计规格,半精度(FP16)算力达到320 TFLOPS,整数精度(INT8)算力达到640 TOPS,功耗310W。
分享:
相关帖子