登录 注册 返回主站
F10资料 推荐产品 炒股必读

AI芯片时代到来了?这家公司押注了这些先进技术

  • 作者:党项人A
  • 2023-02-14 21:49:43
  • 分享:

短短几个月里,ChatGPT的用户量已经破亿,和ChatGPT对话成为了市场热点,那么对支撑ChatGPT技术的讨论也变得越来越多。

我们说过ChatGPT的发展离不开算法、算力和数据三大要素的驱动,先进的算法少不了海量数据和强大的运算能力作为基础,这意味着大算力芯片如GPU/FPGA/定制化AI芯片/DPU,及其配套的存储芯片如DRAM/Flash、传输接口芯片等都会迎来大规模的需求。我们昨天介绍了龙芯中科,今天聊聊中科曙光的技术。

到现在,现在中科曙光已经覆盖了高性能计算,存储产品,软件开发、系统集成及技术服务(以下简称技术服务)三大业务体系。高性能计算业务主要包括高性能计算机、通用服务器、AI服务器、工作站终端等产品的生产和销售,存储业务主要为软件定义存储产品的生产和销售,技术服务业务包含机房冷却设施、网络安全产品、大数据平台软件、云计算平台软件、云计算服务等。

         

ChatGPT想要正常运行,少不了背后庞大的算力支撑。绿色节能数据中心曾有过计算,ChatGPT的总算力消耗约为3640PF-days。根据这几天国内落地的某数据中心为参照物,算力500P耗资30.2亿落成,若要支持ChatGPT的运行,需要7—8个这样数据中心支撑,基础设施投入需以百亿计。发展需要数据中心、AI芯片、服务器等环节支撑算力。

基础算力、智能算力和超算算力共同组成算力,这里面基础通用算力是基于CPU芯片的服务器提供的计算能力。而智能算力是基于GPU、FPGA、ASIC等芯片的加速计算平台提供的人工智能训练和推理的计算能力。超算算力是基于超级计算机等高性能计算集群所提供的计算能力。中科曙光的计算业务包括了通用计算服务器、人工智能服务 器和高性能计算机系统,这些技术共同为客户提供算力服务。

在市场上,浪潮息、戴尔、联想这些都是我们市场使用比较多的x86服务器供应商,但是随后中科曙光的产品慢慢进入市场,等到了2019年和2020年,中科曙光的产品成为我国第六大x86服务器供应商,当时我国的基础通用服务器市场比较稳定,其中x86架构用得比较多,2020年基础通用服务器贡献我国算力的57%,足以证明,x86架构服务器的市场地位,2020年我国x86架构通用服务器出货量达到343.9万台,占总出货量的98.3%,但是前几年当中科被纳入实体清单后,海外英特尔、AMD芯片供 应出现过暂时中断,虽然后面也有缓和,但中科曙光也意识到了,逐渐开始调整通用服务器整机的业务,等到2020年的时候整机出货量已经少了很多。

以前我国的X86服务器主要应用在互联网、运营商与政府。比如我国曾发布过《推动企业上云实施指南2018-2020》明确指出2020云计算在企业生产经营管理中应用推广,新增上云企业100万家。各个省份也加紧步伐,像浙江省要求2020年全省40万家企业上云,并提出企业出一点,云服务商贴一点,政府补一点的联合激励机制。中科曙光抓住了这个机会,成立了中科睿光,并推出CloudviewSVMEdition2.0以及CloudVirtual6.2,全面支持城市云建设。也推出了“数据中国智能计划”。在政府云方面也合作加深,带动了中科曙光的营收。但在之后,商业化的应用就变多了。

不过高性能计算机,也就是X86服务器,这个产品最开始带给中科曙光的毛利率很低。像前几年2018年,中科曙光毛利率。只有18.3%,销售净利率才有5%。因为当时戴尔等外企的产品几乎占据着我国市场,产品多成本可以拉下来。之后我们开始意识到要打造我们自己的产品时,浪潮、华为、中科曙光等开始做自己的服务器,但是成本要高一些,一方面是芯片量产规模不大,另一方面是国外龙头可以量产芯片来提高自给率,也可以自给服务器上游元器件,综合成本就没那么高。

AI芯片支撑算力系统  

ChatGPT 发布之前,AI就已经走到了我们的工作生活中。从深蓝到 AlphaGo,人工智能一直在不断进步。如今仍为了满足大模型应用的巨大算力需求,厂商们纷纷加大了相关基础设施方面的投资。作为算力基础设施中的核心硬件,AI芯片由此进入我们的视野。

ChatGPT需要海量的算力支撑,在这方面,微软已经开始准备,曾投资10亿美金为OpenAI构建支撑其训练的超级计算机,新超级计算机拥有超过28.5万个CPU核心,1万个GPU,每个GPU服务器的网络连接能力为400GBps。算力需求上,OpenAI基于大模型框架进行训练,其新产品GPT-3所需参数量已达到1750亿个,预训练的算力需求大幅提升。算力硬件设施上,据OneFlow报道NVIDIA A100 GPU芯片目前是最具成本效益的GPU选择;AI 服务器英伟达DGX A100服务器AI算力性能约5PetaFLOP/s,能够满足OpenAI的算力训练需求。

国内厂商也没落后,前几年曙光就在研究AI算力服务,2021年中旬,中科曙光发布了我国第一个一体化算力服务平台,该平台用于多元算力资源的融合调度及弹性供给。到现在已经更新到了4.0版本,在这个平台上结合了全国的算力资源,吸收了海量异构计算资源链接,形成一体化算力服务网络。该算力服务网实现了对算力、存储、网络以及数据等分布资源的整合,并通过统一的算力服务门户,根据科学计算、工程计算和智能计算等场景需求,向用户输出算力、算法、数据、应用高度协同的一体化资源。使用者不用投入大量成本购买硬件设施也可完成AI大模型训练等复杂计算工作。

现在该平台已经在很多领域投入使用,像科教、AI人工智能推理、工业、政企等。曙光平台为科教行业提供稳定的作业环境,为AI推理行业提供计算加速能力,为工业行业提供模拟仿真服务。AI推理用户希望平台变得像云计算一样,用容器和虚拟化来让整个推理过程更加快速便捷,曙光4.0平台拥有很多中心资源,同时基于中科曙光在计算领域的技术,有一整套运营服务和技术体系来支持该平台的AI推理运行与服务。

除了能够在线提供Tensorflow、PyTroch、PaddlePaddle等主流AI框架外,中科曙光针对大模型的分布式训练持续优化,率先实现了在数千节点规模时也能正常使用的技术。这次随着ChatGPT的爆火,也让曙光智算公司提供用于AI训练与推理计算的试用资源大火,在开放使用后一周内就被注册光了。再加上海光芯片的加持,打造最强国产算力基座。海光打造了国产 x86 架构芯片,在单核性能、软件生态等方面与其他架构国产芯片的差别已经很小了,也有相关的分析,比如把海光二号的旗舰芯片海光 7285 和英特尔在 2020 年发布的铂金级旗舰芯片进行性能评测,结果是海 光产品已经与英特尔同期发布的主流服务器 CPU 性能总体相当。深算一 号是海光在 2021 年正式实现商业化应用的 GPGPU 产品(DCU 产品), 把它和英伟达及 AMD 的高端 GPGPU产品来测算,结果是深算一号各项指标也做得很不错。

芯片是算力的硬件设施。GPGPU作为运算协处理器,可以满足不同场景的需求,提供专用向量、张量、矩阵运算指令,增加浮点运算 的精度和性能。现在英伟达、Intel和AMD占据全球GPU主要市场,我国也不少研发这类技术的厂商,像海光息是唯一大规模销售的支持全精度的AI训练GPU)、景嘉微也自主研发GPU芯片。

AI 芯片是针对人工智能算法做了特殊加速设计的芯片,也叫做AI加速器或计算卡,是AI的算力基础。如今传统的CPU架构很难满足人工智能算法对算力的要求,人们更加看好有海量数据并行计算能力、能加速计算处理的AI芯片。我们知道ChatGPT是有着海量复杂计算需求的AI模型,而GPU、FPGA、ASIC等AI芯片专门用于处理这些计算任务,是很重要的底层硬件。其中GPU擅长并行计算,FPGA主打现场可编程,ASIC专用定制,类脑芯片模仿人脑学习。

在AI芯片领域,中科曙光主要是做ASIC技术,ASIC的优势是存储处理比GPU更适合用类进行神经网络运算。GPU的优势是在模仿人脑的机制来解释数据,例如图像、文本和声音等,但是硬件加速时,容易受到存储和处理分离式结构的影响,效率不高,ASIC也可以做这些工作,而且效率高。

ASIC的精度要比FPGA好一些。相关息显示,FPGA的可编程性会产生面积和功耗结余的情况,就要提前进行大量门阵列,使用者还有较高的技术才可以达到更好的效果。劣势单片成本高,使用时可能会出现成本和收益冲突的情况。

和类脑芯片比,ASIC技术更成熟。类脑芯片更加先进,但仍还在研发阶段,技术也不成熟,使用的场景也不多。目前为止还是ASIC技术应用的更多一些。

在ASIC技术研发上,中科曙光曾和寒武纪有过合作,寒武纪算是ASIC龙头,有自己的技术积累,其深度学习专用处理器已量产。寒武纪代表产品寒武纪1A为国际首款商用深度学习专用处理器,授权华为海思使用。

现在,ChatGPT已经推动了AI发展的新浪潮,背后需要算力的快速提升,算力行业的发展已经是大势所趋,AI服务器、AI芯片等领域迎来重要的新的机遇。

         

         吕长顺(凯恩斯) 证书编号A0150619070003。【以上内容仅代表个人观点,不构成买卖依据,股市有风险,投资需谨慎】 


温馨提醒:用户在赢家聊吧发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。本文中出现任何联系方式与本站无关,谨防个人信息,财产资金安全。
点赞0
发表评论
输入昵称或选择经常@的人
聊吧群聊

添加群

请输入验证信息:

你的加群请求已发送,请等候群主/管理员验证。

时价预警 查看详情>
  • 江恩支撑:10.31
  • 江恩阻力:11.6
  • 时间窗口:2024-06-23

数据来自赢家江恩软件>>

本吧详情
吧 主:

虚位以待

副吧主:

暂无

会 员:

19人关注了该股票

功 能:
知识问答 查看详情>