OpenAI推出GPTs功能，大幅降低AI应用的开发门槛，全球AI应用即将进入量变引发质变的新阶段。随着爆款应用的不断出现，必将拉动算力需求的快速增长。国内英伟达的禁售导致算力需求紧缺情况加剧，国产算力有望取代英伟达占据的市场份额，国产AI芯片、AI服务器、AI一体机将迎来发展。

（一）什么是AI大模型一体机？

AI大模型一体机本质可以理解为AI服务器叠加大模型私有化部署。大模型一体机是一种软硬结合的设备，集成了AI芯片、AI平台软件及各类模型算法。一般而言，大模型训练过程需要将数据传输到中央服务器或云端进行计算，然后再传回结果，这涉及了大量的数据传输和网络延迟。而大模型一体机将模型预置在服务器中，能够实现大模型的私有化部署。

训推一体机一般预置 AI 大模型引擎，并且也将用户的需求例如知识库问答、知识图谱、AI 生图等功能，相应的芯片算力能力更高，用户部署在自有的环境下更加易于开发相关的 AI 应用。因此，成为训推一体机供应厂商的要求也就更高。

科大讯飞、云从科技等10+家厂商发布了昇腾 AI 大模型一体机解决方案，涉及政务、教育、医疗、安全等多个垂直领域。

（二）为什么需要AI一体机？

原因一：本地化部署，数据不脱离内网

相对于互联网客户，政府、金融、电信等行业客户具备大量敏感数据，处于对数据安全、隐私安全的考虑，上述客户对于使用大模型，以及将数据上传至云端进行训练持保守态度。事实上，国外部分大型企业已限制了对AI的使用。据Insider报道，一些大公司正在限制其员工对ChatGPT的访问，如亚马逊和苹果均表示担心人工智能可能带来的数据泄露风险。

原因二：软硬结合，开箱即用

企业在大模型开发全流程中，常常面临切换硬件集群、适配底层硬件以及微调优化等复杂问题。采用AI一体机可以实现在同一个集群内无缝切换大模型的训练和推理过程，从而为客户提供高效的大模型训练和推理部署流程；同时，解决方案内置了大模型推理引擎、调优工具和算子加速库，支撑客户开箱即用，无需进行二次硬件适配，即可让客户能够直接使用大型预训练模型，从而降低了技术门槛；此外，通过芯片层面的算法调优，能够充分释放硬件性能，从而提升模型训练和推理的效率。

根据信通院数据，我国AI算力应用占比最大的行业是互联网，随后依次是政府、服务业、电信、金融、制造业等。其中，政府、电信、金融、教育、运输等关键行业的算力应用占比接近40%。

（三）AI一体机市场空间有多大？

根据国家统计局数据，2022年全国大型企业超过万家，中型企业接近3万家，小型企业则达到了近124万家；根据国家统计局数据，2022年全国医院有3.7万个；

根据教育部发布的2022年全国教育事业发展统计公报显示，全国共有各级各类学校51.85万所；

根据前瞻网，截至2023年8月，国内智算中心有40个，2022-2026 年中国智能算力规模复合增长率达 47.58%。

根据恒为科技11月16日公告，公司中标AI算力一体机480柜，中标总金额为21.12亿元。可得平均单价为440万元/台。

目前已有多家公司发布昇腾AI一体机解决方案，涉及政务、医疗、遥感等多个垂直行业。我们认为AI大模型一体机已成为行业共识，有望成为国产算力的主流形态。

因此，仅企业市场（中大型企业每家采购一台AI一体机），AI一体机市场就接近千亿规模。如果再计算学校、医院、数据中心市场，则市场将更加庞大。如果英伟达完全禁止向中国出口H800芯片，则现在的AI一体机市场可能成为华为AI一体机等国产AI一体机的市场空间上限。

文章来源：架构师技术联盟