作家 | 三北裁剪 | 漠影

AI上市公司深圳云天励飞，最近在算力产物及处职业务板块完成诸多大额订单。

领先是11月5日，云天励飞晓示已完成近16亿元的AI大单的委用使命，为北京德元方惠科技开发有限包袱公司（简称“德元方惠”）提供AI锻练及推理算力工作。同期，第一批算力工作（对应公约中约60%的算力限制）的验收相关使命已完成，上线日历为2024年10月1日。

▲云天励飞最新公告部分截取

而就在不久前的9月，云天励飞刚中标了约1.3亿元的“天府智算中心（一期）面孔开拓采购及监理工作采购面孔”，连下两城。

自客岁以来，大模子催生了多量锻练及推理算力需求，宇宙各路云野心大厂、工作器厂商、AI企业以及一些跨界玩家纷繁启动过问智算行业。

看成一家作念AI算法起家的企业，云天励飞拿下这些项认识背后，有什么样的时候和交易逻辑？这又能为AI企业同业带来什么样的启示？

通过对话云天励飞副CFO兼本钱中心总司理陈腾宇，本文对此进行了潜入探讨。

一、大模子狂飙500天，锻练及推理算力需求激增

自2023年大模子爆火以来，催生了多量锻练及推理算力需求。

大模子朝超大参数限制发展，OpenAI残酷的百万卡的智算集群念念路如故被考证，推动智算中心如棋布星罗般浮现。左证工信部最新数据，远离2024年上半年，国内如故诞生和正在诞生的智算中心跳动250个。2024年上半年智算中心招投标相关事件791起，同比增长高达407.1%。

提早预判到这么的趋势，云天励飞于2023年头涉足异构算力范围，这是国内AI企业最早布局智算的门径之一。陈腾宇向智东西谈及那时的机会：短期来看，云天励飞在研发经由中有多量的时候千里淀不错复旧异构算力集群的高后果运行，而其盈利能力亦较为可不雅；另一方面，锻练背后的推理需求是更大的蓝海，将给云天励飞自研推理芯片提供深广的应用场景。

计齐截年多，时分来到2024年7月，云天励飞与德元方惠一举签下16亿元的AI大单，在产业里一战成名。

按照合约，云天励飞将为后者提供智能算力交流及AI大模子开发工作平台配套工作，算力总限制约4000PFLOPS，用于大模子锻练及推理。

面孔限制之大、业务之聚焦，好多业内东说念主士有趣，云天励飞能治理这个面孔吗？

陈腾宇告诉智东西，当前这一面孔已全面完成委用，并过问调试及验收阶段。同期，面孔交易化也不成问题，左证云天励飞官方公告，这一面孔将来三年预测每年为公司新增营收约5亿元，三年累计产生利润5.39亿元。

本年9月，云天励飞紧接着再下一城，中标了约1.3亿元的天府智算中心面孔。

据悉，该面孔当前也如故过问委用经由，预测进一步为云天励飞的功绩带来径直收益。

大面孔纷繁委用，记号着云天励飞异构算力业务步入正轨，成为一条新的增长弧线。

不错看到，比拟国内其他AI范围同业，云天励飞是在该范围跑得较快的AI企业。究其原因，领先如故因为公司较快地看到并收拢了这波AI机遇。

但提早布局AI算力的企业不在少数，为什么云天励飞草率解围？

四房色播二、为什么是云天励飞？左手算法，右手芯片

AI算力混战场面捏续已一年多。

自客岁以来，尽管云巨头接踵推出令东说念主眼馋的大模子训推“全家桶”，但内容可用的算力仍是稀缺资源，工作器厂商、AI企业都在布局智算，以致跨界玩家都入局了，竞争好不彊烈。

之是以草率在群雄混战的AI算力市集站住脚，陈腾宇以为，云天励飞的中枢竞争力还在于时候储备，主要体当今算法和芯片两大方面。

1、自研大模子教会千里淀器具，助客户擢升算力应用后果

在算法层面，云天励飞于2023年推出了自研千亿级“云天天书”大模子，并在大模子的研发经由中蕴蓄了一系列算力调优、擢升模子锻练后果的时候平台和相应器具。

这些教会及器具都被云天励飞千里淀到产物和工作中，可匡助客户擢升模子锻练及算力应用后果，以更低成本锻练大模子。

具体到集群照管方面，云天励飞智能锻练平台及算力交流平台，草率按任务交流到卡，并进行任务照管、任务编排、锻练告警、大模子断点续训。

此外，其数据照管（DataHub）支捏数据可视化、挖掘、治理等多维照管，在保证数据安全性的基础上已矣数据钞票化；此外皮集群照管中的通讯优化、日记集群、监控告警等方面也蕴蓄了多个器具链。

具体到软件平台方面，云天励飞推出了智能算法标注平台，为算法锻练提供了可靠的底层数据支捏，可支捏图像和文本自动化标注，据称比拟东说念主工标注后果提高40%傍边。

除此除外，支捏大模子负载平衡的部署平台，支捏在多个主流硬件平台进行零代码、自动化的模子发布的模子发布平台，提供完好器具和资源的模子评测平台，全面隐藏内容审核过滤的智能内容审核平台等，都不错大大提高算法锻练后果。

2、算法芯片化，自研大模子芯片提供高效推理工作

在芯片层面，云天励飞基于对AI算法时候特色及行业场景野心需求的意会，通过自界说提醒集、处理器架构及器具链的协同联想，已矣算法时候芯片化，构建了神经汇集处理器平台，不错支捏其算力产物及工作。

同期，云天励飞已具备自研的推理卡，依托立异的D2D chiplet架构，可承载大模子应用落地的大限制推理野心。据悉，从2022年启动其就启动针对大模子的Transformer架构作念优化，已矣流片，可见其对市集感知的前瞻性。

尽管在软件生态上还存在差距，但与外洋高性能算力比拟较，一些国产推理芯片如故在某些专项上占据上风。比如说云天励飞X6000一体机，接纳Mesh互联时候，在多卡互联时可已矣有储分享、最大化发达带宽上风，从而擢升大模子推理后果，针对70B模子的推理后果已达60 Tokens/s，而针对MoE架构模子，如mistral08*7B，推理后果达到260 Tokens/s。

具体到大模子推理的实务中，好多客户更多热心的是带宽能不成充分应用起来这个问题。云天励飞在卡间互联、堆叠式联想等多方面的研发储备，使其草率餍足客户的这一中枢需求。

不错看到，之是以草率拿下近20亿元大单，还因为云天励飞建树了双重护城河：左手算法，右手芯片，使其在群雄混战的AI算力市集杀出一条血路。

三、时候立身，作念最懂大模子的算力产物及工作

纵不雅算力产业，动辄一个项认识金额达数亿以致数十亿元，周期长、工程量大、后续运营工作需求高。

针对这么的业务特征，陈腾宇告诉智东西，关于大客户来说，他们在聘请算力工作提供商时，领先如故要推敲这家公司是否靠谱。主要纯属的方面除了时候储备，还包括行业教会、供应链和委用能力、运营适当性及资金实力等一系列玄虚能力。

而跟着百模大战络续激动，集群运营面对的最大挑战还在于合座的运营能力，以及跟着市集趋势变化，通过软硬件协同迭代，延续餍足客户的新需求。

谈及云天励飞在这些“软实力”方面的储备，陈腾宇谈说念，云天励飞如故搭建能力板块较为王人全的业务团队，包含时候研发、运营及销售、时候运维及委用等东说念主员，保险业务顺利开展、进行。

同期，该业务板块已有限制化落地。左证云天励飞官方公告，其已落地西南、华南区域三个高性能算力集群，运营算力限制接近5000P。在拿下两个多量大单前，远离2024年5月末，公司已搭建异构野心集群算力超800P。

此外，云天励飞还蕴蓄了多个行业的客户资源。通过前期业务拓展触达、崎岖游生态搭建等口头，云天励飞蕴蓄较多具备大模子锻练及推理需求客户，包括AI初创公司、科研院所、互联网企业、自动驾驶企业、运营商等客户资源。

不错看到，恰是这么的团队储备、落地案例及客户资源蕴蓄，合作“算法芯片化”战术实时候储备，让云天励飞的异构算力业务稳步发展起来。

关于AI行业来说，云天励飞开辟了一条AI企业在大模子期间的新出息——不啻于算法攻关，而是将算法与算力教会衔尾布局算力产物和工作，这对AI同业有一定的启迪作用。

结语：趁势而为，构筑AI企业新价值

追忆昔日一年多，AI算力在“百模大战”怒潮之中成为竞争焦点；站在当今看将来，行业已资格过一波大浪淘沙，高出重围的玩家如云天励飞，正真枪实剑披挂上阵，构筑AI企业的新价值壁垒。

智算中心正从“建起来”走向“用起来”，也对云天励飞们残酷了新挑战。“咱们的能力构建和交易化如故作念得比较好了，下一步咱们会络续作念深，绑定多个行业龙头宿舍 自慰，尽可能地挖掘客户需求，同期借用他们的行业教会去迭代我方的推理算力。”陈腾宇说。