8月26日，云天励飞发布2024年半年度报告。2024上半年，云天励飞营业收入2.89亿元，同比增长97.4%，主要系智慧行业解决方案及智能硬件产品的销售收入增加所致。
今年7月世界人工智能大会上，云天励飞边缘AI战略全面亮相，并公布了基于边缘AI平台的三大业务领域：智能硬件、智算运营、智慧行业。边缘AI战略成效在公司2024上半年业绩中初显成效。
智能硬件或成业绩新增长点
智能硬件是云天励飞2024半年报的一大亮点。
据市场研究报告显示，预计到2025年，全球智能硬件市场规模将达到数千亿美元规模，年复合增长率保持在两位数以上。智能硬件正以前所未有的速度重塑人们的生活和工作。
根据半年报，云天励飞基于自研“云天天书”大模型和神经网络处理器，打造面向各类边缘AI场景的各类硬件设备并对外销售，包括 AI 芯片、与华为昇腾合作打造的“天舟”大模型一体机等。报告期内，云天励飞还推出了融合“云天天书”多模态大模型能力的警务安全智能终端，具备万物识别、自然语言检索、警务知识咨询等功能，可全面助力基层警务人员提升执法水平。
值得一提的是，今年3月云天励飞收购智能穿戴方案设计头部公司岍丞技术。岍丞技术主要产品包括智能蓝牙耳机PCBA、智能手表PCBA、智能音箱PCBA等IoT产品，主要应用在华为、荣耀、OPPO、VIVO、安克、boAt、Noise等品牌的终端产品上。收购岍丞技术后，云天励飞积极探索“大模型 智能可穿戴”相关产品。
笔者还发现，在刚刚过去的7月，云天励飞还注册了全资子公司——深圳市噜咔博士科技有限公司，经营范围包括人工智能硬件销售、人工智能应用软件开发等。极有可能是云天励飞为进军C端智能硬件市场做的准备。
自研大模型为智慧行业带来新增量
云天励飞2024上半年业绩的另一大增长点是智慧行业。目前云天励飞已形成城市治理、智慧交通、智慧应急、智慧城管、智慧园区、智慧社区、智慧泛商业、智慧道路巡检、智慧警务、低空经济、智慧教育等行业产品与解决方案体系，并结合多模态大模型技术特点和行业需求，持续拓展创新业务。
如果说去年是大模型元年，那么今年则是大模型应用元年。大模型需要寻找更多应用场景，各行业也在积极拥抱大模型，寻找全新的行业解决方案。“行业 大模型”市场不断扩大，为云天励飞智慧行业相关业务带来新的增量。
云天励飞的自研大模型正成为智慧行业落地的强大引擎，通过深度学习和大数据分析，为各行各业提供了精准的数据解读和决策支持。今年中国信通院发布《2024大模型示范应用案例》，云天励飞与深圳市龙岗区打造的数字政务行业大模型入选。大模型在事件分拨、处置、分析等环节均发挥重要作用，为提升效率、提高服务质量作出重要贡献。在智慧交通和智慧警务解决方案中，云天天书大模型助力城市实现了交通的智能调控以及公共安全事件的有效预防。此外，在智慧商业领域，大模型通过分析客流动线等信息，为商业智能体的运营决策提供了有力支撑。
此外，云天励飞在今年上半年还格外重视智慧教育业务。云天励飞提出公司提出了 Fly计划，致力于构建全面、立体的人工智能教育生态系统，为学生、教师和学校带来颠覆式的教学体验。
智算运营或成未来业绩拉动主力
大模型的蓬勃发展带来了算力需求的激增。根据中信建投的测算，2023年-2027年，全球大模型训练端峰值算力需求量的年复合增长率有望达到 78.0%。工信部数据显示，截至2023年6月底，算力总规模达到197 EFLOPS，算力总规模近五年年均增速近30%，存力总规模超过1080EB。
今年6月，云天励飞与德元方惠签署AI算力运营合作协议。德元方惠将向云天励飞购买AI训练及推理异构算力服务，总算力规模约4000 PFLOPS，该协议在未来三年服务期内将为云天励飞贡献约16亿的营收。智算业务布局预计将对公司经营业绩产生积极影响。
据悉，云天励飞自 2023 年起深度布局智算行业，不断在技术能力、集群运营管理、客户资源、供应链渠道等方面积累自身核心竞争力，在同行业中资源储备较为齐全。
在芯片方面，云天励飞有芯片自主研发能力。去年底发布大模型推理芯片DeepEdge10；今年推出采用D2D Chiplet技术，基于DeepEdge10芯片平台打造的大算力芯片DeepEdge200，并打造了IPU-X6000加速卡。
IPU-X6000具备256T算力、128GB显存容量、486GB/S显存带宽；采用C2C Mesh互联技术，可实现卡间高速互联，带宽达64GB/S，最大可实现64张卡的互联；可应用于语言、视觉、多模态等各类大模型的推理加速，目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。IPU-X6000单卡可实现130B参数量大模型推理，在执行70B参数量大模型推理时性能达11 tokens/s，有望在大模型推理领域逐步实现国产替代。
在大模型训练方面，云天励飞自主研发了千亿级大模型“云天天书”，并在大模型的研发过程中积累了一系列算力调优、提升模型训练效率的技术平台和相应工具，云天励飞将上述技术沉淀运用在 AI 算力服务中，可帮助客户提升模型训练及算力利用效率。
未来，云天励飞亦可在超大规模异构高性能算力集群中，将自研推理卡与高性能训练算力相结合，为自研推理卡落地打开场景触角，搭建生态，为行业带来更丰富的算力服务。
边缘AI前景不可忽视
在大模型普遍追求规模效应的当下，云天励飞提出边缘AI战略，似乎是“反其道而行之”，让大模型更“适用”“更靠近用户”。但从长远来看，大模型赋能千行百业，离不开边缘AI的支撑。
从自动驾驶、机器人/具身智能到 AI PC/phone，面向现实世界，基于设备端智能化的边缘 AI 正逐步发展壮大。越来越多行业巨头开始拥抱边缘 AI，一方面，谷歌、微软、Meta 等都推出了轻量化大模型支撑边缘 AI 的应用；另一方面，苹果、英伟达等巨头推出边缘 AI 芯片，应用在 AI 手机和机器人上，支撑边缘端的大模型运行。边缘 AI 让物联网升级成为 AIoT，助力大模型落地。国泰君安证券研究所数据显示，随着 AIoT 的发展，未来 3 年边缘智能硬件设备将保持 50%以上的复合增长率。
云天励飞是业内少有的既有自研大模型，又有自研AI芯片的企业。随着未来大模型的应用不断深入，边缘AI市场将越来越广阔。作为边缘AI赛道的先行者，未来云天励飞的发展值得继续关注。