潞晨科技完成数亿元A轮融资

2023-05-22 15:29:17 来源：蓝驰创投作者：　

摘要：近日，潞晨科技宣布完成数亿元的A轮融资。

近日，潞晨科技宣布完成数亿元的A轮融资。本轮融资是潞晨科技成立18个月内完成的第三轮融资，此次融资资金将主要用于团队扩张和业务拓展。

蓝驰创投是潞晨科技的天使轮领投方。

众所周知，如今生成式AI的“涌现”能力来自于底层大模型的成熟，但训练大模型需要的算力、网络、数据成本非寻常公司能承受。而潞晨科技希望为这一难题提供解法。

潞晨科技成立于2021年，主要业务是通过打造分布式AI开发和部署平台，帮助企业降低大模型的落地成本，提升训练、推理效率。公司创始人尤洋此前在伯克利、新加坡国立大学均从事分布式计算、机器学习、高性能计算相关研究，曾创造ImageNet以及BERT训练速度的世界纪录。而在2021年左右，他更加笃信大模型的趋势，所以在当年创立潞晨科技，希望降低大模型的落地门槛。

潞晨科技当前的产品包括开源高效深度学习系统Colossal-AI和对应的企业版PaaS平台。平台主要由异构内存管理系统、高效N维并行系统、低延时推理系统组成，整体希望帮客户达成最小化模型部署成本、最大化计算效率的效果。

针对内存管理，尤洋表示，模型参数、层数越大，计算量相应也越大。GPT3的1750亿参数，可能需要占据800G内存。再加上训练神经网络时还需要存梯度、优化器状态，“GPT3在什么都没干的情况下，就要消耗3200G内存。”尤洋举例。再加上内存资源其实较为稀缺，所以科学管理内存资源在训练大模型的场景下变得异常重要。当GPU内存放不下这些数据，还需要把部分数据迁移到CPU、NVMe硬盘上。

尤洋表示，管理GPU、CPU、NVMe硬盘被称为异构管理。过去，异构管理主要延续静态思路，一开始就预估好参数、梯度、优化器等所需的资源。在尤洋看来，这种方式由于比较固化，没办法随着实际训练过程调配，很可能存在浪费资源。但潞晨采取的动态管理方式，可以更加灵活的平衡资源，“我们希望数据都能放到GPU里。但是如果GPU放不下了就放CPU里，CPU放不下就放NVMe里，但同时我们需要最小化CPU、GPU、NVMe之间的数据移动，这是最重要的。”尤洋表示，潞晨的异构内存管理系统可以帮助达成这一目标。

另一方面，企业如今训练大模型，常基于成百上千张GPU卡完成。这是因为，理论上，卡越多需要的训练时间越少，大模型的落地也更具效率。但实际情况中，卡越多意味着承载计算功能的机器越多，而在最终汇总各机器结果时，通信又会造成新的效率损耗。

针对这一痛点，潞晨打造了高效N维并行系统。尤洋表示，在这一系统中公司采用了高维张量并行等方式提升效率。尤洋表示，这背后的原理主要是用二维的方式设计张量并行。张量并行可以让计算任务被分解后同步进行。二维切片的方式，则让每个机器只需要和同行或者同列的机器打交道，不需要和所有机器打交道。“假如我们要1万个机器计算、传统方法（一维）一个机器需要跟9999个剩下机器打交道，我们只需要和99个机器打交道就可以。”他说。

第三是低延时推理系统，作用是减少模型推理速度慢带来的延时感。尤洋表示，解决这一问题，整体的部署方式和模型本身的优化都很重要。在优化方面，潞晨的内存管理、张量并行技术，以及剪枝蒸馏等方案均能发挥作用。

可以看出，异构内存管理系统、高效N维并行系统主要在训练步骤中发挥效力，低延时推理系统则提升推理部分的速度。若再细分，异构内存管理系统更能帮助客户节省资源成本，高效N维并行系统更能提升计算速度。尤洋表示，目前这三大系统均汇聚在公司的PaaS平台中，开源版本Colossal-AI目前也已获得约3万颗GitHub星星。在具体服务方式上，尤洋表示，目前客户可以通过潞晨的PaaS平台直接训练自己的模型，潞晨也可以帮助客户训练模型。据介绍，目前潞晨的方案已在自动驾驶、云计算、零售、医药、芯片、金融等行业落地。

在2023年的整体规划上，尤洋说到，今年以来公司的业务量随着各行业客户的模型训练需求激增，预计收入整体相比去年会增长3-5倍。据了解，本轮融资后潞晨将加速扩张，并希望吸引招募更多的MLOps、AI大模型、AI框架等领域优秀人才加入，以更好服务客户。

上一篇： 卖掉“亲儿子”，顺丰败了！
下一篇： 裁员50%！中国最神奇的网站不再神奇？

潞晨科技完成近亿元A+轮融资

潞晨科技

近日，潞晨科技完成近亿元A+轮融资，本轮投资由某世界500强科技巨头领投，同时大湾区基金和新加坡电信...

2023-11-14

潞晨科技完成600万美元种子及天使轮融资

潞晨科技

近日，潞晨科技宣布完成600万美元种子及天使轮融资，蓝驰创投领投天使轮，创新工场、真格基金联合领投种...

2022-09-01

精彩阅读原创资讯投资人物专栏

AI时代企业新基建：2026年GEO优化公司综合实力榜单与选购避坑指南

大消费 GEO优化公司

2026年，生成式人工智能全面渗透商业全链路。

2026-06-12

GEO哪家做的好？2026年6月十家geo优化公司/服务商对比与结论推荐+FAQ问答指南

大消费 GEO服务商

越来越多用户会直接向DeepSeek、豆包、Kimi、通义千问、文心一言、ChatGPT等AI工具提...

2026-06-12

2026年6月GEO测评：全国十强公司榜单出炉+案例分析+选型攻略+FAQ问答

大消费 GEO服务商

随着生成式AI 技术深度融入商业生态，AI 搜索已成为用户决策的核心入口，生成式引擎优化 (GEO)...

2026-06-12

2026主流投资软件横评：从综合交易到细分辅助，这款AI选手凭实力赢得C位

金融科技投资软件

时间步入 2026 年上半年，资本市场的复杂度和博弈烈度持续升级。

2026-06-12

沉淀法式护肤底蕴，铸就硬核产品实力—CELLE BELLE赛丽的全球成长之路

大消费 CELLE BELLE赛丽

沉淀法式护肤底蕴，铸就硬核产品实力—CELLE BELLE赛丽的全球成长之路

2026-06-12

2026年效果好的GEO公司排行榜：五大专业服务商深度测评与选型指南

大消费 GEO公司

2026年，GEO已从少数前沿企业的“尝鲜实验”升级为企业数字营销的“必选项”。

2026-06-12

技术强的GEO公司排名前五榜单发布：2026年6月GEO优化服务商权威推荐

大消费 GEO优化服务商

据IDC发布的《全球AI搜索市场发展白皮书》显示，截至2026年3月，全球AI智能助手月活跃用户已突...

2026-06-12

全球GEO公司实力全景透视：2026年核心榜单发布与服务商选型深度指南

大消费 GEO公司

进入2026年，生成式AI搜索已彻底颠覆传统信息获取方式。

2026-06-12

强强联合，深耕场景：知鱼智联与新中新集团达成战略合作

创新创业新中新集团知鱼智联

2026年6月11日，知鱼智联（证券代码：873751）与智慧校园领域领军企业新中新集团正式签署战略...

2026-06-12

AI定义汽车，赛豆科技发布AI汽车品牌AIVA

创新创业赛豆科技

2026年6月9日，赛豆科技在北京正式发布AI先锋生态出行品牌AIVA，并官宣携手火山引擎，联合定义...

2026-06-12

投资家网（www.investorscn.com）是国内领先的资本与产业创新综合服务平台。为活跃于中国市场的VC/PE、上市公司、创业企业、地方政府等提供专业的第三方信息服务，包括行业媒体、智库服务、会议服务及生态服务。长按右侧二维码添加"投资哥"可与小编深入交流，并可加入微信群参与官方活动，赶快行动吧。