更多精彩 >

英博云多款智算产品发布,首提「单位有效算力成本」新指标

2024-12-13 16:00:35   来源:搜狐网  作者: 

摘要:随着人工智能技术的广泛应用,智算行业正从规模化扩展迈向精益化运营,并呈现出三大关键发展趋势。

12 月 13 日,在 AICon 全球人工智能开发与应用大会(AICon 北京 2024)上,英博数科 CTO 李小鹏正式对外发布全新「英博云」系列智能算力产品与服务,涵盖智算中心建设运维、GPU容器服务、先进算力实验室和产业孵化器四大板块,并在行业首提 “单位有效算力成本” 这一创新指标,推动智算行业向高效益、多样化的发展范式进阶。

(英博云发布会现场)

行业首提 “单位有效算力成本” 新指标

随着人工智能技术的广泛应用,智算行业正从规模化扩展迈向精益化运营,并呈现出三大关键发展趋势。一是全球通用大模型训练对算力需求持续攀升,集群规模从千卡级跃升至万卡乃至十万卡级,成为推动大模型技术进步的重要基石。二是垂直行业的AI应用迅猛发展,各行业对算力的需求更加分散且动态化。从科研、金融到娱乐、零售,各领域企业迫切需要灵活且弹性的算力支持,以满足多样化场景需求。三是在AI商业化加速的背景下,推理场景对算力的需求快速增长,逐渐超过训练算力需求,成为市场发展的核心驱动力。

(高算力成本:制约大模型技术演进与应用繁荣)

时至今日,算力行业依然缺少有效的成本效益评价体系,难以精准衡量实际算力利用水平,导致企业使用有效智能算力的成本过高。对此,英博数科创新性地提出了“单位有效算力成本”这一评价体系及计算公式,为行业提供了一套全新的标准化评估体系。与传统以装机算力、设备成本、机电成本和运维成本等固定支出为核心的评价体系不同,“单位有效算力成本”将评价重点从硬件投入转向实际效益——通过引入“卡可用率”、“卡利用率”和“模型算力利用率(MFU)”三大关键指标,这一创新体系能够精准衡量实际算力利用水平,有效规避了算力资源闲置、设备故障频发以及整体利用率低下等行业痛点导致的评估误差,提升算力效率和效益评价的准确性。

(“单位有效算力成本”计算公式)

李少鹏指出,“单位有效算力成本”不仅能够帮助企业优化成本效益,还为算力资源的高效配置提供了科学依据。

多款产品发布,智算产品新范式呈现

智算中心建设运维解决方案

针对通用大模型集中式、大规模训练的需求,英博云提供了高效益的智算中心建设运维解决方案。英博云具备多个智算中心交付经验,能够提供一整套标准化、模块化的建设方案。英博云自研的高性能并行存储解决方案、专业的硬件测评与检测体系以及细粒度的集群监控和自动化故障恢复体系,能够在提供高硬件稳定性集群的同时,提升集群的可用性。依托成熟的算力调度平台,英博云还支持通过容器化形式为长尾客户提供高效、弹性的算力服务,有效满足不同规模和需求的用户。针对通用大模型集中式、大规模训练的需求,英博云提供了高效益的智算中心建设运维解决方案。英博云具备多个智算中心交付经验,能够提供一整套标准化、模块化的建设方案。

(英博云智算中心建设运维解决方案)

英博数科智算中心建设运维解决方案目前已在京能项目落地。英博数科在智算中心建设运维方面拥有的独特优势,成为推动项目持续进展的核心力量。供应链方面整合资源与众多供应商合作保稳定,集群运维组网方面从选型到建设交付皆有高标准规范与专业保障,推动项目进展,未来有望更多智算中心项目落地助力产业发展。

GPU 容器服务

针对垂类大模型分散、临时、动态的弹性训练需求,英博云推出了赋能中小客户的GPU 容器服务。通过Vcluster形式,英博云提供GPU和CPU资源混合的弹性K8S集群服务,满足大模型并行训练的工程需求。与此同时,英博云支持SSH和Kubectl管理操作,为用户带来灵活便捷的体验。

(英博云GPU容器服务架构图)

秒级别的容器启停和计费粒度,企业级的并行存储服务,使其能够提升GPU资源使用效率、降低使用成本,并能支持容器数据持久化和模型数据的高速共享。加之英博云提供内网预定义场景镜像仓库、常用模型库、常用数据集等数据源服务,能够有效提高数据准备和环境配置效率。目前,英博云GPU容器服务已经开始服务清华大学、中国人民大学等高校科研机构及中小微企业。

先进算力实验室

先进算力实验室致力于成为业界顶尖的算力性能评测中心,实验室围绕硬件评测、软件评测以及行业服务展开工作,为企业算力基础设施的升级与优化提供前瞻先进、切实可行的建议,助力提升算力效率和业务表现。

(英博云先进算力实验室)

在硬件评测方面,对GPU、交换机、光模块、并行存储等进行严格测试,确保设备性能符合高标准;在软件评测方面,涵盖基座模型、训练框架、微调框架、推理框架等,为智能算力的优化提供全方位支持。通过提供行业标准制定和定制化服务,先进算力实验室助力企业在智能算力领域不断突破创新。实验室已经开展工业界主流 GPU 芯片的测试。

赋能AI产业链,共创智算未来

在智算领域持续创新发展的进程中,英博云积极探索多元化发展路径,产业孵化器进一步夯实了英博云在智算领域的生态布局。英博云产业孵化器集成算力、资金、技术、市场与生态优势,全方位赋能 AI 创业。提供强大算力支持,引入资金助力,资深技术团队指导,精准市场策略帮扶,构建生态促合作。此外,产业孵化器通过联合AI产业链上下游,探索算力组合投资新模式,挖掘AI产业潜在方向,赋能企业实现技术研发与业务扩展的双向突破,为 AI 创业与行业发展注入新活力与动力。

(英博云发布会现场)

英博云系列产品与服务的发布,为智能算力行业树立了全新标杆。通过创新的“单位有效算力成本” 指标,以及多样化的智算产品与服务,英博数科将助力企业在大模型研发与应用中实现更高效的资源配置和成本控制。此外,在此次大会期间,英博云全新产品精彩展示。产品创新的特性与可靠的性能,吸引了众多与会者驻足了解,赢得了他们的广泛关注。

(英博云发布会现场)

未来,英博数科将继续以“高效益、多样化” 为核心,深耕智算领域,巧妙施行低成本策略,精细化、精准化调配算力资源,携手更多企业共同探索 AI 时代的无限可能,为 AI 技术的研发与商业化应用注入强大动力,推动智能算力行业不断向前发展。

猜你喜欢

东峰集团子公司博盛新材料取得锂电池隔膜拉伸测试装置专利,方便检测

创新创业博盛新材料

国家知识产权局信息显示,深圳市博盛新材料有限公司取得一项名为“一种锂电池隔膜拉伸测试装置”的专利,授...

1天前

行业春天将至?复旦IDEA论坛:突显2025大健康关键词!

创新创业复旦IDEA论坛

来自“政、产、研、医、投”不同板块的15位专家济济一堂,基于中国当前医健政策图谱,针对当下挑战提出思...

2天前

“创美乡村”项目正式启动

创新创业瑞宝产业发展

近日,瑞宝产业发展(深圳)有限公司与一九零五(北京)技术服务有限公司联合投资并运营的“创美乡村”项目...

2天前

原创

新广益IPO进度更新,核心产品有望持续打破外企垄断

创新创业新广益

苏州市新广益电子股份有限公司目前正在冲刺创业板IPO,处在问询阶段,这是一家专注于高分子复合材料的研...

3天前

2024-25「因为热爱」未来商业创想秀成功举行,品牌叙事奖年度榜单揭晓

创新创业胖鲸传媒

2025年1月10日,由胖鲸传媒主办、复旦大学管理学院联合主办的「因为热爱」未来商业创想秀暨品牌叙事...

3天前

常孝股份深化元宇宙生态建设:神由都城成焦点

创新创业常孝股份

近日,常孝股份在元宇宙领域的布局取得了显著进展,其倾力打造的元宇宙项目《神由都城》成为行业内外关注的...

2024-08-15

硬核出圈,光峰科技荣获2024年广东省省级制造业单项冠军企业

上市公司光峰科技

光峰科技成立于2006年,是全球领先的拥有原创技术、核心专利的激光显示企业,是首批科创板上市公司,同...

2024-08-15

柔性OLED出货全球前三,中、小尺寸业务崛起强化TCL科技增长潜力

金融科技TCL科技

自从去年Q4以来,全球OLED市场就一直处于供需紧平衡的状态,高端柔性OLED更是明显供不应求,这是...

2024-08-15

一场AI与设计师的同台竞技,你更看好谁?

金融科技AI

如同工业革命的开启,机器代替了大部分的手工,提升了生产效率;AI时代的到来,减少了重复、低价值的脑力...

2024-08-15

耀出行上线极氪009礼宾服务,臻享纯电新豪华

金融科技耀出行

展望未来,耀出行将继续借势东风、出海扬帆,为全球高净值用户提供卓越的礼宾服务,推动高端出行体验迈向新...

2024-08-15

沙特天空塔投资设立专项基金带领中国氢能独角兽扎根沙特

新能源

2016年注册于北京的中氢新能技术有限公司,下设位于大兴的装备制造公司、位于海淀区的技术研究院、材料...

2024-08-15

原创

342亿IPO,孙正义又一个大赌注?

孙正义人物

这一次,软银将目光投向了印度。

2024-08-14

推动县域经济,打造京津冀数字样板 “数字经济GBC生态系统管理平台”将落地高碑店

创新创业中城万企

8月12日,河北省高碑店市政府与中城万企数据科技(北京)有限公司在京举办“数字经济GBC生态系统管理...

2024-08-14

原创

新冠防控常态化,蓝帆医疗防护产品畅销业绩向好

医疗健康蓝帆医疗

近日,世界卫生组织发布警告,称新冠病毒感染正在全球范围内激增,就在刚刚结束的巴黎奥运会期间,已有至少...

2024-08-14

从共定战略到共谋战役,撬动战略咨询助力合作伙伴实现创新增长

大消费撬动战略咨询

在万众瞩目的2024巴黎奥运会上,中国选手郑钦文以惊人的实力和坚韧的意志,问鼎女子单打冠军,成为中国...

2024-08-14

投资家网(www.investorscn.com)是国内领先的资本与产业创新综合服务平台。为活跃于中国市场的VC/PE、上市公司、创业企业、地方政府等提供专业的第三方信息服务,包括行业媒体、智库服务、会议服务及生态服务。长按右侧二维码添加"投资哥"可与小编深入交流,并可加入微信群参与官方活动,赶快行动吧。

沙特天空塔投资设立专项基金带领中国氢能独角兽扎根沙特

2016年注册于北京的中氢新能技术有限公司,下设位于大兴的装备制造公司、位于海淀区的技术研究院、材料...

挑战奔驰的明星车企,突然“翻车”了

一度无比高光的理想汽车,猝不及防遭遇重挫。

深圳天使母基金姚小雄:将来股权投资行业竞争是服务能力的竞争

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

避免卡脖子,硬科技如何“逆境”突围?

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

VC/PE眼中的“专精特新”

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

第二届中匈可再生能源、新材料商业投资峰会将盛大启幕

第二届中匈可再生能源、新材料商业投资峰会将盛大启幕

第二届中匈可再生能源、新材料商业投资峰会于2025年4月9日在匈牙利布达佩斯盛大启幕。

雕刻耐心|第18届中国投资年会·有限合伙人峰会在沪召开

雕刻耐心|第18届中国投资年会·有限合伙人峰会在沪召开

“中国投资年会”作为私募股权行业的年度盛会,已成功举办了18届,吸引了全国VC/PE领域从业者的广泛...

雕刻耐心|第18届中国投资年会·有限合伙人峰会即将启幕

雕刻耐心|第18届中国投资年会·有限合伙人峰会即将启幕

2024年的一级市场,“耐心”是最高命题,也引发了持续全年的讨论。

不响不辍|第18届中国投资年会·年度峰会在沪召开

不响不辍|第18届中国投资年会·年度峰会在沪召开

5月8-10日,由投中信息、投中网主办的“第18届中国投资年会·年度峰会”在上海外滩W酒店盛大召开。

2024汽车科技创新与成果转化大会在常州成功召开

2024汽车科技创新与成果转化大会在常州成功召开

4月12日,2024汽车科技创新与成果转化大会在常州经开区成功召开。