更多精彩 >

MicrosoftAzure机器学习采用NVIDIAAI为Word编辑器提供语法建议

2020-10-22 09:16:01   来源:  作者: 

摘要:实时语法检查模型预计每年运行超过5000亿次查询

实时语法检查模型预计每年运行超过5000亿次查询

image.png

实时语法检查模型预计每年运行超过5000亿次查询。

有人说好文章都是编辑出来的。幸运的是,为了满足全球读者的挑剔要求,微软正在为数百万人提供AI语法编辑器。

该工具如同一名优秀的编辑一样快速而专业。这是由于微软编辑器在Microsoft Word在线版中对语法进行了改进,可以运用NVIDIA Triton 推理服务器、ONNX 运行时和Azure AI中的微软Azure 机器学习,来提供这种丰富的智能体验。

10月5日,NVIDIA首席执行官黄仁勋在GTC大会上的主题演讲中宣布了这一新讯。

日常工作中的AI应用

微软为Microsoft Office生产力应用用户提供强大的AI性能。这些节省时间的新功能包括实时语法建议、文档内问题解答(如 “完全匹配”之外的Bing文档搜索),以及帮助将句子填写完整的文本预测。

唯有通过深度学习和神经网络,才能实现这些提高生产力的功能。例如,与基于传统规则型逻辑构建的服务不同,在纠正语法方面,Word在线编辑器可以理解句子的上下文,并提供适当的单词选择建议。

image.png

这些深度学习模型可能涉及数亿个参数,它们必须具有可扩展性,并提供实现最佳用户体验所需的实时推理。预计仅用于语法检查的微软编辑器AI模型每年就要对Word在线处理超过5000亿次查询。

但这种规模的部署可能会大幅增加深度学习的预算。幸运的是,可通过Azure机器学习访问的NVIDIA Triton的动态批处理和并发模型执行功能将成本降低了约70%,并且在单个NVIDIA V100 Tensor Core GPU上实现了每秒450次查询的吞吐量,响应时间在200毫秒以内。

Azure机器学习具备管理模型生命周期所需的规模和能力,比如版本管理和监控。

在Azure 机器学习上通过Triton实现高性能推理

随着机器学习模型规模的不断扩大,模型训练和部署过程对GPU的需求比以往任何时候都更加迫切。为了将AI部署到生产中,企业机构正在寻找可扩展的推理服务解决方案、对多个框架后端的支持、最佳的GPU和CPU利用率以及机器学习生命周期管理。

Azure 机器学习中的NVIDIA Triton和ONNX 运行时堆栈提供可扩展的高性能推理。Azure机器学习用户可以利用Triton对多种框架的支持、实时、批和流推理、动态批处理以及并发执行等性能。

借助AI进行Word创作

作家和诗人Robert Graves曾说过:“没有写得好的文章,只有改得好的文章。”换言之,就是要对写好的文章进行编辑和润色。

您可以使用Word在线编辑器同时进行这两项工作。尽管编辑器是Word中第一个通过Triton和ONNX 运行时增加速度与广度的功能,但它仅仅是更多功能的开始。

想要了解更多有关AI计算的最新技术,解锁GPU前沿应用,可点击链接:https://www.nvidia.cn/gtc/keynote/,观看GTC 2020秋季站主题演讲上的精彩内容。

image.png

 


原创

金山办公在深圳成立新公司

金山办公

【#金山办公在深圳成立新公司# 注册资本2000万】

2023-10-11

迈塔兰斯获亿元战略融资

迈塔兰斯

近日,深圳迈塔兰斯科技有限公司(简称“MetaLenX迈塔兰斯”)宣布完成亿元A轮战略融资,投资方包...

2023-10-11

宏德新材获数千万元Pre-A轮融资

宏德新材

近日,「宁海宏德新材料科技有限公司」(简称“宏德新材”)完成数千万元Pre-A轮融资,由达晨财智、深...

2023-10-11

「易方智慧」完成近千万级Pre-A轮融资

易方智慧

近日,新一代数字交通底座开放平台与高精度地图服务商四川易方智慧科技有限公司(简称易方智慧)近日完成近...

2023-10-11

月之暗面获20亿投资

月之暗面

10月10日消息,专注于通用人工智能领域的公司月之暗面(Moonshot Al)宣布在“长文本”领域...

2023-10-11

原创

盒马在上海成立供应链新公司

盒马

【#盒马在上海成立供应链新公司#】

2023-10-11

原创

JDG与李亚鹏公司成立茶业公司

JDG李亚鹏公司

【#JDG与李亚鹏公司成立茶业公司# #京东电竞与李亚鹏公司成立新公司#】

2023-10-11

原创

奇点汽车被强制执行1.3亿

奇点汽车

【#奇点汽车被强制执行1.3亿#】

2023-10-11

原创

知乎因广告合同纠纷起诉威马汽车

知乎威马汽车

【#知乎因广告合同纠纷起诉威马汽车# #威马汽车被知乎起诉#】

2023-10-11

全方位多场景,丰田金融服务打造多元化服务矩阵

丰田金融服务

面对汽车行业高质量发展转型变革,作为专耕汽车产业的非银行金融机构,汽车金融服务公司始终聚焦主业,同时...

2023-10-11

投资家网(www.investorscn.com)是国内领先的资本与产业创新综合服务平台。为活跃于中国市场的VC/PE、上市公司、创业企业、地方政府等提供专业的第三方信息服务,包括行业媒体、智库服务、会议服务及生态服务。长按右侧二维码添加"投资哥"可与小编深入交流,并可加入微信群参与官方活动,赶快行动吧。

避免卡脖子,硬科技如何“逆境”突围?

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

VC/PE眼中的“专精特新”

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

国内首次!可重复使用技术验证火箭复用飞行成功!

星际荣耀双曲线二号可重复使用验证火箭第二次飞行试验圆满成功

坚守17年,AI“老兵”要上市了

科创板即将迎来一名新成员。

金山云旗下公司增资至4亿美元

金山云旗下公司增资至4亿美元

投资家网协办:首届深圳湾资本市场年会隆重举行

投资家网协办:首届深圳湾资本市场年会隆重举行

12月20日,由南山区资本市场协会主办,投资家网、桐鹏汇财金高管俱乐部协办的资本巿场年会随即举行。

“投资家网·2023中国价值企业榜”重磅发布

“投资家网·2023中国价值企业榜”重磅发布

身处百年未有之大变局,中国经济这艘万吨巨轮,早已屹立于世界舞台中央。

朱民对话瑞•达利欧:2024全球政治风险大于经济与金融风险|和讯财经2023年会

朱民对话瑞•达利欧:2024全球政治风险大于经济与金融风险|和讯财经2023年会

在全球经济经历了激进加息、经济增速放缓、地缘冲突、石油减产等种种事件之后,全球经济增长的态势继续放缓...

专家学者齐聚和讯财经2023年会 寻找中国经济信心之源

专家学者齐聚和讯财经2023年会 寻找中国经济信心之源

2023行至岁末。在诸多外部不确定因素依然强势的背景下,中国经济运行的积极因素正在调整、积累。

蓄势·共进|第17届中国投资年会·有限合伙人峰会即将开启

蓄势·共进|第17届中国投资年会·有限合伙人峰会即将开启

2023年末,充满高度不确定性的全球经济、此起彼伏的地缘政治冲突、重构调整的全球供应链——投资者正在...