财新传媒 财新传媒

阅读:0
听报道

近日,高通在美国旧金山举办了AI开放日活动,分享了其在移动通讯、汽车、物联网(IoT)和云计算等领域的人工智能(AI)布局。本文我会聚焦高通在AI数据中心方面的首次进军进行分析和探讨。

 

数据中心芯片市场具有丰厚的利润,长期以来,高通一直在寻求进入该市场的途径,继早前推出了高性能64核ARM CPU Centriq之后,如今又对面向AI处理的数据中心加速器寄予厚望。高通认为,在云端来扩展其AI性能,可以支持其赋能无线边缘,让数十亿物体相互连接的愿景。目前,终端侧智能正在快速实现强劲发展,高通预计,到2025年,重要细分市场有望实现100%AI应用率。

 

 

 

 

1:高通总裁克里斯蒂安诺·阿蒙讲述摄像头、自动驾驶汽车、增强现实和云游戏等领域为推动AI发展提供动力。 KARL FREUND

 

高通已在其旗舰产品骁龙855等多代移动平台中采用了AI技术,目前正将业务扩展至云和边缘服务器。由于人工智能的神经网络市场由英伟达所主导,高通决定将重点放在新兴的推理市场中。在推理进程中,训练好的神经网络模型经过处理,来模拟人做出决策,比如进行人脸识别、提供购买建议、或者进行自然语言的翻译。虽然在过去几年中,大量在数据中心的部署都是面向AI加速器进行训练的,但随着时间推移,业界普遍预计推理领域将成为更大的市场——到2025年,其增长可能会达到200亿美元。此外,与训练领域不同的是,尽管英伟达英特尔以及数十家满怀抱负的初创企业已经在该领域押下赌注,高通都无需让某一巨头下台,便能够成为推理芯片领域的主要参与者。

 

高通在手机和嵌入式应用的高性能芯片生产上有丰富的经验,正因如此,其也获得了在先进制造工艺节点、信号处理和电源能效的丰富经验。为了使用这些经验进军数据中心市场,高通就必须设计出一款更为强大的芯片——全新的Cloud AI 100Cloud AI 100采用了7nm技术,领先潜在的竞争对手,预计于2019年下半年出样。

 

而且,面向大型、复杂的神经网络推理市场确实很大,高通是在其中争夺日益增长的市场机会的少数大公司之一。目前,数据中心的绝大部分推理工作在英特尔Xeon CPU上进行处理,但随着更复杂的神经网络和多网络工作流成为规范,这种情况将会发生改变。如果要在市场上参与竞争,云端AI推理处理芯片必须要明显优于CPU,它必须能够在低延迟的响应时间内处理成百上千次的同步查询。

 

我们不禁要问,全新Cloud AI 100到底有多好?在旧金山的高通AI Open Day发布会上,高通表示,Cloud AI 100具有比高通第一代移动平台骁龙82050倍以上的AI性能,能够支持所有主流的AI软件框架,并且比任何测试过的其它芯片速度至少快10倍。骁龙855在推理方面已经实现了每秒7 TOPS的运算,比它高数十倍意味着AI 100可以达近120 TOPS,这比我目前所知道的市场上任何一款芯片都要快得多。我非常期待Cloud AI 100在现实世界的推理基准,比如MLPerf Resnet50图形/秒,该芯片肯定会在未来饱和的市场上引起广泛关注。

 

AI 100的性能更值得关注的是对它感兴趣的公司:微软Facebook与高通一同在台上分享AI的应用案例。以往这两家公司都很少公开宣布对新芯片产品的支持,尽管他们没有明确表示会使用高通的芯片,但既然有意在高通 AI Day中露面,那么我们也可以猜测到它们一定是对此非常感兴趣的。

 

FacebookJoe Spisak登台称, AIFacebook中的应用非常普遍,这家社交媒体每天要处理200万亿次推理查询,其数据中心每年的能耗都在翻倍,也就是说,其需要高性能、低延迟且高能效的加速器来满足不断增长的推理工作负载。

 

2Facebook的乔·斯比萨克在Cloud AI 100发布会上谈论社交媒体巨头众多AI推理处理使用场景。
  KARL FREUND

 

微软的Venky Veeraraghavan谈论了AIAzure的融合,以及搭载高通骁龙850、支持Windows MLACPC,和基于高通骁龙845Hololens 2等情况。总体来说,微软与高通有着密切的合作开发关系,对AI推理处理有着强烈愿望。可以比较肯定的猜测,对现场可编辑逻辑门阵列(FPGA)投入巨资的微软公司将在Cloud AI 100面市时对试该产品进行测试。

 

尽管高通在移动处理器和调制解调器领域位居领军地位,但在本次发布之前,我认为许多数据中心领域相关的人士都不会把数据中心的AI和高通联系在一起。如果微软和Facebook参加发布会表明全球最大型数据中心有可能采用Cloud AI 100,旧的格局就有可能发生改变。Cloud AI 100的性能看起来很出色,实际上,它可能是高通迄今为止官宣的最快AI推理处理器。对它来说,将原始性能的潜力转化为实际应用中的性能和效率是一个挑战。截止到目前,高通进入数据中心的成果还是令人深刻的。未来其是否能据此Cloud AI 100开拓一片新的市场需要我们持续关注。

话题:



0

推荐

Patrick Moorhead

Patrick Moorhead

130篇文章 1次访问 63天前更新

市场研究公司Moor Insights & Strategy创始人,总裁,首席分析师。研究领域包括软件定义数据中心和物联网行业(IoT)。同时,他也是客户端计算和半导体领域的资深专家。Moorhead的分析观点屡屡被各大媒体引用,影响力持续位于全球科技行业分析师前列。他还是《福布斯》和《CIO》杂志的撰稿人。Moorhead拥有25年以上的行业经验,在创立Moor Insights & Strategy之前,他曾就职于AMD公司及康柏电脑公司,领导产品管理、业务战略规划及营销等工作。

文章