东南教育网您的位置:首页 >互联网 >

高通以16核CloudAI100推理芯片瞄准企业

导读 高通公司今天分享了有关Cloud AI 100的技术细节,这是一款人工智能芯片,希望借此抓住企业对机器学习硬件不断增长的需求。高通进入AI芯片

高通公司今天分享了有关Cloud AI 100的技术细节,这是一款人工智能芯片,希望借此抓住企业对机器学习硬件不断增长的需求。

高通进入AI芯片领域可能会给市场领导者Nvidia Corp.带来更大的压力,而此时它也面临着其他市场日益激烈的竞争。值得注意的是,英特尔公司目前正准备推出一系列数据中心图形卡。

高通公司于去年年初发布了Cloud AI 100,但未提供有关其功能的信息。该公司表示,此后发生的变化是,已经成功制造了一套初始设备并将其发送给早期用户。该芯片制造商预计将于2021年开始批量发货。

高通公司设计了用于推理的Cloud AI 100,这意味着一旦机器学习模型经过充分训练并处理实时数据,就可以运行它们。该芯片具有16个内核,这些内核使用7纳米工艺制成,可以对INT8值(神经网络通常使用的一种数据格式)每秒进行多达400万亿次计算。高通公司表示,该芯片在某些情况下可以胜过Nvidia最强大的AI图形卡100,以及英特尔和其他公司的产品。

Cloud AI 100提供的确切性能可能会因工作负载而异。该芯片具有144 MB的板载内存,这是一个异常大的数量,它将通过减少不断向外部存储器驱动器中移动数据的需求来加快模型的速度。但是,它的带宽比Nvidia的竞争对手A100少,这将是带宽密集型工作负载的折衷方案。

用户可以使用高通芯片执行的确切计算次数还取决于他们购买的版本。该公司在可连接到服务器的三个加速器设备(如图所示)之一中提供Cloud AI 100。最强大的加速器每秒可以处理400万亿次计算,而两个较小的加速器分别可以处理多达100万亿次和50万亿次。

数据中心并不是高通希望部署其新芯片的唯一环境类型。高通公司产品管理高级总监约翰·凯尔里(John Kehrli)在博客中写道:“想象一下,一家大型零售商可以通过使用AI来指示货架上的商品已空,从而在产品的过道上补货。” 他将工业部门列为另一个重点领域:“配备Qualcomm Cloud AI 100的边缘盒可以同时识别大量人员和物体,并确保始终佩戴防护设备。”

高通公司的总部在圣地亚哥,其大部分收入来自手机芯片。智能手机和数据中心相距遥远,但是Cloud AI 100的推出并不标志着以制造消费者设备处理器而闻名的公司首次进入AI基础设施市场。最著名的例子是英伟达(Nvidia),该公司主要向视频游戏爱好者销售其图形处理单元,然后再将重点扩展到机器学习。

鉴于Nvidia在AI方面的成功举证卓著,因此,高通和其他厂商对该领域的兴趣日益浓厚也就不足为奇了。

免责声明:本文由用户上传,如有侵权请联系删除!