剑客
关注科技互联网

[译]车削成一个超级强国的 Azure 的可编程芯片

车削成一个超级强国的 Azure 的可编程芯片

微软正在着手其 Azure 系统重大升级。本公司在其世界各地的 34 数据中心中安装新硬件仍包含混合的处理器、 内存、 存储和网络硬件,你会发现在任何一个云系统,但向这些微软添加新的东西︰ 现场可编程逻辑阵列 (Fpga),可以利用软件提供的硬件重铺电线的高度可配置处理器加速软件算法的实现。

该公司首先调查了使用 Fpga 来加速 Bing 搜索引擎。在”项目弹射器,”微软现成 Fpga 上 PCIe 卡从 Altera (现在拥有英特尔) 添加到某些 Bing 服务器和编程这些 Fpga 在硬件中执行的 Bing 搜索排名算法的部分。其结果是 40 的增速相比,在一个正常的 CPU 上运行的软件实现。

常见的下一步后取得成功的 FPGA 是然后创建应用程序专用集成电路 (ASIC),使专用,硬编码相当于 FPGA。这是微软的所作所为同其全息透镜的耳机,全息处理股为例,因为 ASIC 大大降低了功耗和尺寸。但因为他们的算法改变几十年一次在 Bing 团队一起,Fpga。ASIC 将耗时数月产生,意味着它到达的时候,,已经被淘汰。

与此试点成功,公司然后看看如何使用 Fpga 更广泛地跨不只是 Bing 但 Azure 和办公室 365 以及。Azure 的尖锐的问题不是搜索引擎算法;蔚蓝的首席技术官马克诺维奇告诉我们它是网络流量。

Azure 上大量的物理服务器,使用微软的 HYPER-V 虚拟机监控程序的近亲来管理物理硬件的虚拟化运行大量的虚拟机。虚拟机具有一个或多个虚拟网络适配器通过其他们发送和接收的网络通信。虚拟机监控程序处理实际上连接到 Azure 的网络基础设施的物理网络适配器。移动交通,从虚拟适配器,而同时运用规则来处理负载平衡、 通信路由,等等,招致 CPU 成本。

这种成本是可以忽略不计,在低数据率,但当把多个千兆比特每秒的流量的推到 VM,微软发现 CPU 负担相当大。整个处理器内核不得不致力于这一网络工作负载,也就是说他们不能用来运行虚拟机。

Bing 团队没有使用的情况下,所以他们使用 Fpga 的方式并不是立即适用此网络。微软也以处理 Bing 和 Azure 的解决方案是以 Fpga 中添加第二个连接。除了他们的 PCIe 连接到每个硬件服务器,FPGA 板还探测了直接到蔚蓝网络中,使他们能够发送和接收的网络通信,而无需通过主机系统的网络接口。

该 PCIe 接口与共享虚拟机直接,让虚拟机有权发送和接收的网络通信,而无需首先通过主机弹跳。结果呢?蔚蓝的虚拟机可以推 25 千兆比特每秒的网络流量,且滞后时间为 100 微秒。这是延迟提高十倍,可以做而不要求任何主机 CPU 资源。

技术上,类似的事情,可实现合适的网络卡;高端网络同样可以共享卡和直接分配给虚拟机,允许宿主被绕过。但这一过程通常有限制 (例如,给定的卡可能只是赋值给 4 Vm 同时),和它不能提供同样的灵活性。当 Azure 的联网 Fpga 编程,Microsoft 可以负载平衡和其他规则直接构建到 FPGA。有了共享的网络卡,这些规则仍然要在主机处理器内的设备驱动程序上处理。

这种灵活性意味着 azure,只是随着 Bing 在它之前,Fpga Asic 比更好的解决方案。

此解决方案的网络连接的 Fpga 以及适合 Azure 以及它为必应,微软现在它向推出其数据中心。Bing 可以使用 Fpga 进行排名,特征抽取的照片和机器学习等工作负载。Azure 可以将它们用于加速网络。

目前,FPGA 联网是在预览;一旦它足够广泛跨微软的数据中心,它将会成为标准,与长期的目标是为每一个蔚蓝的虚拟机使用 FPGA 网络。

网络是 Azure,工作量的第一,但它不会唯一的一个。原则上,微软可以提供一个菜单 FPGA 加速算法 (模式匹配,机器学习,和某些种类的大型数字都将很好的候选人),虚拟机的用户可以选择成为,和长期自定义编程的 Fpga 可以成为一个选项。

微软本周的只是什么这种权力可用于其点燃会议给了示范。杰出的工程师 Doug 汉堡,率领项目弹射器工作,表明机器翻译英文维基百科上数以千计的 Fpga 的所有 30 亿字的同时,通过整个数据集的只是十分之一的第二次在嘎吱嘎吱。所有那些在一起的 Fpga 的总处理能力已达约 1 exa 操作 — — 100 京,10 18 行动 — — 每秒,人工智能风格工作量工作。

虽然并不是为公司的主要目标,规模的云计算能力 — — 结合越来越高性能互连系统 Fpga 和其他技术使 — — 意味着云尺度系统在时间可能与一定的竞争力,并最终超越用于高性能超级计算机计算的工作负载。这样的水龙头上的处理能力,Azure 成为超级计算机提供给任何人按小时租一个集合之前不会太长。

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址