NVIDIA在今年硅谷的GTC上发布了深度学习超级计算机DGX-1。黄仁勋称其为“装在机箱中的数据中心”。 DGX-1内置8个基于Pascal架构的Tesla P100加速器和4个1.92TB固态驱动器，并使用NVLink技术（比传统PCIe快5-12倍）来连接CPU，GPU和GPU进行数据传输。在深度学习培训中，它比普通的Xeon E5 2697 v3双CPU服务器快75倍，整体性能相当于250台普通x86服务器。单个DGX-1的价格为129,000美元。 GTC之后，黄仁勋亲自将第一台DGX-1交给了埃隆·马斯克（Elon Musk）的人工智能项目OpenAI。 NVIDIA还将把第一批DGX-1优先考虑给近年来在人工智能领域做出杰出贡献的研究机构。该列表包括斯坦福大学，加州大学伯克利分校，CMU，麻省理工学院，香港中文大学等。在中国大陆，公开的消息是海康威视于7月份通过Sugon签署了首架国产DGX-1。 NVIDIA告诉我们，DGX-1目前在中国有十多个客户。在即将于10月结束的2016年中国HPC大会上，我们与NVIDIA高管进行了交谈，讨论了他们对高性能计算的看法以及为什么要建造这种超级计算机。大多数下一代程序将由机器编写。 NVIDIA解决方案和工程架构副总裁Marc Hamilton在HPC China 2016上表达了这样的观点，即AI将催生一种新的计算模型。将来，大多数程序都不会由People编写，而是通过深度学习网络编写。他举了一个例子。过去编写的程序（例如地址簿或薪水）是非常规的整数。如今，有许多更复杂的数据，例如图像，声音和视频。即使所有13亿中国人都变成了代码农民，也无法编译足够的软件来处理一天中生成的大量数据。因此，大多数程序将由深度神经网络编写，而NVIDIA相信大多数深度神经网络将在GPU上运行。 NVIDIA谈到了两个案例：在上海，他们有一个生物医学行业的合作伙伴，他们正在使用深度学习来分析MRI和CT图像以进行癌症检查和检查。该国另一个发展较快的领域是安全性，例如比较视频中嫌疑犯的照片或寻找特定物体。海康威视就是这方面的典型合作伙伴。后者购买的DGX-1还用于视频监控的深度学习研究。 DGX-1是一个愚蠢的设计。 DGX-1的设计可以追溯到2015年GTC，当时NVIDIA宣布了最新一代的Pascal架构。这种新架构将使一些关键的深度学习应用程序增加十倍以上。速度。但是这种新架构也带来了新问题：开发人员/研究人员可能需要数周甚至数月来配置这些GPU。因此，几个月后，黄仁勋在内部提出了一个要求：我希望NVIDIA的工程部门在第二年GTC之前，将基于Pascal架构构建服务器，以便研究机构和公司只需按一下机箱按钮即可。 。 8个GPU可用于深度学习。我们今天看到的DGX-1并不像8个GPU夹在一起那样简单。马克·汉密尔顿（Marc Hamilton）告诉我们，DGX-1还包括3种类型的软件和服务集成。首先是支持所有深度学习框架。例如Caffe，TensorFlow，CNTK。 .DGX-1优化了流行的深度学习框架。第二类是称为cuDNN的基础库，可以将其理解为集成了深度神经网络的CUDA。第三类是DGX云服务，相当于从云中镜像DGX服务器。对于任何公司，他们可能都不知道如何管理深度学习系统软件，但是他们知道如何在云中管理DGX-1服务器。目前，NVIDIA面临的最大挑战是如何快速普及深度学习。中国公司业务部门总经理沉伟表示，深度学习是一个独特的市场，在这种情况下，NVIDIA自己的DGX-1是一个新的市场。尝试。 Marc Hamilton告诉我们，要实现150 petaflop浮点计算的性能，如果它基于多个GPU，则需要3400台服务器，如果使用传统的x86解决方案，则需要100,000台服务器。对于程序员而言，维护这两个数量级服务器的选择是显而易见的。