Improving Deep Learning Scalability on HPE Servers with NovuMind: GPU RDMA Made Easy

2018年10月6日，异构智能宣布其公司的NovuTensor芯片设计获得美国专利。异构智能公司是全栈式人工智能技术的创新领先者，其自主研发的AI芯片NovuTensor专为AI推理应用而设计，具有颠覆性的性能功耗比，是AI嵌入式应用和边缘服务器部署的最佳选择。 “这个专利验证了我们NovuTensor芯片在特定领域独特的架构设计，”异构智能公司创始人吴韧博士介绍，“ NovuTensor专为运行AI卷积神经网络模型而设计，追求发挥出极致的运算速度和效率。我们采用了一种颠覆性的构架，可以在本地进行三维张量的计算。相较于传统芯片的构架，NovuTensor具有巨大的功耗性能优势，因为传统芯片在卷积运算时必须将张量展开和重组为二维矩阵并执行一系列的矩阵乘法，造成大量因数据移动产生的功耗浪费。” NovuTensor芯片设计的美国专利No.10,073,816 “Native Tensor Processor and Partitioning of Tensor Contractions” 于2018年9月11日审批发布。此外，异构智能公司还有许多其他专利申请正在进行中。 吴韧博士进一步评论了人工智能行业的现状，“随着技术的进步，深度学习的模型与芯片能够达到“硅”速运行，这使得人工智能能够在边缘网络进行大规模的部署。我们很高兴参与这项技术革命，异构智能将带来更多新的解决方案，进一步改善人们的生活。” 关于NovuMind异构智能 异构智能旨在帮助行业公司将人工智能的强大能力融入其产品中。异构智能自主研发的NovuTensor芯片专注卷积神经网络加速，其性能与功耗比在同类产品中遥遥领先；同时，异构智能自主建造的大型分布式深度学习训练平台NovuStar可提供专业的人工智能训练模型, 令NovuTensor适用于从嵌入式到云端的各种应用中，并提供 “模型+芯片” 的个性化全栈解决方案，使得芯片与深度学习模型高度配合，极大提高工作质量与效率。在人工智能行业先驱吴韧博士的带领下，异构智能团队拥有机器学习，芯片设计和高性能计算多个方面的专业技术能力。公司的总部及研发部门位于美国硅谷中心的圣克拉拉市，并在中国北京和广州设有办事处。 欲了解更多信息，请访问公司网址：www.novumind.com

美国拉斯维加斯，2018年1月9日 – 2017年被称作是“人工智能芯片元年”，各路巨头和创业公司奋力拼杀，NovuMind一直都在这个角斗场中的第一梯队里保持着低调和隐形的状态。本篇，记者带你走近这家人工智能芯片领域最神秘的玩家，看看首次亮相CES的NovuMind为业界带来了哪些惊喜。 15 TOPS——拼算力，提牛刀的来了 本次CES上，NovuMind向业界首次展示其自主研发的第一款高性能、低功耗的AI芯片NovuTensor。据目前记者所了解到的性能指标，这可能是这个世界上除了TPU之外跑得最快的单芯片了。 CES现场，NovuMind创始人兼CEO吴韧博士及NovuMind芯片工程副总裁李淼正在展示拥有超高性能指标的NovuTensor人工智能芯片 不同于其他芯片创业公司，NovuMind创始人兼CEO吴韧是异构计算领域的顶尖专家，他本人一直坚信“大数据+深度学习+高性能计算=更高的智能”，并将这样的理念和思路带到人工智能芯片的研发之中。作为业界公认的计算机博弈专家、异构智能专家、大数据解析专家，吴韧于2015年8月辞去百度杰出科学家的职位，在硅谷创立致力于提供ASIC芯片＋训练模型的全栈式AI解决方案的NovuMind（中文名称“异构智能”），并带领一支来自全球的人工智能顶尖人才所组成的队伍，践行这一大胆的尝试。 历时两年研发，第一款NovuTensor 的实际测试结果显示，其性能已达到目前最先进的桌面服务器GPU的一半以上，但仅仅使用二十分之一不到的电；而相较目前最先进的移动端或者嵌入式芯片，在用电量相同的情况下，NovuTensor的性能是其他产品的三倍以上。 这是截至目前世界上唯一一款能够实际运行的、性能达到主流GPU/TPU水平而性能/功耗比却远超主流GPU/TPU的芯片。 “我们即将推出的第二款ASIC芯片，将会比此次CES展示的版本提高4倍的性能，但仅仅使用不到一半的电量，实现耗能不超过 5 瓦、可进行 15 万亿次运算的超高性能。”NovuMind芯片工程副总裁李淼说。 全球首台人工智能消化内镜展现强大本地化运算能力 就在近日刚刚对外宣布获得3000万人民币Pre-A轮融资的“希氏异构”成为国内首家人工智能消化内镜医疗科技公司，其背后强大的技术团队正是NovuMind。 本次CES上，NovuMind向世人了展示搭载NovuMind的ASIC芯片以及人工智能训练模型的全球首台人工智能消化内镜如何帮助医生更快、更好地完成消化内镜下多种类型疾病的识别和诊断。 此前，四川大学华西医院已与希氏异构达成深度合作，成立“华西—希氏医学人工智能研发中心”。双方将共同开展包括消化、病理、医学影像、超声等多医学领域的AI技术与产品研发，为该企业持续提供合法、高质量的医疗大数据、临床技术和应用领域的全面支持。 作为希氏异构的人工智能技术提供者，NovuMind团队为这台人工智能消化内镜提供了强大的技术支持。2017年年中，该项消化内镜AI技术已得到中央电视台、新华社、中新社、科技日报等多家主流媒体报道，被誉为“具有国际先进水平”的全球首台人工智能消化内镜。据华西医院公布数据显示，其阳性检出准确率达到92%—96%的高水平。 据NovuMind […]