在来自NVIDIA GPU 技术大会的视频中，来自HPE的Bruno Monnet发表了名为 “Improving Deep Learning scalability on HPE servers with NovuMind: GPU RDMA made easy”的演讲。
You may also like
本文作者：Karl Freund （Moor Insights&Strategy 国际知名行业分析师，专注人工智能和高性能计算） 2018年秋天，当一家名为NovuMind（中文：异构智能）的AI芯片创业公司宣布推出其第一款用于处理神经网络的低功耗芯片时，在业界专家中引发了剧烈讨论。异构智能公司声称其专利设计能够更为有效地处理三维张量数据，从而优于其他芯片公司需要将三维张量预处理成二维矩阵的设计。它在低分辨率和高分辨率环境中显示了其优势，而在一种流行的模型（Resnet 50），常用于数据中心的性能比较，则优势较小。而在今天，该公司已经赢得的重要大客户以及其商业部署为这次辩论提供了王炸！让我们来仔细研究一下这家公司，他的第一个产品以及一些成功案例。这些案例佐证了异构智能公司芯片的独创性和无与伦比的性能功耗比。更多详情请参阅我接下来的研究报告。 异构智能公司的特别之处？ 作为一名行业分析师，在过去的18个月里，我曾帮助许多投资公司对不同的初创公司进行分析。我特别注意到，这些初创公司中的许多公司都对英伟达和它的值得信赖的GPU不屑一顾。在我看来，这是一种危险的态度，我们不能忽略英伟达强大的生态系统、技术水平以及创新纪录。许多初创公司与英伟达一样瞄准高端人工智能训练市场，但英伟达在这个市场里所占据的霸主地位很难被撼动。英伟达的竞品可能需要比英伟达快10倍，才可能有机会证明它的替代价值让它的用户愿意承担替换的风险。 其他玩家，比如Habana Labs、Thinkci等，则决定优先入局人工智能推理芯片市场。从相机、电视到自动驾驶，人工智能加速器的应用十分广泛，市场也能很客观，但有着很大的性能及功耗限制。异构智能在创始人兼CEO 吴韧博士的领导下，也瞄准人工智能推理市场。吴博士坚信，异构智能公司的高性能、低功耗、低成本的芯片将会打开各种应用市场大门，而避免和英伟达已经牢牢占据的高性能、高价格的市场进行竞争。 异构智能独有的人工智能推理专用架构DSA（Domain SpecificArchitecture即针对应用领域做优化的处理器架构，区别于通用架构）的独特方案赢得了其早期客户的青睐。此专用架构专注在卷积神经网络，从而在人工智能应用最大的基于图像处理的应用市场中，有极强的竞争力。吴博士说道，NovuTensor推理芯片的极端高效来自于独一无二受专利保护的全新计算体系结构，它的特殊性体现在：能够进行真正的原生态三维张量卷积运算——这是人工智能计算的一个最关键的算子。不同于其他构架，NovuTensor在处理时并不需要首先将三维张量展开为二维矩阵，可直接在本地进行三维张量运算。比起目前大部分人工智能芯片公司还在通过牺牲计算精度来提高算力，NovuTensor的这个方向显然更具影响力。它意味着通过更高的并行性来提高性能，减少展开三维张量运算所需要的重复数据操作，节约能耗，并通过一次加载两个张量来增加计算强度。该公司已于去年秋天成功流片拿到28nm的工程样片，据其公司规划显示，该产品计划在更新的制程上进行算力的进一步提升。 图1： NovuTensor能够更为有效的处理深层神经网络，从而降低延迟及成本，目前已获四项美国专利。（图片来自异构智能） 案例 让我特别感兴趣的是，异构智能的部分商业落地非常有意思，其中一些应用场景可能会在未来产生相当巨大的需求。以下是几个例子： 第一个客户案例是新加坡NCS集团，它是电信巨头SingTel（新加坡电信有限公司，是新加坡最大的电信公司）的子公司。NCS希望通过异构智能的技术，建立一个智能监控系统，该系统能够通过智能摄像头进行视频分析，监测特定的人、车、物、异常情况等等。这套智能系统可以将城市中的摄像头从单纯的视频捕获设备，转变为可实时向警方提供预警的端点。在实际应用中，低功耗（3瓦！）低成本和低延迟是关键因素。NCS研发主管Kar Han Tan提到，“我们的应用环境要求在非常低功率的情况下，具有非常高的性能。异构智能的芯片构架很独特，这也使得他们在保持价格具有竞争力的同时，还能够满足我们客户的需求。”目前，异构智能正在进行第一阶段的测试，其技术将应用在约二十万台智能摄像头设备上。 第二个客户案例，是一家大型消费电子公司，该公司正在用异构智能的第一款芯片完成工程样机测试智能超分辨率技术在8K电视上的应用。通过该芯片，可以实现将4K图像放大到一个完整的8K图像，并利用人工智能来填充细节以生成超高质量的图像，同时降低本机8K图像传输的带宽要求。当然，实现这个对功耗是有严格要求的，没有人想要在电视机里放一个冷却风扇。由于在您面前的屏幕可能并不是8K显示设备，因此图2中的图像不能被公正的显示出来。但是，如果你放大它，便可以感受到差别。 […]
异构智能将于2019年10月23-24日受邀出席著名半导体分析公司Linley集团主办的秋季峰会。Linley集团秋季峰会每年在美国圣克拉拉市会议中心举办，是半导体行业最负盛名的学术会议，今年峰会将聚焦人工智能处理器以及深度学习等热门话题。 异构智能首席技术官吕坚平博士将在峰会上发表题目为“将原生态AI计算引入物联网边缘”的主题演讲。
美国拉斯维加斯，2018年1月9日 – 2017年被称作是“人工智能芯片元年”，各路巨头和创业公司奋力拼杀，NovuMind一直都在这个角斗场中的第一梯队里保持着低调和隐形的状态。本篇，记者带你走近这家人工智能芯片领域最神秘的玩家，看看首次亮相CES的NovuMind为业界带来了哪些惊喜。 15 TOPS——拼算力，提牛刀的来了 本次CES上，NovuMind向业界首次展示其自主研发的第一款高性能、低功耗的AI芯片NovuTensor。据目前记者所了解到的性能指标，这可能是这个世界上除了TPU之外跑得最快的单芯片了。 CES现场，NovuMind创始人兼CEO吴韧博士及NovuMind芯片工程副总裁李淼正在展示拥有超高性能指标的NovuTensor人工智能芯片 不同于其他芯片创业公司，NovuMind创始人兼CEO吴韧是异构计算领域的顶尖专家，他本人一直坚信“大数据+深度学习+高性能计算=更高的智能”，并将这样的理念和思路带到人工智能芯片的研发之中。作为业界公认的计算机博弈专家、异构智能专家、大数据解析专家，吴韧于2015年8月辞去百度杰出科学家的职位，在硅谷创立致力于提供ASIC芯片＋训练模型的全栈式AI解决方案的NovuMind（中文名称“异构智能”），并带领一支来自全球的人工智能顶尖人才所组成的队伍，践行这一大胆的尝试。 历时两年研发，第一款NovuTensor 的实际测试结果显示，其性能已达到目前最先进的桌面服务器GPU的一半以上，但仅仅使用二十分之一不到的电；而相较目前最先进的移动端或者嵌入式芯片，在用电量相同的情况下，NovuTensor的性能是其他产品的三倍以上。 这是截至目前世界上唯一一款能够实际运行的、性能达到主流GPU/TPU水平而性能/功耗比却远超主流GPU/TPU的芯片。 “我们即将推出的第二款ASIC芯片，将会比此次CES展示的版本提高4倍的性能，但仅仅使用不到一半的电量，实现耗能不超过 5 瓦、可进行 15 万亿次运算的超高性能。”NovuMind芯片工程副总裁李淼说。 全球首台人工智能消化内镜展现强大本地化运算能力 就在近日刚刚对外宣布获得3000万人民币Pre-A轮融资的“希氏异构”成为国内首家人工智能消化内镜医疗科技公司，其背后强大的技术团队正是NovuMind。 本次CES上，NovuMind向世人了展示搭载NovuMind的ASIC芯片以及人工智能训练模型的全球首台人工智能消化内镜如何帮助医生更快、更好地完成消化内镜下多种类型疾病的识别和诊断。 此前，四川大学华西医院已与希氏异构达成深度合作，成立“华西—希氏医学人工智能研发中心”。双方将共同开展包括消化、病理、医学影像、超声等多医学领域的AI技术与产品研发，为该企业持续提供合法、高质量的医疗大数据、临床技术和应用领域的全面支持。 作为希氏异构的人工智能技术提供者，NovuMind团队为这台人工智能消化内镜提供了强大的技术支持。2017年年中，该项消化内镜AI技术已得到中央电视台、新华社、中新社、科技日报等多家主流媒体报道，被誉为“具有国际先进水平”的全球首台人工智能消化内镜。据华西医院公布数据显示，其阳性检出准确率达到92%—96%的高水平。 据NovuMind […]
第八届硅谷高科技创新创业峰会（简称硅谷高创会暨SVIEF）将于9月29日至30日在美国硅谷中心圣克拉拉市举办，今年围绕主题“Converge & Exchange 汇聚与交易”，将汇集世界各地的高科技行业专家学者、企业家等对人工智能技术前沿、产业趋势和热点问题开展对话交流，百余家高科技领军企业参加论坛和展示活动。 异构智能创始人兼CEO吴韧博士，将应邀出席9月30日硅谷高创会人工智能大峰会，并将在上午9时35分发表开场主题演讲。吴博士演讲主题为“人工智能带你遇见未来”，将与来宾分享AI高性能芯片将如何赋能AI技术大范围应用落地。 吴韧博士是国际知名人工智能专家、高性能计算专家、异构计算专家和计算机博弈专家。吴博士创办的NovuMind异构智能公司，旨在用全栈技术包括极端定制化的异构AI芯片来实现让人工智能无处不在的理念，引导人工智能应用的下一波潮流。异构智能公司正在从人才、资源和技术三个方面进行布局，从而取得人工智能芯片立体的竞争优势。 近日，硅谷高创会宣布异构智能荣获2018年年度创新CEO奖项，该奖项旨在表彰在高科技领域及商业领域的领导力成就，并推广在产品技术、商业模式和战略等方面的的创新。颁奖典礼将在9月29日晚圣克拉拉会议中心举办，异构智能中国区总裁周斌博士等高管将出席典礼。 硅谷高创会自2011年来已连续举办七届，现已成为连接中美，辐射北美及亚太地区的高端国际创业创投会议。每年9月底吸引上万名来自全球各地的商界、政界、科技届精英人士参会，超过150家黑科技创业项目及中大型企业参展。大会与中国科技部、商务部、对外友协、北京中关村、深圳、大连、武汉、南京、苏州政府都建立了友好合作，帮助中美高科技项目落交流协作。 关于NovuMind异构智能 异构智能致力于为客户提供全栈式人工智能解决方案，业务覆盖图像识别、智慧医疗、工业智能、智慧城市、自动驾驶、金融预测等产业，布局北美、亚洲、欧洲等市场，提供全方位的人工智能产品和服务，满足政府与企业信息化、定制化的需求。 异构智能自主研发的NovuTensor芯片专注CNN加速，其性能与功耗比在同类产品中遥遥领先；同时，异构智能自主建造的超级计算机NovuStar可提供专业的人工智能训练模型, 令NovuTensor适用于从嵌入式到云端的各种应用中，并提供 “模型+芯片” 的个性化全栈解决方案，使得芯片与深度学习模型高度配合，极大提高工作质量与效率。 异构智能追求将人工智能做到极致的优化、最高性能功耗比，用最低的门槛为更多的企业赋能人工智能技术。异构智能目前已在硅谷、北京、广州设立团队，在人工智能、芯片设计和高性能计算方面拥有世界一流的专业技术与经验。