Novumind

16 posts

异构智能—极具潜力的AI芯片创业公司先驱

本文作者:Karl Freund (Moor Insights&Strategy 国际知名行业分析师,专注人工智能和高性能计算) 2018年秋天,当一家名为NovuMind(中文:异构智能)的AI芯片创业公司宣布推出其第一款用于处理神经网络的低功耗芯片时,在业界专家中引发了剧烈讨论。异构智能公司声称其专利设计能够更为有效地处理三维张量数据,从而优于其他芯片公司需要将三维张量预处理成二维矩阵的设计。它在低分辨率和高分辨率环境中显示了其优势,而在一种流行的模型(Resnet 50),常用于数据中心的性能比较,则优势较小。而在今天,该公司已经赢得的重要大客户以及其商业部署为这次辩论提供了王炸!让我们来仔细研究一下这家公司,他的第一个产品以及一些成功案例。这些案例佐证了异构智能公司芯片的独创性和无与伦比的性能功耗比。更多详情请参阅我接下来的研究报告。 异构智能公司的特别之处? 作为一名行业分析师,在过去的18个月里,我曾帮助许多投资公司对不同的初创公司进行分析。我特别注意到,这些初创公司中的许多公司都对英伟达和它的值得信赖的GPU不屑一顾。在我看来,这是一种危险的态度,我们不能忽略英伟达强大的生态系统、技术水平以及创新纪录。许多初创公司与英伟达一样瞄准高端人工智能训练市场,但英伟达在这个市场里所占据的霸主地位很难被撼动。英伟达的竞品可能需要比英伟达快10倍,才可能有机会证明它的替代价值让它的用户愿意承担替换的风险。 其他玩家,比如Habana Labs、Thinkci等,则决定优先入局人工智能推理芯片市场。从相机、电视到自动驾驶,人工智能加速器的应用十分广泛,市场也能很客观,但有着很大的性能及功耗限制。异构智能在创始人兼CEO 吴韧博士的领导下,也瞄准人工智能推理市场。吴博士坚信,异构智能公司的高性能、低功耗、低成本的芯片将会打开各种应用市场大门,而避免和英伟达已经牢牢占据的高性能、高价格的市场进行竞争。 异构智能独有的人工智能推理专用架构DSA(Domain SpecificArchitecture即针对应用领域做优化的处理器架构,区别于通用架构)的独特方案赢得了其早期客户的青睐。此专用架构专注在卷积神经网络,从而在人工智能应用最大的基于图像处理的应用市场中,有极强的竞争力。吴博士说道,NovuTensor推理芯片的极端高效来自于独一无二受专利保护的全新计算体系结构,它的特殊性体现在:能够进行真正的原生态三维张量卷积运算——这是人工智能计算的一个最关键的算子。不同于其他构架,NovuTensor在处理时并不需要首先将三维张量展开为二维矩阵,可直接在本地进行三维张量运算。比起目前大部分人工智能芯片公司还在通过牺牲计算精度来提高算力,NovuTensor的这个方向显然更具影响力。它意味着通过更高的并行性来提高性能,减少展开三维张量运算所需要的重复数据操作,节约能耗,并通过一次加载两个张量来增加计算强度。该公司已于去年秋天成功流片拿到28nm的工程样片,据其公司规划显示,该产品计划在更新的制程上进行算力的进一步提升。 图1: NovuTensor能够更为有效的处理深层神经网络,从而降低延迟及成本,目前已获四项美国专利。(图片来自异构智能) 案例 让我特别感兴趣的是,异构智能的部分商业落地非常有意思,其中一些应用场景可能会在未来产生相当巨大的需求。以下是几个例子: 第一个客户案例是新加坡NCS集团,它是电信巨头SingTel(新加坡电信有限公司,是新加坡最大的电信公司)的子公司。NCS希望通过异构智能的技术,建立一个智能监控系统,该系统能够通过智能摄像头进行视频分析,监测特定的人、车、物、异常情况等等。这套智能系统可以将城市中的摄像头从单纯的视频捕获设备,转变为可实时向警方提供预警的端点。在实际应用中,低功耗(3瓦!)低成本和低延迟是关键因素。NCS研发主管Kar Han Tan提到,“我们的应用环境要求在非常低功率的情况下,具有非常高的性能。异构智能的芯片构架很独特,这也使得他们在保持价格具有竞争力的同时,还能够满足我们客户的需求。”目前,异构智能正在进行第一阶段的测试,其技术将应用在约二十万台智能摄像头设备上。 第二个客户案例,是一家大型消费电子公司,该公司正在用异构智能的第一款芯片完成工程样机测试智能超分辨率技术在8K电视上的应用。通过该芯片,可以实现将4K图像放大到一个完整的8K图像,并利用人工智能来填充细节以生成超高质量的图像,同时降低本机8K图像传输的带宽要求。当然,实现这个对功耗是有严格要求的,没有人想要在电视机里放一个冷却风扇。由于在您面前的屏幕可能并不是8K显示设备,因此图2中的图像不能被公正的显示出来。但是,如果你放大它,便可以感受到差别。 图2:异构智能的芯片正被用于8K智能超清电视测试原型中,使用人工智能来填充缺失的细节,实现4K图像的高清化,降低通过互联网和电视广播8K视频内容传输所需的带宽需求。(图片来自异构智能) 结论 人工智能推理加速器的世界将很快开始巨变,对边缘端的智能芯片需求将达到数以千万甚至数十亿计,以加速人工智能在智慧城市、智能工厂、电子产品等等方面的应用落地。异构智能公司似乎已经找到了适应这些新兴市场和应用场景的解决方案:通过构架的创新来降低功耗,提升卷积神经网络的性能。目前早期客户正在测试其的第一代芯片,在电子消费、智慧城市监控、智慧医疗、零售等不同应用层面取得了极其优异的成绩。事实上,异构智能公司能够在使用保守且廉价的28nm制造工艺,其性能和功耗表现意味着其产品线在未来几年将会有很大的发展空间。 很快将看到更多有趣的初创公司展示他们的人工智能芯片,但我相信异构智能公司已经确立了早期的领先优势,并值得关注。 备注:Moor Insights&Strategy与其他研究和分析机构一样,向本文提及的许多高科技公司(包括英伟达)提供研究、分析、建议或咨询。作者在本文中提到的公司中并不具备任何投资身份。

2019,AI进化的盛宴

2019新年到来,辞旧迎新,欣欣向荣。如果说2017年是人工智能(AI)的元年,那么2018年则是AI变得更加成熟的一年。深度学习和AI得到了喷井式的发展,其应用也变得更加广泛。深度学习科学家们也在不断的把精力投入新技术的摸索和实现,以及各种实际应用场景中。在新的2019年,AI将面临巨大的商业化市场,将带来许多行业天翻地覆的进化式转变。 在过去一年中,AI行业的发展是多元的,技术变得越来越复杂,面临的挑战也在升级。随着市场不断扩大,越来越多的企业加入到AI的竞争当中,然而这个新兴的市场并没有那么容易站稳脚跟,企业面临着越来越残酷的优胜劣汰。在世界经济格局正在进行的新一轮大洗牌中,仅有少数精英公司将得以生存,我很高兴异构智能是其中一员。 从好的方面来看,各种AI应用的不断增长是我们有目共睹的。如果你错过了麦肯锡全球研究所过去一年在19个行业编制的AI用例报告(见文末链接),我强烈建议你阅读,这篇文章涵盖了所有AI主要行业的400多个总估值为数万亿美元的应用案例。 从这些广泛的应用案例来看,AI的应用越来越倾向于“专、精、窄”,大量的数据资源对这一趋势产生了至关重要的作用。AI应用的专业化对于我们的生活发生着润物细无声的改变,Apple、Google等公司的智能语音系统越来越“聪明”的背后,都是基于大量语音数据和用户反馈数据的训练。同时,AI的社会问题讨论也在变得更加热烈,“AI取代人类”等论调甚嚣尘上,我认为这是一种过于悲观的想法,AI对部分行业的取代将是个缓慢的过程,AI也将会创造更多新的工作岗位。 未来,AI将以更多不同的姿态深入地渗透至我们的日常生活中,改善人们的生活,给人们带来新的资源和能力,人们能从中更好地领会到AI在具体任务中的有效性以及强大的计算能力。 我预测在2019年人工智能在边缘网络的应用将会成为热点。不同于过去基于云端的计算,边缘计算已成为许多企业数字生态系统的一部分。具有机器学习功能的智能基础系统与基于云端的分析协同工作,从根本上改变了人们对边缘服务的思考方式。更智能、更简单的网络边缘正在融合广泛的行业和消费趋势,异构智能AI芯片等产品也将推动算力强大、低延迟的实时处理计算更加接近终端用户。 最后再次祝福大家2019新年快乐!   报告链接:https://www.mckinsey.com/~/media/mckinsey/featured%20insights/artificial%20intelligence/notes%20from%20the%20ai%20frontier%20applications%20and%20value%20of%20deep%20learning/notes-from-the-ai-frontier-insights-from-hundreds-of-use-cases-discussion-paper.ashx

异构智能入选2018 EE Times“全球最值得关注的60家半导体公司”

2018年11月,第19届EE Times Silicon 60 榜单揭晓,异构智能科技有限公司(NovuMind)作为全栈式AI解决方案的领导公司,今年顺利获选进入该榜单。 EE Times ”全球最受关注60家半导体公司“ 新闻页面截图 *点击阅读全文查看完整榜单:https://www.eetimes.com/document.asp?doc_id=1333985&page_number=4 EE Times的这份「Silicon 60」的榜单被誉为全球新兴半导体企业的金榜,又被称为“全球最受关注60家半导体公司”,考察方面包括该公司的技术实力、目标市场、融资与财务、领导团队等等方面,覆盖领域包涵半导体行业的各个层面。2018年的这份榜单聚焦“机器学习”(Machine Learning),榜单中15家公司锁定机器学习领域,相比于2017年的6家,增长了一倍还多。这无疑表示,机器学习的全球浪潮不但热度没有衰减,反而展现出了市场与技术的发展趋势。 作为AI芯片初创公司,异构智能坚持以技术为核心,从底层自主研发芯片架构,着眼发展AI芯片领域的长期竞争优势。随着摩尔定律逐渐趋向失效,依赖制程进步与材料优势但不掌握核心技术的公司将越发缺乏竞争力。异构智能则可以不断对有自主知识产权的架构进行优化与提升,打造出持续更新迭代的产品,并逐步发力占领日渐成熟的AI市场。异构智能的获选标志着,成立三年以来的成果得到了半导体行业权威媒体的认可与支持。EE Times 在【Silicon 60】榜单中对异构智能的介绍: NovuMind Inc.* (Santa Clara) was established in 2015 by Ren Wu, formerly […]

25年芯片设计磨一剑,如今引领人工智能领域“芯”潮流

韦华放博士宣布加入异构智能担任设计技术副总裁   进入计算机飞速发展的时代,半导体行业一直是改变世界的“领头羊”。芯片设计业则一直处于半导体行业的最上游,无论是全球还是中国等发展中国家,都是增速最快的领域。   他是谁?   说到芯片设计领域的顶尖人才,韦华放是一个不能略过的名字。他于1985年本科毕业于上海交通大学,后考取中国教育部留美研究生,并获得美国李氏基金会全额奖学金,前往美国斯坦福大学和美国达特茅斯学院攻读硕士及博士学位,在美国麻省理工学院进行电子工程专业的博士后研究,他拥有4项美国集成电路设计专利,并发表过多篇IEEE评审论文。韦华放博士2007年以设计技术资深总监加入Alchip,之后担任Alchip首席科学家。韦华放博士曾担任过硅谷初创公司Celestial Semiconductor的芯片设计总监,硅谷初创公司Tensilica的首席技术专家 ,以及硅谷Marvell的芯片物理设计和硅谷PMC-Sierra的集成电路设计的高级管理等。 从硅谷大型通讯网络芯片,数据中心服务器芯片,直到中国自主标准的AVS芯片,超高清电视、数字多媒体消费性电子产品等所有的高端芯片,包括目前人手一台的智能手机里的DSP关键模块,新兴人工智能芯片,都有韦华放博士的身影。   站在巨人的肩膀上,授人以鱼不如授之以渔   谈到韦博士进入半导体行业,就不得不提到他在麻省理工的导师 James Chung 以及达特茅斯学院的导师 Al Henning: James Chung 教授是顶级半导体微电子家胡正明教授的得意门生,Al Henning 教授则是斯坦福大学前工程学院院长James Plummer教授的高徒。胡正明教授发明的鳍式场效晶体管 (FinFET) 是半导体行业发展的一个重要的里程碑。FinFET技术使得芯片在性能和功耗上有了很大的突破,成为解决20nm以下芯片技术的关键,这个技术造就了半导体行业的又一个黄金时代。得益于现代集成电路设计泰斗们的嫡系真传,求学期间韦华放博士通过借助于创新算法编程应用于大规模高算力计算机运算,破解高度关联的器件物理及光学测量复杂公式组来探索纳米半导体器件物理的真谛及其在产品中的实际应用,从而学到了探索寻找新知识、创新解决新问题的基本方法论,为今后25年在工业界芯片及集成电路设计打下扎实基础。 韦华放博士与业界泰斗胡正明博士夫妇于SEMICON China 30周年庆 […]

异构智能AI芯片设计获得专利:独特芯片构架为业界首创,颠覆性功耗比“撼动”芯片产业

2018年10月6日,异构智能宣布其公司的NovuTensor芯片设计获得美国专利。异构智能公司是全栈式人工智能技术的创新领先者,其自主研发的AI芯片NovuTensor专为AI推理应用而设计,具有颠覆性的性能功耗比,是AI嵌入式应用和边缘服务器部署的最佳选择。 “这个专利验证了我们NovuTensor芯片在特定领域独特的架构设计,”异构智能公司创始人吴韧博士介绍,“ NovuTensor专为运行AI卷积神经网络模型而设计,追求发挥出极致的运算速度和效率。我们采用了一种颠覆性的构架,可以在本地进行三维张量的计算。相较于传统芯片的构架,NovuTensor具有巨大的功耗性能优势,因为传统芯片在卷积运算时必须将张量展开和重组为二维矩阵并执行一系列的矩阵乘法,造成大量因数据移动产生的功耗浪费。” NovuTensor芯片设计的美国专利No.10,073,816 “Native Tensor Processor and Partitioning of Tensor Contractions” 于2018年9月11日审批发布。此外,异构智能公司还有许多其他专利申请正在进行中。 吴韧博士进一步评论了人工智能行业的现状,“随着技术的进步,深度学习的模型与芯片能够达到“硅”速运行,这使得人工智能能够在边缘网络进行大规模的部署。我们很高兴参与这项技术革命,异构智能将带来更多新的解决方案,进一步改善人们的生活。” 关于NovuMind异构智能 异构智能旨在帮助行业公司将人工智能的强大能力融入其产品中。异构智能自主研发的NovuTensor芯片专注卷积神经网络加速,其性能与功耗比在同类产品中遥遥领先;同时,异构智能自主建造的大型分布式深度学习训练平台NovuStar可提供专业的人工智能训练模型, 令NovuTensor适用于从嵌入式到云端的各种应用中,并提供 “模型+芯片” 的个性化全栈解决方案,使得芯片与深度学习模型高度配合,极大提高工作质量与效率。在人工智能行业先驱吴韧博士的带领下,异构智能团队拥有机器学习,芯片设计和高性能计算多个方面的专业技术能力。公司的总部及研发部门位于美国硅谷中心的圣克拉拉市,并在中国北京和广州设有办事处。 欲了解更多信息,请访问公司网址:www.novumind.com