Yearly Archives: 2019

3 posts

异构智能将参与2019 Linley Group秋季峰会

异构智能将于2019年10月23-24日受邀出席著名半导体分析公司Linley集团主办的秋季峰会。Linley集团秋季峰会每年在美国圣克拉拉市会议中心举办,是半导体行业最负盛名的学术会议,今年峰会将聚焦人工智能处理器以及深度学习等热门话题。   异构智能首席技术官吕坚平博士将在峰会上发表题目为“将原生态AI计算引入物联网边缘”的主题演讲。

异构智能—极具潜力的AI芯片创业公司先驱

本文作者:Karl Freund (Moor Insights&Strategy 国际知名行业分析师,专注人工智能和高性能计算) 2018年秋天,当一家名为NovuMind(中文:异构智能)的AI芯片创业公司宣布推出其第一款用于处理神经网络的低功耗芯片时,在业界专家中引发了剧烈讨论。异构智能公司声称其专利设计能够更为有效地处理三维张量数据,从而优于其他芯片公司需要将三维张量预处理成二维矩阵的设计。它在低分辨率和高分辨率环境中显示了其优势,而在一种流行的模型(Resnet 50),常用于数据中心的性能比较,则优势较小。而在今天,该公司已经赢得的重要大客户以及其商业部署为这次辩论提供了王炸!让我们来仔细研究一下这家公司,他的第一个产品以及一些成功案例。这些案例佐证了异构智能公司芯片的独创性和无与伦比的性能功耗比。更多详情请参阅我接下来的研究报告。 异构智能公司的特别之处? 作为一名行业分析师,在过去的18个月里,我曾帮助许多投资公司对不同的初创公司进行分析。我特别注意到,这些初创公司中的许多公司都对英伟达和它的值得信赖的GPU不屑一顾。在我看来,这是一种危险的态度,我们不能忽略英伟达强大的生态系统、技术水平以及创新纪录。许多初创公司与英伟达一样瞄准高端人工智能训练市场,但英伟达在这个市场里所占据的霸主地位很难被撼动。英伟达的竞品可能需要比英伟达快10倍,才可能有机会证明它的替代价值让它的用户愿意承担替换的风险。 其他玩家,比如Habana Labs、Thinkci等,则决定优先入局人工智能推理芯片市场。从相机、电视到自动驾驶,人工智能加速器的应用十分广泛,市场也能很客观,但有着很大的性能及功耗限制。异构智能在创始人兼CEO 吴韧博士的领导下,也瞄准人工智能推理市场。吴博士坚信,异构智能公司的高性能、低功耗、低成本的芯片将会打开各种应用市场大门,而避免和英伟达已经牢牢占据的高性能、高价格的市场进行竞争。 异构智能独有的人工智能推理专用架构DSA(Domain SpecificArchitecture即针对应用领域做优化的处理器架构,区别于通用架构)的独特方案赢得了其早期客户的青睐。此专用架构专注在卷积神经网络,从而在人工智能应用最大的基于图像处理的应用市场中,有极强的竞争力。吴博士说道,NovuTensor推理芯片的极端高效来自于独一无二受专利保护的全新计算体系结构,它的特殊性体现在:能够进行真正的原生态三维张量卷积运算——这是人工智能计算的一个最关键的算子。不同于其他构架,NovuTensor在处理时并不需要首先将三维张量展开为二维矩阵,可直接在本地进行三维张量运算。比起目前大部分人工智能芯片公司还在通过牺牲计算精度来提高算力,NovuTensor的这个方向显然更具影响力。它意味着通过更高的并行性来提高性能,减少展开三维张量运算所需要的重复数据操作,节约能耗,并通过一次加载两个张量来增加计算强度。该公司已于去年秋天成功流片拿到28nm的工程样片,据其公司规划显示,该产品计划在更新的制程上进行算力的进一步提升。 图1: NovuTensor能够更为有效的处理深层神经网络,从而降低延迟及成本,目前已获四项美国专利。(图片来自异构智能) 案例 让我特别感兴趣的是,异构智能的部分商业落地非常有意思,其中一些应用场景可能会在未来产生相当巨大的需求。以下是几个例子: 第一个客户案例是新加坡NCS集团,它是电信巨头SingTel(新加坡电信有限公司,是新加坡最大的电信公司)的子公司。NCS希望通过异构智能的技术,建立一个智能监控系统,该系统能够通过智能摄像头进行视频分析,监测特定的人、车、物、异常情况等等。这套智能系统可以将城市中的摄像头从单纯的视频捕获设备,转变为可实时向警方提供预警的端点。在实际应用中,低功耗(3瓦!)低成本和低延迟是关键因素。NCS研发主管Kar Han Tan提到,“我们的应用环境要求在非常低功率的情况下,具有非常高的性能。异构智能的芯片构架很独特,这也使得他们在保持价格具有竞争力的同时,还能够满足我们客户的需求。”目前,异构智能正在进行第一阶段的测试,其技术将应用在约二十万台智能摄像头设备上。 第二个客户案例,是一家大型消费电子公司,该公司正在用异构智能的第一款芯片完成工程样机测试智能超分辨率技术在8K电视上的应用。通过该芯片,可以实现将4K图像放大到一个完整的8K图像,并利用人工智能来填充细节以生成超高质量的图像,同时降低本机8K图像传输的带宽要求。当然,实现这个对功耗是有严格要求的,没有人想要在电视机里放一个冷却风扇。由于在您面前的屏幕可能并不是8K显示设备,因此图2中的图像不能被公正的显示出来。但是,如果你放大它,便可以感受到差别。 图2:异构智能的芯片正被用于8K智能超清电视测试原型中,使用人工智能来填充缺失的细节,实现4K图像的高清化,降低通过互联网和电视广播8K视频内容传输所需的带宽需求。(图片来自异构智能) 结论 人工智能推理加速器的世界将很快开始巨变,对边缘端的智能芯片需求将达到数以千万甚至数十亿计,以加速人工智能在智慧城市、智能工厂、电子产品等等方面的应用落地。异构智能公司似乎已经找到了适应这些新兴市场和应用场景的解决方案:通过构架的创新来降低功耗,提升卷积神经网络的性能。目前早期客户正在测试其的第一代芯片,在电子消费、智慧城市监控、智慧医疗、零售等不同应用层面取得了极其优异的成绩。事实上,异构智能公司能够在使用保守且廉价的28nm制造工艺,其性能和功耗表现意味着其产品线在未来几年将会有很大的发展空间。 很快将看到更多有趣的初创公司展示他们的人工智能芯片,但我相信异构智能公司已经确立了早期的领先优势,并值得关注。 备注:Moor Insights&Strategy与其他研究和分析机构一样,向本文提及的许多高科技公司(包括英伟达)提供研究、分析、建议或咨询。作者在本文中提到的公司中并不具备任何投资身份。

2019,AI进化的盛宴

2019新年到来,辞旧迎新,欣欣向荣。如果说2017年是人工智能(AI)的元年,那么2018年则是AI变得更加成熟的一年。深度学习和AI得到了喷井式的发展,其应用也变得更加广泛。深度学习科学家们也在不断的把精力投入新技术的摸索和实现,以及各种实际应用场景中。在新的2019年,AI将面临巨大的商业化市场,将带来许多行业天翻地覆的进化式转变。 在过去一年中,AI行业的发展是多元的,技术变得越来越复杂,面临的挑战也在升级。随着市场不断扩大,越来越多的企业加入到AI的竞争当中,然而这个新兴的市场并没有那么容易站稳脚跟,企业面临着越来越残酷的优胜劣汰。在世界经济格局正在进行的新一轮大洗牌中,仅有少数精英公司将得以生存,我很高兴异构智能是其中一员。 从好的方面来看,各种AI应用的不断增长是我们有目共睹的。如果你错过了麦肯锡全球研究所过去一年在19个行业编制的AI用例报告(见文末链接),我强烈建议你阅读,这篇文章涵盖了所有AI主要行业的400多个总估值为数万亿美元的应用案例。 从这些广泛的应用案例来看,AI的应用越来越倾向于“专、精、窄”,大量的数据资源对这一趋势产生了至关重要的作用。AI应用的专业化对于我们的生活发生着润物细无声的改变,Apple、Google等公司的智能语音系统越来越“聪明”的背后,都是基于大量语音数据和用户反馈数据的训练。同时,AI的社会问题讨论也在变得更加热烈,“AI取代人类”等论调甚嚣尘上,我认为这是一种过于悲观的想法,AI对部分行业的取代将是个缓慢的过程,AI也将会创造更多新的工作岗位。 未来,AI将以更多不同的姿态深入地渗透至我们的日常生活中,改善人们的生活,给人们带来新的资源和能力,人们能从中更好地领会到AI在具体任务中的有效性以及强大的计算能力。 我预测在2019年人工智能在边缘网络的应用将会成为热点。不同于过去基于云端的计算,边缘计算已成为许多企业数字生态系统的一部分。具有机器学习功能的智能基础系统与基于云端的分析协同工作,从根本上改变了人们对边缘服务的思考方式。更智能、更简单的网络边缘正在融合广泛的行业和消费趋势,异构智能AI芯片等产品也将推动算力强大、低延迟的实时处理计算更加接近终端用户。 最后再次祝福大家2019新年快乐!   报告链接:https://www.mckinsey.com/~/media/mckinsey/featured%20insights/artificial%20intelligence/notes%20from%20the%20ai%20frontier%20applications%20and%20value%20of%20deep%20learning/notes-from-the-ai-frontier-insights-from-hundreds-of-use-cases-discussion-paper.ashx