香港中通社6月14日电 题:香港科大研NPU可运行医用AI模型
香港中通社记者 梁嘉轩
机器人、智能家居、智能教育……这些过去抽象的概念正在人工智能(AI)的普及下,成为生活的一部分。而一款运算能力强的芯片正是其“心脏”。
香港科技大学日前举办年度初创主题活动“独角兽日”智。能晶片与系统研发中心展示了具备离线运算能力的AI视网膜筛检设备,其离线运算的特性正意味著本地的算力足以应付视网膜检查这种复杂的运算,背后展示的是这款约比手掌大的芯片,有著强大的运算效能。
香港中通社图片
该研发中心是科大全资拥有的研发中心,也是亚洲首个研发AI芯片设计的跨国联盟,专注发展积体电路设计技术,推动以数据为本的崭新运算模式,并设计高效能的AI硬体平台。
研发中心主任研究员莫秉灿告诉中通社记者,应用在视网膜筛检设备的这款芯片适用于绝大多数AI应用场景,只要经训练的AI模型能够部署其中,即可实现功能运行。在处理模型规模方面,目前中心技术的定位大致对应10B参数量级的模型需求。
对比传统概念上,认为AI运算需使用笨重的GPU图形处理器,莫秉灿告诉记者,他们所设计的是专门为AI运算而生的NPU(神经网路处理器)。据了解,NPU具有可模拟人脑神经网路的架构,可平行处理大量数据。在实际的应用场景上,使用NPU处理AI工作,有助释放CPU(中央处理器)和GPU来执行其他工作。
莫秉灿介绍,智能晶片与系统研发中心早于2020年成立,而因为其研究单位的定位,为促进芯片的商业转化,在相关技术研发完成后,中心将授权予他们所分拆出来的公司——港芯智能,让客户赋予芯片更多应用场景。而港芯智能也是中心第一家分拆出来的。
目前,以MoE(专家混合模型)是传统大模型算法数据量不全、运算量过大的解决方案之一,为全球不少AI企业和研发机构的思路,一个个小模型就像各领域的专家全部设在另一个负责统筹的模型下;负责统筹的模型则会决定在回应用户需求时,需要激活哪些“专家”。智能晶片与系统研发中心的这款芯片,正具备了统筹的能力,可以作为模型的中心。科大目前的不同科研团队正研发在不同场景下的专用模型,而这些模型可以放在他们的芯片下跑,让模型发挥出更大的作用。
值得一提的是,纵然这款设备可以满足不少AI终端的需求,但并不需要如手机版极其先进的芯片制程,他们的NPU将围绕12或28纳米的制程进行设计,并由台积电或中芯国际生产。由于28纳米不属于先进制程,而12纳米也早已经被中芯国际攻克,因此他们在选择芯片制造商时,不会受到美国对华芯片制裁的影响。(完)