嘉楠科技张楠赓：边缘推理芯片是新型计算架构设计突破口

世界人工智能大会正式开幕首日，嘉楠科技发布AI芯片勘智K510。嘉楠科技董事长兼CEO张楠赓表示，摩尔定律支配的晶体管性能增长乏力，无法满足算法模型的算力需求，亟需探索新的计算体系结构设计。边缘推理作为云边协同的重要组成部分，已成为AI应用大规模落地的关键，是万物智联时代下新型处理器架构设计的突破口。

大会期间，嘉楠科技正式发布AI芯片勘智K510。该芯片定位于中高端边缘推理市场，采用了嘉楠自主研发的IP核架构KPU2.0，结合3D PE阵列与GLB片上存储设计，独创计算数据流复用技术，将算力提升至原先的3倍。在硬件配置方面，K510集成新一代图像处理单元，可支持3D ISP和TOF深度摄像头，在高清视频会议、高清航拍、工业视觉、智能家居和机器人等多个场景。

边缘推理芯片是新型计算架构设计突破口

张楠赓表示，在云边协同的架构中，边缘AI在数据脱敏、数据感知和实时决策上有效弥补了时延和数据隐私上的短板，也能降低高昂的IT基础设施成本。因此可以说，边缘推理是AI应用大规模落地的关键。

张楠赓认为，当前，摩尔定律支配的晶体管性能遭遇增长瓶颈，已经跟不上现代算法对算力的需求。探索新的计算体系结构就变得非常重要。边缘推理芯片不同于传统处理器。不仅需要开发专用的IP核，而且需要编译器、软硬件等方面的整体优化来提升计算效率，降低时延。同时，还要在处理器的设计中考虑功耗成本和数据安全性。

公开资料显示，嘉楠科技在ASIC领域积累了大量芯片设计经验，包括标准单元设计、算法开发和优化、低电压、高能效计算与散热解决方案等。

嘉楠坚持IP核心自主研发

2016年，嘉楠科技正式成立AI芯片部门，启动边缘芯片研发项目——勘智AI。研发团队在ISA选型、功耗和功能设计上都全面瞄准边缘AI，并在一开始就确立了依托开源架构研发自主IP核的技术路线。

张楠赓表示，芯片勘智K510在总线架构、IP核心与视频子系统推出全新设计，相比一代芯片算力提升3倍，经典视觉算法大幅优化，自研高速PHY接口理论带宽10GB/s，8位数据压缩率50%以上，极大优化了勘智AI系列的机器视觉应用性能。

张楠赓指出，IP核心KPU2.0采用了全局本地缓存设计，通过SRAM阵列满足神经网络中不同层级对内部访问带宽和存储的需求。计算卷积不需要进行im2col（image to column）数据重排，提升计算效率；而通过多级存储设计，K510可以增加卷积计算的数据复用，从而减少数据的读取次数，降低芯片功耗。

张楠赓表示，进入万物智联时代，新架构、新理念和新设计百家争鸣，这是本土芯片行业面临的历史性机遇。我对中国半导体产业未来的发展充满信心，我相信用不了多久，中国就将成为全球芯片设计中心，嘉楠愿意为这个目标贡献自己的力量。