【AI框架的层级】
移动和嵌入式设备上也能直接玩机器学习？
- Ecosystem
- Application
- Algorithm
- Framework
- Software Products
- Libraries
- Hardware Products
- Hardware IP
其中对象识别=OD=Object Detection
- 对象识别是在嵌入式平台上运行的众多机器学习工作负载之一
【AI芯片整理】
AI芯片的历史和现状
不同端：
- 设备端=终端
- 云端
AI芯片类型：
- 通用：GPU
- 半定制化：FPGA
- 全定制：ASIC
- 类脑芯片
【AI芯片的加速方式】
解密AI芯片的加速原理
- 计算
- GPU
- FPGA
- ASCI
- 存储
- 3D-NAND
- MRAM
- RRAM
- 交互
- 高性能传感器
- 更强的语音和视觉算法
【AI芯片举例】
- TPU
- TPUv2
- Rokid
- Rokid和杭州国芯共同打造的一颗针对智能音箱的SoC
- AI加速只是里面的一个功能
- 集成了Cadence的DSP
- 语音加速硬件IP——NPU
- 华为海思HiSilicon Hi3559A
- 推理IP：NNIE
- 集成了Tensilica DSP
【ARM的ML芯片】
一窥ARM的AI处理器
Arm NN SDK 概览
Arm 对 Google NNAPI 的支持概览