【AI框架的层级】
移动和嵌入式设备上也能直接玩机器学习?
![](https://www.crifan.com/files/pic/uploads/2021/03/5823fdfdc9194ee5b786ea0085f99650.jpg)
- Ecosystem
- Application
- Algorithm
- Framework
- Software Products
- Libraries
- Hardware Products
- Hardware IP
其中对象识别=OD=Object Detection
- 对象识别是在嵌入式平台上运行的众多机器学习工作负载之一
![](https://www.crifan.com/files/pic/uploads/2021/03/e8fcc6db2d594e62ac0c89639c87d567.jpg)
【AI芯片整理】
AI芯片的历史和现状
不同端:
- 设备端=终端
- 云端
![](https://www.crifan.com/files/pic/uploads/2021/03/f53b33aaeaea435aa035dc4d67b45f20.jpg)
![](https://www.crifan.com/files/pic/uploads/2021/03/689f40705f1f43e5af424cc8258c47da.jpg)
AI芯片类型:
- 通用:GPU
- 半定制化:FPGA
- 全定制:ASIC
- 类脑芯片
![](https://www.crifan.com/files/pic/uploads/2021/03/4af293478c2e4d54b2d1cc915fdbcb2d.jpg)
【AI芯片的加速方式】
解密AI芯片的加速原理
![](https://www.crifan.com/files/pic/uploads/2021/03/80b3c788d0654a69925be1b95346ac33.jpg)
- 计算
- GPU
- FPGA
- ASCI
- 存储
- 3D-NAND
- MRAM
- RRAM
- 交互
- 高性能传感器
- 更强的语音和视觉算法
【AI芯片举例】
- TPU
- TPUv2
- Rokid
- Rokid和杭州国芯共同打造的一颗针对智能音箱的SoC
- AI加速只是里面的一个功能
- 集成了Cadence的DSP
- 语音加速硬件IP——NPU
- 华为海思HiSilicon Hi3559A
- 推理IP:NNIE
- 集成了Tensilica DSP
【ARM的ML芯片】
一窥ARM的AI处理器
![](https://www.crifan.com/files/pic/uploads/2021/03/b4a2ddabb68248d7ae35c2cee57b73c7.jpg)
![](https://www.crifan.com/files/pic/uploads/2021/03/771c622ba86d40a28b42877f49ed6df6.jpg)
![](https://www.crifan.com/files/pic/uploads/2021/03/f8581f568f7043d08464ce8196e54718.jpg)
![](https://www.crifan.com/files/pic/uploads/2021/03/ad5bd0aaf10e40d682f024922fe56c40.jpg)
Arm NN SDK 概览
![](https://www.crifan.com/files/pic/uploads/2021/03/bfa85becc0304a63884df0242e5a092b.jpg)
Arm 对 Google NNAPI 的支持概览