IPU是一种可编程网络设备，旨在使云和通信服务提供商减少在中央处理器 (CPU) 方面的开销，并充分释放性能价值。利用 IPU，客户能够部署安全稳定且可编程的解决方案，从而更好地利用资源，平衡数据处理与存储的工作负载。

IPU里面有1216个核，我们称之为Tile，每个Tile里都有计算单元和内存。由于同时有上千个处理器工作，所以单个IPU的存储带宽能达到45TB，比性能最快的HBM提升了50倍以上，在相同算力下，功耗也降低了一半。