HotChip2024-Day1合集：AI芯片

主要观点总结

本文介绍了非云厂商的AI加速器的一些情况，包括AMD MI300X、Intel Gaudi 3、SambaNova SN40L等的技术特点。还提到了其他厂商如BRCM CPO等的一些产品进展和亮点技术，并给出了关于Nvidia Blackwell的一些评价。此外，文章还涉及一些端侧处理器如Intel Xeon6 SoC等的信息和一些科普视频的内容。

关键观点总结

关键观点1: AMD MI300X的技术特点

MI300X架构通过Infinity Fabric Advanced Package提供高速互联，支持FP8运算和矩阵运算的MatrixCore。显存带宽和容量优化，L3 Cache较大，达到256MB。虚拟化技术也有所介绍。

关键观点2: Intel Gaudi 3的主要亮点

Gaudi 3主打推理和FineTune。Spec矩阵乘法引擎是脉动阵列架构。增加类似Hopper TMA的AGU计算核。L3 Cache及中断管理和同步管理。

关键观点3: SambaNova SN40L的特色

SN40L片上内存大，支持在HBM基础上扩大内存容量。Tile架构改进，添加PCU和PMU合并的结构，支持Tensor操作。

关键观点4: 其他厂商的产品进展和技术亮点

包括BRCM CPO的TH5版本和光互联技术，SK Hynix AIM的存内计算，IBM Telum 2大型机处理器集成DPU等。同时提及了Nvidia Blackwell的系统特性和互联技术。

关键观点5: 科普视频和AI芯片峰会的信息

介绍了一些关于AI革命和AI芯片领域的科普视频以及即将举行的全球AI芯片峰会的信息。