今天看啥
专栏 RSS订阅(公众号)
温馨提示:订阅专栏后我们将尽力更新;开通 稳定极速订阅 可获得稳定更新保障,并降低更新延迟;无人订阅的专栏有可能不会更新
程序化API访问方法
基础API: 未开通,请先订阅专栏再开通
高级API: 未开通,请先订阅专栏再开通
扩展API接口一: 未开通,请先订阅专栏再开通
提交新专栏
专栏 二维码
今天看啥Skill
TodayRss-海外RSS稳定源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
他们也喜欢这个专栏
 • 
RSS订阅
今天看啥  ›  专栏  ›  GiantPandaLLM
专注于大语言模型,CUDA,编译器,工程部署和优化等多个方向技术分享。我们不仅坚持原创,也规范转载知乎大佬们的高质量博文。希望在传播知识、分享知识的同时能够启发你,在人类通往AGI的道路上互相帮助(・ω\x26lt;)☆
免责声明:本专栏仅为信息导航参考,不代表原文立场或观点。 原专栏内容版权归原作者所有,如您为原作者并希望删除该专栏,请通过 【版权申诉通道】联系我们处理。
需要稳定、低延迟更新,可开通 RSS 稳定极速订阅 ,获得稳定更新保障并降低更新延迟
CUDA优化 让向量求和变得非常快
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
Llama4凌晨突然发布!以超高性价比开启原生多模态AI和开源MoE的新时代,并公开训练策略!
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[CUDA基础]CUDA-Learn-Notes: v3.0 大升级-面试刷题不迷路
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
https://github.com/BBuf/Panzhihua-Mi-Yi-Pipa
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
分享一个DeepSeek V3和R1中 Shared Experts和普通Experts融合的一个小...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[InternLM/VL系列]InternLM2/LM2.5/ViT/VL1.5/VL2.0笔记: ...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[KV Cache优化]MQA/GQA/YOCO/CLA/MLKV笔记: 层内和层间KV Cache...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[张量/序列并行]图解 DeepSpeed-Ulysses & Megatron-LM TP/SP
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
SGLang 支持Flash Attention V3 Backend
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
DeepSeek V3/R1 推理效率分析(3):Decode 配置泛化讨论
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
DeepSeek V3/R1 推理效率分析: 满血版逆向工程分解
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
从零开始设计 SGLang 的 KV Cache
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
DeepSeek V3/R1 推理效率分析(1):关于DeepSeek V3/R1 Decoding...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
谈谈DeepSeek-R1满血版推理部署和优化
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
详解vLLM和SGLang awq dequantize kernel的魔法
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
非常简洁的图像复原新方法:退化分类预训练,已中ICLR2025
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
《超大规模AI实战手册》PDF领取
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
从DeepSeek MoE专家负载均衡谈起
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
从DeepSeek V3开源趋势重新审视大模型Infra
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
SGLang MLA 实现解析
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  ·