今天看啥
专栏 RSS订阅(公众号)
温馨提示:订阅专栏后我们将尽力更新;开通 稳定极速订阅 可获得稳定更新保障,并降低更新延迟;无人订阅的专栏有可能不会更新
程序化API访问方法
基础API: 未开通,请先订阅专栏再开通
高级API: 未开通,请先订阅专栏再开通
扩展API接口一: 未开通,请先订阅专栏再开通
提交新专栏
专栏 二维码
今天看啥Skill
TodayRss-海外RSS稳定源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
他们也喜欢这个专栏
 • 
RSS订阅
今天看啥  ›  专栏  ›  GiantPandaLLM
专注于大语言模型,CUDA,编译器,工程部署和优化等多个方向技术分享。我们不仅坚持原创,也规范转载知乎大佬们的高质量博文。希望在传播知识、分享知识的同时能够启发你,在人类通往AGI的道路上互相帮助(・ω\x26lt;)☆
免责声明:本专栏仅为信息导航参考,不代表原文立场或观点。 原专栏内容版权归原作者所有,如您为原作者并希望删除该专栏,请通过 【版权申诉通道】联系我们处理。
需要稳定、低延迟更新,可开通 RSS 稳定极速订阅 ,获得稳定更新保障并降低更新延迟
图解Vllm V1系列5:调度器策略(Scheduler)
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
Meta Shuffling的MoE Grouped GEMM kernel benchmark
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
MetaShuffling:Meta的Fused MoE kernel工程方案,更激进的Kernel...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[vLLM实践][算子] vLLM算子开发流程: "保姆级"详细记录
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
图解Vllm V1系列4:加载模型权重(load_model)
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[Triton编程][基础] Triton Fused Softmax Kernel详解: 从Pyt...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
一键式训练端到端Agent,Qwen3+MCP工具集高效集成!
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
LightLLM中DeepSeek V3/R1 Two MicroBatch Overlap 实现解...
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
[Triton编程][基础] Triton极简入门: Triton Vector Add
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
MCP&RL系统学,打榜赛尽情玩!书生大模型实战营第5期课程玩法双升级,火热报名中
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
Sglang 源码学习笔记(三)- 分布式和并行(以deepseek 为例)(WIP)
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
sglang 源码学习笔记(二)- backend & forward 过程
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
通过查看GPU Assembly分析CUDA程序
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
单机H200最快DeepSeek V3和R1推理系统优化秘籍
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
SGLang 源码学习笔记:Cache、Req与Scheduler
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
在SGLang中使用reasoning模型
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
【CUDA 优化】让RMSNorm变得更快
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  · 
图解Vllm V1系列3:KV Cache初始化
GiantPandaLLM  ·  公众号  · 3D  ·  1 年前  ·