今天看啥
专栏 RSS订阅(公众号)
温馨提示:订阅专栏后我们将尽力更新;开通 稳定极速订阅 可获得稳定更新保障,并降低更新延迟;无人订阅的专栏有可能不会更新
程序化API访问方法
基础API: 未开通,请先订阅专栏再开通
高级API: 未开通,请先订阅专栏再开通
扩展API接口一: 未开通,请先订阅专栏再开通
提交新专栏
专栏 二维码
今天看啥Skill
TodayRss-海外RSS稳定源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
他们也喜欢这个专栏
 • 
RSS订阅
今天看啥  ›  专栏  ›  GiantPandaLLM
专注于大语言模型,CUDA,编译器,工程部署和优化等多个方向技术分享。我们不仅坚持原创,也规范转载知乎大佬们的高质量博文。希望在传播知识、分享知识的同时能够启发你,在人类通往AGI的道路上互相帮助(・ω\x26lt;)☆
免责声明:本专栏仅为信息导航参考,不代表原文立场或观点。 原专栏内容版权归原作者所有,如您为原作者并希望删除该专栏,请通过 【版权申诉通道】联系我们处理。
需要稳定、低延迟更新,可开通 RSS 稳定极速订阅 ,获得稳定更新保障并降低更新延迟
大语言模型推理,用动画一看就懂!
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】【PyTorch 奇技淫巧】FlexAttetion 基于Triton打造灵活度拉满的Att...
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】torch.compile 的详细示例解析教程
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
CUDA-MODE 课程笔记 第13课:Ring Attention
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
大模型直接预测下一个句子,更快、更准、更长!
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【PyTorch 奇技淫巧】介绍 depyf:轻松掌握 torch.compile
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
一文读懂 ONNX、TensorRT、OpenVINO部署框架
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】CUTLASS 教程:掌握 NVIDIA® 张量内存加速器 (TMA)
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
一文读懂KVCache
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】深入探讨 Hopper TMA 单元在 FP8 GEMM 运算中的应用(文末送3本大模型书)
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
人人都能看懂的DPO数学原理
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
一文讲清 NCCL 集合通信原理与优化
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
基于o1-preview解读 Optimized GPTQ INT4 Dequantization ...
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】在 GPU 上如何加速 GPTQ Triton 反量化kernel
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
加速矩阵计算:英伟达TensorCore架构演进与原理最全解析
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
CUDA-MODE课程笔记 第12课,Flash Attention
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
使用Nsight Profiling工具对大模型进行性能调优
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【PyTorch 奇淫技巧】Async Checkpoint Save
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
Stable Video Diffusion 结构浅析与论文速览
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
vLLM源码之模型并行
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  ·