今天看啥
专栏 RSS订阅(公众号)
温馨提示:订阅专栏后我们将尽力更新;开通 稳定极速订阅 可获得稳定更新保障,并降低更新延迟;无人订阅的专栏有可能不会更新
程序化API访问方法
基础API: 未开通,请先订阅专栏再开通
高级API: 未开通,请先订阅专栏再开通
扩展API接口一: 未开通,请先订阅专栏再开通
提交新专栏
专栏 二维码
今天看啥Skill
TodayRss-海外RSS稳定源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
他们也喜欢这个专栏
 • 
RSS订阅
今天看啥  ›  专栏  ›  GiantPandaLLM
专注于大语言模型,CUDA,编译器,工程部署和优化等多个方向技术分享。我们不仅坚持原创,也规范转载知乎大佬们的高质量博文。希望在传播知识、分享知识的同时能够启发你,在人类通往AGI的道路上互相帮助(・ω\x26lt;)☆
免责声明:本专栏仅为信息导航参考,不代表原文立场或观点。 原专栏内容版权归原作者所有,如您为原作者并希望删除该专栏,请通过 【版权申诉通道】联系我们处理。
需要稳定、低延迟更新,可开通 RSS 稳定极速订阅 ,获得稳定更新保障并降低更新延迟
CUDA-MODE课程笔记 第11课: Sparsity
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
FID 指标简介与修正 TorchEval FID 计算接口经历分享
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】教程:CUTLASS中的矩阵转置 (使用CuTe把矩阵转置优化到GPU内存带宽上下限)
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
vLLM源码之框架执行
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】教程:在PyTorch中为CUDA库绑定Python接口
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
在白嫖的阿里云ECS上手动部署Dify运行大模型应用
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
NVidia GPU指令集架构-浮点运算
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
GLM-4-Flash官方API免费了,体验一下
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【PyTorch 奇淫技巧】Python Custom Operators翻译
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
LLM101N:用C++实现micrograd,手把手从零教你
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
LLM训练手法系列:直接偏好优化DPO
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
【翻译】Accelerating Llama3 FP8 Inference with Triton ...
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
[Hopper 架构特性学习笔记 Part2] Tensor Memory Access(TMA)
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
CUDA-MODE课程笔记 第9课: 归约(也对应PMPP的第10章)
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
TensorRT-LLM初探(三)最佳部署实践
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
通过微基准测试和指令级分析(Instruction-level Analysis)揭秘英伟达Ampe...
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
[Hopper 架构特性学习笔记 Part1] Distributed Shared Memory
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
H100 vs. A100 和 4090 vs. A10 实测性能(一)算力篇
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
TensorRT-LLM 中的 Hopper Mixed GEMM 的 CUTLASS 3.x 实现...
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  · 
ICML2024 : Bandwidth Efficient Attention - 保精度下8~3...
GiantPandaLLM  ·  公众号  · 3D  ·  2 年前  ·