今天看啥
专栏 RSS订阅(公众号)
温馨提示:订阅专栏后我们将尽力更新;开通 稳定极速订阅 可获得稳定更新保障,并降低更新延迟;无人订阅的专栏有可能不会更新
程序化API访问方法
基础API: 未开通,请先订阅专栏再开通
高级API: 未开通,请先订阅专栏再开通
扩展API接口一: 未开通,请先订阅专栏再开通
提交新专栏
专栏 二维码
今天看啥Skill
TodayRss-海外RSS稳定源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
他们也喜欢这个专栏
 • 
RSS订阅
今天看啥  ›  专栏  ›  NeuralTalk
关注深度学习框架开发、模型压缩、低比特量化、移动端推理加速性能优化、工程化部署
免责声明:本专栏仅为信息导航参考,不代表原文立场或观点。 原专栏内容版权归原作者所有,如您为原作者并希望删除该专栏,请通过 【版权申诉通道】联系我们处理。
需要稳定、低延迟更新,可开通 RSS 稳定极速订阅 ,获得稳定更新保障并降低更新延迟
TorchAO:PyTorch原生端到到框架,打通训练到移动端全链路!FP8/PTQ缩容4倍/延迟降...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
首个 LLM 多智能体 GPU 内核优化系统 Astra:自主优化 SGLang CUDA 内核,平...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
突破MoE在Hopper FP8分组GEMM性能瓶颈!TMA动态描述符+对齐管理告别Padding!...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
ISCA'25 建模GPU LLM推理性能AMALI: 借助张量核心优化与warp分布,推理误差低于...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
针对AMD AI Engine空间架构的可扩展BLAS库AIEBLAS:基于自动代码生成的创新实现方...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
本周六免费活动!Chitu 首次 Meetup 国产算力生态天团集结,冲击大模型推理性能极限!
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
NPUEval:评估AMD硬件LLM向量化NPU Kernel——102个机器学习算子、编译器反馈与...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
W4A8 GEMM实现LLM 4.9倍加速!LiquidGEMM让反量化、权重加载和矩阵乘流水重叠,...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
实现 FA3 峰值性能 78.4%!基于Triton低级扩展的2-Simplicial Attent...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
端到端加速4.5倍!端侧SoC动态稀疏注意力 shadowAttn:关键token稀疏计算架构且兼容...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
调度语言的过去、现在和未来:面向 CPU/GPU 集群、性能接近厂商库的统一调度技术创新
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
30.9% 能耗节省!亚秒级 GPU 频率实时决策框架 AGFT:实现LLM推理实时功耗与性能的平衡...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
高通端侧生成式AI:Hexagon NPU架构创新与异构实现98%性能提升、0.6秒图像生成与20t...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
ISCA'24 揭示SRAM与计算资源最优配比!DSE创新方法Orojenesis:张量算法的可达数...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
MultiKernelBench:首个覆盖英伟达GPU、华为NPU、谷歌TPU的Kernel生成基准...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
注意力块 4 倍加速!Zen-Attention:面向AMD NPU基于硬件感知的动态注意力层折叠编...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
HotChips 2025 从摩尔定律到巨型内核:GPU 上机器学习系统优化的十年跃迁,Zhihao...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
Qwen2-VL-3B 模型在瑞芯微 RK3576 开发板 NPU 上多模态和多轮对话部署指导与评测
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
从1B到7B参数15个开源模型全面评估SLM-Bench:4 种硬件配置,构建小型语言模型推理性能-...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
刷新RISC-V架构LLM效率!通过IREE支持linalg.mmt4d微内核与创新设计,实现50倍...
NeuralTalk  ·  公众号  ·  ·  1 年前  ·