今天看啥
专栏 RSS订阅(公众号)
温馨提示:订阅专栏后我们将尽力更新;开通 稳定极速订阅 可获得稳定更新保障,并降低更新延迟;无人订阅的专栏有可能不会更新
程序化API访问方法
基础API: 未开通,请先订阅专栏再开通
高级API: 未开通,请先订阅专栏再开通
扩展API接口一: 未开通,请先订阅专栏再开通
提交新专栏
专栏 二维码
今天看啥Skill
TodayRss-海外RSS稳定源
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
他们也喜欢这个专栏
 • 
RSS订阅
今天看啥  ›  专栏  ›  NeuralTalk
关注深度学习框架开发、模型压缩、低比特量化、移动端推理加速性能优化、工程化部署
免责声明:本专栏仅为信息导航参考,不代表原文立场或观点。 原专栏内容版权归原作者所有,如您为原作者并希望删除该专栏,请通过 【版权申诉通道】联系我们处理。
需要稳定、低延迟更新,可开通 RSS 稳定极速订阅 ,获得稳定更新保障并降低更新延迟
通过微基准测试剖析 NVIDIA Blackwell 架构
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
A100和MI300A上评估跨GPU语言Mojo的性能与可移植性:基于MLIR跨NVIDIA/AMD...
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
系统视角下的测试时扩展(Test-Time Scaling):Are We Scaling the ...
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
大规模 LLM 推理能耗估算和优化:从 0.8 GWh 到 0.9 GWh 的百亿查询级优化实践
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
Fake Runs, Real Fixes!复用GRM的AI加速器微架构分析方法:15%All-Ga...
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
嵌入式系统中 TinyML 模型的实时性能基准测试 PICO:基于推理延迟、CPU 与运算性能
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
LLM 预训练缩放性能研究:5 项实用建议驱动 350M 模型在 128 节点上的 256 卡线性扩...
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
代码开源!OSDI'25 通过类 eBPF 探测实现可编程细粒度 GPU 内核分析工具 Neutri...
NeuralTalk  ·  公众号  · AI  ·  1 年前  · 
整套软硬件协同系统设计!攻克内存墙(带宽和容量):极长上下文推理的优化路径!实现 A100 2.24...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
核弹级合作!NVIDIA 千亿投 OpenAI,10GW 算力剑指通用人工智能
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
嵌入式 AI 简报:华为芯片计划/英特尔18A押注/沐曦 摩尔IPO/玄戒O2/NPU设计全流程教程...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
LLM 推理系统综述:从内存管理、系统架构到严峻挑战
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
首个硬件感知智能体 GPU Kernel 优化框架 SwizzlePerf:让 L2 命中率飙升 7...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
LLM 推理系统综述:从请求处理到模型优化与执行
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
训练即部署!SpecForge:加速 SGLang 推测性解码训练,让16GB GPU支持70B模型...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
85倍TTFT提升且精度更优!源于苹果移动端AI实践的FastVLM:FastViTHD 驱动重新定...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
eGPU:让eBPF为GPU可观测性与可编程性赋能!首个动态PTX注入式eBPF-GPU框架,较NV...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
首个MoE-Inference-Bench发布!硬件加速技术系统性评估:FP8量化提速20%-30%...
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
重读《机器学习科研的十年》:未来最难的,还是保持初心和热情!
NeuralTalk  ·  公众号  ·  ·  1 年前  · 
MobileLLM重构1B LLM设计:深度优先架构让iPhone续航延至全天,解码50tokens...
NeuralTalk  ·  公众号  ·  ·  1 年前  ·