阿里云AI成果入选顶会 GPU用量削减82%

主要观点总结

阿里云提出的计算池化解决方案“Aegaeon”成功入选顶级学术会议SOSP 2025，该方案解决了AI模型服务中的GPU资源浪费问题，大幅提升GPU资源利用率，其核心技术已应用在阿里云百炼平台。Aegaeon系统通过GPU资源池化，打破了“一个模型绑定一个GPU”的低效模式，实现精细化管理，降低了模型切换开销，提高了有效吞吐量和请求处理能力。

关键观点总结

关键观点1: 阿里云的计算池化解决方案“Aegaeon”入选SOSP 2025

Aegaeon方案解决AI模型服务中的GPU资源浪费问题，大幅提升GPU资源利用率，入选计算机系统领域顶级学术会议SOSP 2025。

关键观点2: Aegaeon系统的核心创新和优势

Aegaeon系统通过GPU资源池化打破低效模式，采用token级调度，实现精细化管理，降低模型切换开销，提高有效吞吐量和请求处理能力。

关键观点3: Aegaeon系统的实际应用效果

在阿里云模型市场为期超三个月的Beta测试中，Aegaeon系统显著减少了GPU使用量，降低了公司硬件采购成本。同时，通过支持单GPU同时服务多个不同模型，提高了有效吞吐量和请求处理能力。

关键观点4: 未来AI发展与系统级软件创新的关系

未来AI的发展将不仅依赖于硬件算力的增长，更需要通过系统级的软件创新来深度挖掘现有硬件的潜力，全球学术界和工业界对此越来越关注。