基于Knative快速部署DeepSeek-R1

主要观点总结

本文介绍了如何在Knative中部署DeepSeek-R1推理服务，包括资源规格的选择、推理模型的部署以及自定义域名的设置。还介绍了如何验证DeepSeek服务的效果。

关键观点总结

关键观点1: Knative提供的自动扩缩容机制KPA能够更直接地反映推理服务的性能表现。

Knative中的KPA机制能够根据QPS或RPS来调整资源分配，这在传统基于GPU利用率的弹性伸缩策略无法准确反映大模型推理服务的实际负载情况时显得尤为重要。

关键观点2: DeepSeek-R1模型的部署流程。

部署DeepSeek-R1模型需要创建Knative Service资源对象，并添加标签和配置Annotation来指定ECI规格。资源规格选择GPU机型A10，推理模型使用DeepSeek-R1-Distill-Qwen-1.5B示例模板。

关键观点3: 自定义域名的设置方法。

通过云解析DNS，将域名解析到访问网关，实现在服务管理页签获取服务的访问网关和默认域名。部署完成后，可以通过自定义域名访问DeepSeek服务。