80亿参数，40 Tokens/秒，0.3秒延迟！商汤绝影行业首发原生多模态大模型车端部署

主要观点总结

商汤科技联合创始人王晓刚在WAIC 2024商汤科技人工智能论坛上宣布，商汤绝影正在打造一系列基于原生多模态大模型的车载智能化产品，推动智能汽车进化。论坛展示了商汤绝影在原生多模态大模型车端部署方面的领先技术，包括低延迟、高推理速度的特点和丰富的终端用户反馈处理能力。商汤绝影还展示了其多模态大模型在各种不同算力平台上的适配能力，并宣布将为合作伙伴共同打造全新的车载智能化产品，引领智能汽车交互革新。

关键观点总结

关键观点1: 商汤绝影基于原生多模态大模型打造车载智能化产品

商汤科技正在打造一系列全新的车载智能化产品，这些产品基于原生多模态大模型，旨在推动智能汽车向超级智能体进化。

关键观点2: 多模态大模型的车端部署技术领先

商汤绝影在行业内率先实现了原生多模态大模型的车端部署，具有低延迟、高推理速度的特点，并能够覆盖主流算力平台。

关键观点3: 商汤绝影重视安全和实时响应

智能汽车对安全和实时响应有非常高的要求，商汤绝影的多模态大模型能够为用户提供更加流畅和自然的交互体验。

关键观点4: 商汤绝影具备全栈方式灵活部署的能力

商汤绝影能够以云侧、端云结合、端侧等全栈方式灵活部署多模态大模型，使商汤原生多模态能力能够快速落地智能汽车。

关键观点5: 多模态融合的技术难度高

多模态大模型能够将不同模态进行高效且深度地融合，提供更加丰富且自然的人机交互体验。过去许多模型处理不同模态信息的方式与商汤多模态大模型的处理方式不同，技术难度更高。