OpenBMB联合昇腾举办MiniCPM-o 4.5推理优化与应用创新挑战赛,总奖金40.6万元。设有高性能推理优化和创新应用两条赛道,面向高校学生、AI开发者及团队,个人或三人组队均可。作品需在昇腾910C环境复现,考察首响速度、延迟、并发等工程指标。报名已开放,每日最多提交3次。
Tags:
全模态模型正在把人机交互从文字对话推向视觉、语音和文本的实时协同。
演示里的体验很流畅,到了工程现场,开发者仍要面对一个问题:首次响应不够快、端到端延迟能否压住、多人并发是否稳定、模型迁移到国产算力环境后能否顺利复现。
现在,OpenBMB 联合昇腾算力生态,举办了一场面向真实落地的开发者赛事。
报名官网:http://ascend.openbmb.cnMiniCPM & 昇腾推理优化与应用创新挑战赛已经开放报名。
赛事围绕 MiniCPM-o 4.5 展开,设置高性能推理优化和创新应用两条赛道,总奖金达到 40.6 万元。
无论你擅长 AI Infra、推理部署和算子优化,还是更喜欢做产品、交互和应用 Demo,都能找到适合自己的方向。
01
全模态能力,开始接受工程检验
MiniCPM-o 4.5 面向实时交互场景,支持视觉、语音和文本的端到端统一建模,可以实现边看、边听、主动说的自然交互。
模型能力已经准备好了。
接下来的难点集中在部署和体验上。
这次比赛把首响速度、单段延迟、端到端延迟、并发能力、资源利用率、稳定性和工程复现纳入考察。
参赛作品还要在统一的昇腾环境中完成复现验证,确保结果可运行、可验证、可沉淀。
对于想把全模态模型真正做进应用的人来说,这些要求很接近真实项目现场。
02
两条赛道,各有一套赢法
高性能推理优化赛道
本赛道围绕 MiniCPM-o 4.5,设置 llama.cpp-omni 与 vLLM-Omni 两个子赛道。参赛者可选择对应的推理框架,在昇腾 910C 上完成模型适配、部署与性能优化,持续降低全模态推理和流式语音生成过程中的响应延迟,提升系统稳定性与实时交互体验。
两个子赛道将基于各自的推理框架、Demo 和评测链路进行独立评测与排名。
参赛方案需在 Daily-Omni、TTS-Seed、Video-MME 等指定 Benchmark 上,确保优化后模型相对对应框架基线的精度降幅不超过 2 个百分点。
在满足精度要求的前提下:
llama.cpp-omni 子赛道:重点优化每个音频 chunk 的 RTF。
vLLM-Omni 子赛道:重点优化每个音频 chunk 的 RTF、TTFT 和 TTFP,分别衡量流式生成效率、首个 Token 响应速度和首个音频数据包输出速度。
创新应用赛道
这条赛道更适合 AI 产品开发者、多模态交互设计师、学生团队和应用工程团队。
你可以围绕实时问答、伴随式助手、视觉与语音交互、端侧应用、多模态场景理解等方向,做出一款真正可以运行和展示的产品。
教育、办公、创作和生活服务等场景都在鼓励范围内。
最终需要提交可运行的 Demo、Web Demo 或 App,并准备 PPT、项目说明和演示视频。
03
40.6 万元奖金怎么分
本次赛事共设置 12 个获奖名额,奖金均为税前金额。
高性能推理优化赛道奖金合计 27.1 万元,创新应用赛道奖金合计 13.5 万元。
若符合要求的参赛者数量不足,主办方会根据实际评审结果核减对应奖项和奖金。最终获奖名单以正式发布的评审结果为准。
个人能报,三人小队也能上
赛事面向高校学生、AI 开发者和应用创新团队开放,支持个人参赛,也支持不超过 3 人的团队报名。
擅长底层优化,可以集中火力冲击推理性能。更懂场景和产品,可以把 MiniCPM-o 4.5 做成一个好用、好看、能稳定演示的应用。
三人小队也可以按模型适配、产品开发和演示呈现来分工。
所有作品都要接受统一昇腾环境的复现验证。
比赛设有实时榜单,每支队伍每天最多提交 3 次,调优和提交节奏需要提前安排。
04
这些时间节点别错过
准备参赛的团队,最好先确定赛道,再倒排技术验证、材料整理和演示录制时间。
第一,尽早验证昇腾环境。模型跑通只是起点,性能数据、稳定性和复现流程都会影响最终结果。
第二,围绕评分项做准备。推理优化赛道要把性能变化记录清楚,创新应用赛道要重点打磨完整流程和交互体验。
第三,提前整理交付材料。代码、配置、测试脚本、性能报告、PPT、项目说明和演示视频,都不适合留到截止日前再补。
第四,控制提交节奏。每天最多提交 3 次,先在本地完成充分验证,再利用榜单反馈继续调优。
全模态模型进入真实场景,需要更快的推理、更稳的工程实现,也需要更自然的产品体验。
这场比赛把三件事放在了一起,也给了开发者一块检验能力的公开场地。
40.6 万元奖金已经就位。
想挑战全模态推理效率,或者手里正好有一个值得做出来的 AI 应用,现在可以组队了。
没有评论:
发表评论