NVIDIA发布开源全双工语音模型NemotronLabs VoiceChat 11B

Source

品玩8月10日讯,据marktechpost 报道,NVIDIA近日发布开源端到端全双工语音对话模型NemotronLabs VoiceChat 11B,在统一网络中完成流式语音理解与生成,无需串联ASR、LLM和TTS等多个模型,大幅降低端到端延迟。

该模型采用混合Mamba/Transformer架构,支持边说边听,用户可在对话中途打断,模型将自动让出话语权。在Full-Duplex-Bench 1.0基准测试中,其平滑轮换延迟为448毫秒,用户打断接管率达1.00。此外,该模型是首个支持对话过程中实时工具调用的开源全双工模型,调用API时可通过预置话术避免冷场。

目前模型权重和容器已公开,采用宽松许可协议,但仅限研究用途。部署需配备至少80GB显存的GPU,暂无托管API服务。