高通AI Hub面向中国开发者开放 加速终端侧AI部署

Source

品玩11月4日讯,高通技术公司近日宣布,高通AI Hub正式面向中国开发者开放,提供用于构建和部署终端侧AI的一站式平台。

该平台整合高通AI Hub Models、Workbench、Apps以及面向终端侧生成式AI推理的GenieX四大模块,覆盖模型探索、优化、应用集成及多终端部署全流程。其中,Models提供超过230个预优化模型,可调用高通AI引擎中CPU、GPU和NPU的硬件加速能力;Workbench支持开发者在云托管真实设备上进行模型优化、量化、编译与性能验证;Apps提供示例应用和参考代码;GenieX则提供命令行、Python和Java API等接口,支持在NPU、GPU和CPU上本地运行模型。

高通技术公司执行副总裁马德嘉博士表示,开放该工具旨在发挥终端侧AI在响应速度、可靠性和隐私保护方面的优势。平台还通过官网、高通终端云中国设备农场和开发者论坛等渠道提供配套资源与支持。