炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
近日,由新浪财经主办的AI投资峰会在北京举行,主题为“AI基建时代的确定性机会”,阿里云基础设施异构计算资深总监卢晓伟表示,AI应用已经从简单问答转向复杂多Agent任务链,行业重心也由模型训练,转向训练、微调、推理并重,超节点架构将是阿里云算力迭代主线。
卢晓伟指出,行业早期更多聚焦模型榜单、Demo效果,如今企业客户核心诉求已经切换至高并发承载、可控延迟、可预测成本、数据隔离等生产级指标,AI正式从实验场景迈入真实生产系统。同时应用形态从简单问答工具,演进至多Agent协同处理复杂任务链路,涉及知识检索、代码执行、工具调用等多重环节,这不仅拉动AI芯片需求爆发,也重塑CPU等配套硬件的角色定位。
行业资源分配逻辑同样发生切换,过去产业资源大量倾斜模型训练环节,当下已经过渡至训练微调持续推理并重的新阶段,倒逼底层基础设施重新设计。
针对市场高度关注的超节点架构的投入产出,卢晓伟披露实测业务数据:以MOE模型64卡部署为例,对比8台8卡服务器分散部署,同等卡量下超节点整机柜会带来TCO(总拥有成本)抬升,但单卡推理性能可提升40%以上,性能提升幅度跑赢成本增幅,推理场景下性价比改善更为突出。
他表示,超节点是阿里云AI服务器与推理基础设施的核心演进方向,未来资源重心将持续投向超节点产品迭代。统一的超节点硬件底座,也能够兼顾双十一等在线业务与AI训推任务,提升产品规划与落地效率。
谈及行业核心考核指标,卢晓伟强调,Token利用率效率是基础设施层最关键的观测指标。阿里云内部每月复盘Token产出全链路拆解,向上牵引超节点、IDC等全链条成本管控,通过硬件、系统层优化,实现算力资源降本增效。
新浪声明:新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。责任编辑:常福强