开云体育
DeepSeek极限吞吐超8000 tokenss 倒逼AI技术更高效和普惠开云体育
DeepSeek在全球爆火出圈几个月后,最近不少用户发现“服务器繁忙,请稍后再试”的提示越来越少了。这背后是何种技术发展提升了算力供给,进一步推高了AI热潮?
3月26日,在甘肃庆阳举行的异构智算产业生态联盟大会上,多位来自AI产业的专家、业内人士就算力供给分享了观点。专家表示,异构智算平台为智算中心输出融合、稳定和高效的算力,加速各行业实现数字化、智能化转型升级。其中,3000并发下,DeepSeek总吞吐量超8000 tokens/s,提升了用户体验。
DeepSeek掀起的AI应用革命与算力瓶颈突破,也让AI算力供给受到了前所未有的关注。
全国政协委员,中科院计算所研究员张云泉表示,“DeepSeek的诞生标志着在AI领域出现了新的技术突破,尤其是在低算力训练和高效率模型优化方面,这将推动AI技术向更高效和普惠的方向发展。”他认为这一突破,促使全球市场重新评估大模型发展的成本曲线,推动国内芯片、云计算等基础设施加速升级。
谈及数据中心建设,燧弘华创执行总裁唐锋表示,企业应围绕东数西算战略,聚焦人工智能与算力产业,打造绿色低碳算力基础设施,构建高效能、可持续的绿色算力大底座。
AI大模型的热潮催生了广泛的AI算力需求,而算力的建设需政府引领与龙头企业协同推进。
在新技术应用方面,据联想中国基础设施业务群战略总监黄山介绍,AI基础设施提供商已能凭借异构智算平台应对智算挑战,以液冷等技术持续解决能效和能耗难题,为千行万业输送真正 “好用” 的算力,从而有力推动智能化转型和产业升级。除此之外,还涵盖了服务器、存储、数据网络、软件及超融合、支持运维服务等在内的全方位基础设施解决方案。
英特尔高性能计算行业总监张东升则表示:“超智融合技术作为近年来全球计算领域热点话题,其核心思想是将超算与智算的能力相结合,以满足在人工智能高速发展背景下的各行业多元算力需求。”