近日,第三届GMIF2024创新峰会在深圳湾万丽酒店成功举办。本次峰会汇聚了北京大学集成电路学院、美光科技、西部数据、Solidigm、Arm、紫光展锐、Intel、科大讯飞、瑞芯微、慧荣科技、佰维存储、胜宏科技、全志科技、英韧科技、联芸科技、铨兴科技、澜起科技、AMAT、LAM、DISCO、中科飞测、龙芯中科等国内外知名企业高管及行业专家,共同探讨AI时代下全球存储创新发展与生态合作共赢之道。峰会期间,隆重揭晓了GMIF2024年度大奖,共计38家产业链关键代表企业获得表彰。
在GMIF2024峰会上,铨兴科技营销中心副总裁黄治维发表了题为“开启‘铨’民AI时代的训推一体解决方案!"的演讲,展示了公司在人工智能(AI)时代的最新布局。作为半导体存储产品制造商,铨兴科技不仅是存储行业的重要推动者,更致力于引领“全民AI时代”的发展。此次演讲首次提出了“超维显存融合”概念,旨在为AI应用提供更高效的解决方案,打破AI训练与推理之间的瓶颈。
从存算一体到超维显存融合:解决AI应用中的显存瓶颈
黄治维在演讲中指出,传统的存算一体解决方案在处理大规模AI模型时,面临显存不足、运算效率低下等问题。铨兴科技通过“超维显存融合”的全新理念,整合硬件与软件资源,推出了能够有效突破显存瓶颈的解决方案。“超维显存融合”核心硬件——铨兴添翼AI扩容卡,通过显存扩展技术,让GPU处理更加庞大的AI模型成为可能,帮助用户以更低的成本完成高效的模型训练与推理。
他举例说明,传统的AI模型训练需要部署多台服务器和数十张高端显卡,成本高达500万人民币,而铨兴科技的方案则可以用一台塔式工作站,结合AI扩容卡,将成本降至原来的1/5。这一解决方案不仅大幅降低了AI训练和推理的硬件要求,还提升了计算效率和模型处理能力,为中小型企业提供了更多进入AI领域的机会。
多层次硬件与软件集成,提升AI应用效率
不仅是“超维显存融合”这样硬件上的巨大突破,铨兴科技在也在软件方面做出了杰出成果,打造出极低成本的训推一体解决方案。黄治维介绍了铨兴科技的三层软件架构:AI Base、AI Pro和AI One。AI Base作为基础系统,能够兼容各种AI模型,并提供训练支持;AI Pro则是为应用场景提供预先配置的AI模型,如邮件助手、问答系统等;而AI One则可以为用户量身定制AI解决方案,帮助企业实现专属的AI应用。
通过硬件与软件的深度结合,铨兴科技的训推一体方案能够应对从小模型到大模型的各类AI需求。黄治维还提到,公司的训推一体机分为三个档次,支持从72B到180B规模的全参模型微调,最高档次更能实现405B的模型处理能力,充分满足不同行业的AI应用需求。
从本地部署到国产化生态,全面引领AI未来
在黄治维的演讲中,他强调了本地端AI部署的重要性。政企采购、科研机构等对数据安全性有严格要求,而铨兴科技的训推一体解决方案提供了在本地端部署AI的可能,避免了数据上传至云端的安全风险。此外,该解决方案大幅降低了AI服务器的电力和基础设施成本,在法律、金融、代码生成等领域也有广泛的应用前景。
更值得关注的是,铨兴科技正在积极推动全国产化的AI解决方案,与国内GPU厂商合作,实现从CPU、GPU到存储设备的国产自主研发。预计在2025年,公司将推出完全国产化的AI硬件与软件一体化解决方案,为中国的AI产业自主创新贡献力量。
总结
铨兴科技基于“超维显存融合”打造的极低成本AI训推一体解决方案,不仅展现了公司在技术创新上的深厚实力,更体现了其对AI未来发展的深刻洞察。从显存扩展、硬件集成到本地化部署和国产化布局,铨兴科技通过全方位的技术突破与战略规划,致力于为AI应用提供更高效、更经济的解决方案,推动AI技术的普及与商业化进程。随着AI应用场景的不断拓展,铨兴科技的解决方案将为不同行业的智能化发展带来新的动能。