打造“质”“量”国产算力,北电数智以全栈产品助力行业生态繁荣

近年来,人工智能经历了持续的迭代与升级。从最初的简单预测模型,到深度学习模型,再到近年来广受欢迎的Transformer模型,AI算法不断演进,智能化水平也在稳步提升。

ChatGPT的出现更是引发了人工智能技术的飞跃,标志着大模型时代的到来。众企业纷纷在大型语言模型领域展开布局,研究重点也逐渐从单一的语言模型、视觉模型扩展至多模态大模型,世界模型也需不断提高数据参数和模型复杂度。然而,从行业实际应用的角度来看,模型的小型化和推理模型的重要性正日益凸显。这也意味着,大模型在算法层面的演进对算力和数据提出了更高的要求。

北京电子数智科技有限责任公司(以下简称“北电数智”)首席科学家、复旦大学计算机学院特聘教授窦德景曾在《人工智能在大算力、大数据和大模型时代的研究和应用》发言中表示“大模型日新月异的当下时代,行业数据、算法、算力基础设施层的升级挑战。算力购买投入的同时伴随着算力运营成本的增加,新一代芯片更新迭代导致的贬值问题也影响着业务需求的算力成本投入。过往购买算力只看数量的时代已经过去,粗放式的算力发展方式已不能满足当下市场的需求,未来的算力需要“质”“量”兼顾,重视提高算力基础设施的利用率和效率。”

北电数智作为⼀家专注于原创性、颠覆性、引领性科技创新的人工智能科技企业,在算力、算法和数据等方面实现了全栈产品和解决方案布局。北电数智宝塔·模型适配平台能无缝适配多种软件,并与各大主流开发框架保持兼容性,从而降低企业和开发者的使用门槛。宝塔·模型适配平台赋予开发者极大的灵活性,使其不必局限于单一选择,既可以利用主流的基础大模型,也可以选择开源模型,有效解决了算法层面的“烟囱难题”,实现了不同模型间的自由切换。

释放公共数据的潜在价值,促进企业间数据的顺畅流转,并丰富专业数据集以满足模型训练的需求,已成为行业发展的关键路径。北电数智搭建了核心数据空间——红湖·可信数据空间,可集成隐私计算、数据沙箱、区块链等多种数据安全技术,保障数据要素在安全可信的环境中实现汇聚、共享、开放和应用,促使数据要素实现高效流通并充分发挥价值,是解决数据跨域流通的最优解。

“质”“量”兼顾的精细化运营成为对AI基础设施的新期待。北电数智公司前进·AI异构计算平台具有卓越的算力调度能力,可为不同场景提供多样化的调度策略,以精准匹配各类计算任务的不同需求。“潮汐调度”是该平台的一大特色亮点,其可根据计算任务的特性和资源需求的变化动态地分配和回收计算资源,尤其适用于渲染应用等场景,以最大化资源的利用率并减少执行时间;此外,“前进·AI异构计算平台”提供的“训推混布”策略可帮助大模型使用方实现同一算力集群既支持在线推理服务部署任务,又支持离线训练任务,从而显著提高算力资源的利用率,减少资源浪费,大幅降低运营成本。前进·AI异构计算平台支持多款国产芯片的广泛纳管,帮助用户实现对不同品牌和类型AI加速卡的统一管理,以确保各类AI芯片的无缝集成和优化利用。广泛的纳管能力也让用户能够根据具体需求,灵活地调整资源配置,优化算力供给满足各类训练推理任务。目前,北电数智基于“前进·AI异构计算平台”打造的国产算力PoC平台落地北京数字经济算力中心,且该平台已完成十余款芯片的评测支持和二十多款主流模型的适配。

北电数智依托完备的AI全栈技术产品体系,以“宝塔・模型适配平台”让大模型任务找到算力最优使用方式并提供AI工具链实现大模型全生命周期的生产与管理,凭“红湖・可信数据空间”在安全可信环境下激活数据要素价值反哺模型能力,借“前进・AI 异构计算平台” 实现底层芯片高效纳管和调度提升算力效能,积极推动人工智能在各个领域的应用实践与落地。​

(0)
上一篇 5天前
下一篇 5天前