押注篮球的app商汤基于昇腾狡计生态-押注篮球的app

发布日期：2024-09-26 06:39    点击次数：72

集群边界推广至3倍后线性加快比高达97%以上、102B 模子考研性能达业界120% 以上……这是商汤基于昇腾狡计生态的最新效力。

近日，商汤大装配行状群研发总监张行程受邀出席全纠合大会2024并发扮演讲，带来了商汤大模子基于昇腾原生征战奉行的主题分享。

大会上，海外巨擘数据机构IDC还发布了《AI时期数据中心收罗白皮书》，其中先容了商汤与华为共同惩处Al时期数据中心收罗诞生挑战，以大边界贯穿性、智能负载平衡等材干，提肥硕边界集群蒙眬量，提高考研效力，结束AI大模子的快速迭代。

高效大模子原生征战

积年来，商汤基于昇腾狡计生态，共同鼓吹基础模子、行业大模子垄断与革命。

举例，商汤通过高效并行、通讯优化及收罗架构感知和任务改变等软硬优化时刻，构建了大边界并行考研加快系统，其中102B模子的考研性能达到了业界的120%以上，同期单一任务集群边界推广至3倍，算力效力耗损仅为3%。

基于昇腾狡计生态，商汤还诞助长序列并行考研加快机制，与业界比拟，4K序列性能提高1倍以上，32K序列性能合手平，以至还能处理128K长序列考研。

当今，商汤日日新大模子从底层软件栈的接入到基础框架优化、再到模子原生征战，在性能、知晓性等要津参数方面跳动业界。

提供端到端的大模子革命复古

通过与昇腾团队相助，商汤将全栈大模子出产材干产物化，构建了从基础层、模子层、串联层到垄断层的高效、完备、易用的大模子出产用具链。

通过大模子出产用具链，商汤大装配可为客户提供涵盖算力、软件平台部署及模子迁徙等端到端的大模子自主革命落地全经由业务做事。

不仅如斯，面向不同客户的特定垄断场景需求，商汤还可提供业务流联想、垄断编排、数据迭代等升值做事，助力客户从0到1竖立完满的AI材干体系。

同期，针对客户不同的蒙眬量、部署边界等条目，商汤还会进行专项性能优化，匡助客户进行极致性价比提高，结束本钱效益最大化。

联袂共建绽放、分享的大模子革命生态

从基础措施的构建，到大模子的冲破，再到垄断的闹热，商汤与华为一直是坚实伙伴。

此前，商汤大装配AI云、日日新·有计划鬼话语模子、商汤医疗大模子“大医”先后通过与Atlas系列做事器的互相兼容性测试，为客户提供更为安全、高效、可靠的东说念主工智能全栈惩处决策和垄断体验。

商汤基础大模子、行业大模子基于昇腾原生征战，合手续探索在时刻联创、产业共建等方面的相助，在本次华为全纠合大会上，商汤科技取得“2024昇腾生态最好奉行伙伴奖”。

本年7月，商汤还获颁“最好昇腾原生征战伙伴奖”，以及昇腾“最初级垄断软件伙伴奖”， 展现了商汤在推动绽放、分享的大模子革命生态诞生中的积极作用。

通过不断的时刻联创与资源分享，商汤将合手续助力昇腾狡计生态发展，并联袂为客户提供愈加高效、方便的智算做事，推动AI在各行业的无为垄断与长远交融。

雷峰网