革命实力强、应用落地广,GenAI(生成式AI)技能栈领域,商汤科技位居国内榜首!
近日,泰斗扣问机构弗若斯特沙利文(Frost & Sullivan, 简称“沙利文”)聚会头豹扣问院发布《2024年中国GenAI技能栈市集敷陈》,商汤科技在11个GenAI厂商中终点阿里云、百度智能云和华为云,增长指数和革命指数均名次国内第一,在环球名次中仅次于亚马逊云科技。
敷陈以为,商汤积极参加技能革命,懊恼于为用户提供行业朝上的自研模子与高性能国产化的推理引擎,同期竖立了包含机器与东说念主工审核、安全评测与骨子安全计策迭代升级等在内的完好性安全不断决策,是GenAI技能栈领域的指导者。
基于商汤大安设,革命力和增长力领跑国内市集GenAI技能栈是贯串硬件法子层与终局用户交互的中间层,集成了包括基础模子、数据处理、模子查考调优、模子部署监控等技能和用具,提供从模子运转变到部署全经由的一站式治理决策。
《2024年中国GenAI技能栈市集敷陈》从革命和增长两个维度、共10个一级评价臆测打算进行GenAI技能栈竞争力分析。
敷陈表露,商汤科技在两个维度中均名次环球第二、国内第一,其中革命维度赢得“资源愚弄率优化不断、缓存与缅念念、精熟压缩模子”三大模块最高分,展现出三大才调上风:
高效的资源愚弄率优化才调:商汤自研高性能大模子推理引擎性能上风昭着,在疏导算力及电力资本下将每秒苦求数(QPS)耕种4倍。同期基于训推一体、算电协同等技能革命,万卡集群GPU资源愚弄率最高达到80%以上。高效的缓存与缅念念才调:竖立了数据飞轮机制,造成自我强化的响应轮回,杀青模子性能的连接耕种。精熟的压缩模子才调:在代码小浣熊办公助手和代码助手应用场景中,通过模子体积压缩,杀青数倍的显存省俭、高比例的速率耕种。在增长维度,商汤科技斩获“行业客户与场景决策”模块最高分,展现出了商汤生成式AI落地应用的广度和深度:
心事领域广:商汤“日日新”大模子已在金融、医疗、Copilot助手、拟东说念主交互、智能终局等要津领域缔造了不凡的应用价值和朝上地位。应用触达深:商汤科技与各行业头部企业张开细巧息争,助力运营商提高算力资源愚弄,助力媒体革命骨子坐褥格式,为生成式AI应用落地提供了丰富的标杆案例与行业训戒。引颈GenAI技能栈发展趋势,加快GenAI应用落地敷陈指出,高质模子的构建、安全合规的优化、推理资本的裁汰、数据价值的开释、产物应用化的杀青,是用户在构建GenAI应用时的中枢考量要素。
而商汤科技在GenAI技能栈领域取得朝上,主要源于以下几个方面:
积极的革命参加:不仅构建了自主算力平台,商汤日日新大模子在多评测集上也均保执朝上地位,让用户不错调用不同模态与不同业业性的基础大模子。高性能的推理引擎:商汤大型分散式推理系统,领有高性能算子库与极致优化的推理框架,在软硬件底层优化、自顺应别离架构、国产化生态打造以及前瞻性的“多模态AGI+云/边/端系统”布局等层面上风显耀。完善的安全不断框架:商汤针对GenAI场景,瞎想了恰当大模子本性的骨子安全运营体系,为用户提供完好的安全不断决策。敷陈以为,GenAI技能栈将呈现模块化、圭臬化、平台化、浅易化、去中心化的发展趋势,MaaS(模子即作事)的泛泛试验还将重构生成式AI的买卖化生态。同期,看成一项底层革命技能,GenAI还将催生全新类型的信息商品,有望训诲出全新的产物时期和超等产物。
商汤大安设万象,包含模子开荒平台和应用开荒平台,面向企业与开荒者提供模子不断、模子微调、推理部署、数据不断,以及智能体应用等一站式大模子作事,并见效应用于央国企、运营商、汽车、互联网等行业客户。
商汤大安设将连接完善GenAI技能栈,通过一系列用具与作事协助用户裁汰模子开荒门槛,以MaaS大模子即作事的革命格式,鼓舞生成式AI应用的买卖化落地和生态构建。
— 完 —
量子位 QbitAI · 头条号签约
真贵咱们,第一时刻获知前沿科技动态