品牌定位

教育数字化应用及服务提供商

凯发K8官网入口 > 新闻动态 > 行业资讯>开源软硬件平台

开源软硬件平台

作者:j9九游会老哥论坛 , 阅读量: ,更新时间:2024-11-05

  [中国,上海,2024 年 9 月 20 日] 在华为全联接大会 2024 期间,以“激发原生创新,拥抱㊣数智世界”为主题的昇腾产业峰会在上海✅成功举行。峰会现场,21 家行业领军企业发布基于昇腾 AI 的大模型推理行业解决方案,金融信创生态实验室、北京金融科技产业联盟联合发布《昇腾在金融行业的应用与生态白皮书》,众多昇腾产业伙伴分享基于昇腾的原生实践,共同加速 AI 应用落地,使能千行万业数智化升级。

  华为董事、ICT 产品与解决方案总裁杨超斌在致辞中表示,华为将继续坚定加大昇腾原生投入,使能伙伴原生创新,加速人工㊣智能行业落地。在人工智能解决㊣方案创新上,充分㊣发挥在计算、网络、存储等多领域的技术协同优势,以系统级架构的持续创新,提供㊣原生✅动力。在生态构建上,秉持“开放、利他”的理念,将能✅力开放✅给伙㊣伴,实现共赢发展。目前已有 50 多家生态伙伴发布了基于昇腾的原生开发成果,50 多家硬件伙伴打造了 200 多款产品,2000 多家应用伙伴孵化了 4000 多个行业解决方案,加速了大模型在各行各㊣业的规模应用。未来,华为将坚定不移地与产业和生态伙伴一起,携手打造更丰富的产品和解决方案,助力各行业数字化和智能化转型的进程,加速迈向数智世界。

  中国㊣工程院院士、中国商飞首席科学家吴光辉在致辞中提到,中国商飞将继续基于昇腾 AI,扩大合作范围,进一步将智能化赋予飞机的设计、制造、运营、维护、管理㊣等各个环节。

  昇腾生态走向原生驱动,离不开每一位客户、伙伴及开发者的共同努力。目前,昇腾已累计培养 3 万多名原生开发贡献者,20 多家伙伴及客户原生打造了 100 多个核心大算子,孵化了 40 多个原生大模型以及 50 多个大模型应用。华为昇腾计算业务总裁张迪煊表示,昇腾 AI 将坚持深耕基础软硬件,演进训推解决方案,以原生技术促进✅原生生✅态。

  昇腾训练解决㊣方案始终围绕“高性能、高可用、高易用”的方向持续㊣创新,满足模型长稳高效的训练需求。

  ●昇腾独创 NB2.0 通㊣信算法,将带宽利用率从 40% 提升到了 60% 以上,通信算子的执行耗时下降 40% 以上。

  ●CCAE 集群自治引擎提供跨域全栈管理能力,训前支持健康状态检测和预防性✅维护,训练中支持 400 + 典型故障的动态隔离,保障训练任务的稳定运行。

  ●昇腾率先实现 Step 级的 CKPT 保存技术,可以做到万亿模型训练任务分钟级续训,保障大规模集群下的月级稳定训练。

  ●MindSpore 持续提升动静统一能力,以 1 套 API 使能 2 种模式开发,让开发者忽略动静态图开发差异。

  ●全新发布昇腾分布式加速套件 MindSpeed 1.0,预置 100 + 模型、60 + 加速算法及 10 余种微调算法,使能从预训练到增量训练全流程加速。

  昇腾推理解决方案秉承开放、快速部署、极致性能的㊣原则,在有效吞吐、服务化和部署等能力上持续升级,实现更高的 AI 落✅地经济性。

  ●昇腾提供了包含 PD 分离在内的业界领先的推理加速技术,充分利用设备资源,降低企业 AI 落地成本;通过训推同架构的算子和模型支持,实现“零”算子适㊣配㊣开发,小时级完成模型从训练到推理的转换,推理应用天级上线。

  ●在算力部署上,昇腾提供包含单㊣机和多机推理在内的软硬件部署能力,面向未来万亿参数、百万级长序列的需求,昇腾将围绕领先的胖节点技术,持续㊣升级推理解决方㊣案。

  ●推理引擎 MindIE 持续升级关键特性,支持自适应 P✅D 分离,面向多模态理解和视频生成提供新套件支持,加快大模型灵活部署。

  昇腾坚定围绕原生,以基础软硬件为技术锚点激发原生创新,为伙伴及开发者提供算力、NRE、MDF 及社区贡献等权益激励,促进商业共赢,为 AI 产业持续发展注入原动力。

  面向大模型领域,昇腾 AI 围绕业务场景构筑领先的推理㊣解决方案,携手伙伴共促行业数智化升级。现场,华为㊣联合科大讯飞、交通银行、钉钉、360 等在内的㊣ 21 家伙伴和客户,基于昇腾 AI 基础软硬件平台共同发布大模型推理行业解决方案,覆盖互联网、金融、政府、政务、制造、媒资、交通㊣㊣✅等行业,全面使能大模型应用迅速融入各类业务场景。

  在金融领域,昇腾 AI 凭借优异的性能表现和灵活的部署方式,为金融机构提供了强大的 AI㊣ 计算能力,为金融科技的持续发展注入新动能。会上,金融信创生态㊣实验室、北京金融科技产业联盟重磅发布《昇腾在金融行业的应用与生态白皮书》,赋能金融行业智能化发展。

  科大讯飞副总裁、AI 工程院院长潘青华表示,基于昇腾 AI 基础软硬件打造的飞星一号平台,已经常态化高效支撑讯飞✅星火大模型训练,星火大模型在昇腾算力上的训练推理性能也经过充分优化,普遍达到业界 90% 以上,完全基于昇腾算力原生开发训练的星火 V4.0,在国内外中英文 12 项主流测试集中有 8 项超过 GPT-✅4Turbo。

  腾讯 PCG 事业群机器学习平台首席技术专家㊣袁镱介绍,腾讯 PCG 机器学习平台中心携手昇腾 AI,自研高性能 LLM 推理引擎,在传统的算子融合、Conti✅nous Batching 等推理加速技术的基础上,通过显存优化,异步调度✅和计算复用等技术,在相同✅精度的推理中,一念框架吞✅吐相对业界推理框架提升 15%+。

  钉钉副总裁、商业平台技术部总经理周鹏表示,智能时代开启后,钉钉在全场景探索大模型在工作领域的应用,已经在 20 条产品线 多个场景全面完成智能化升级。同时,为了帮助企业㊣更安全、更快速、更低成本的落地大模型,钉钉联合昇腾打造了专属 AI ✅一体机,从硬件到软件深㊣度协同优化,为企业提供端到端的私有化大模型落地方案,帮助企业在内部管理、研发生产、产品销✅售等业务场景实现㊣智能化,目前已经孵化了智能问答、知识搜索、会议分析及智能差旅等多种 AI 应用。

  精英数智科技股份有限公司副总经理、研发中心总经理侯鹏程表示,精英数智基于昇腾原生打造矿山大模型应用 ——“煤矿大脑”安全管控平台方案,覆盖煤矿生产过程中人、机、环、管四类风险隐患的有效识别、动态评估和精准防控,包含 150 + 应用场景,构建全方位、多层次、立体化的煤矿安全风险双重预防管理体系,助力煤矿生产提效增安。当前方案已经在全国 2000 多个煤矿实现部署,守护 30 余万矿工安全。

  中国科学院香港创新研究院人工智能与机器人创新中心主任刘宏斌指出,CARES Copilot 多模态手术大模型基于昇腾算力底座,结合分阶段开源软硬件平台、多科室的海量专业临床数据集训练,实现多模态的手术数据理解。该模型已应用于手术规划、气管镜检查、具身超声全自动机㊣器人系统等㊣场景,目前已经在各大医院临床测试中取得良好效果。

  大时代将迎来㊣新机遇,昇腾一直是千行万业智能化道路上㊣的坚实伙伴,为企业提供创㊣新动力,让我们携㊣手✅奋进,迎接变化,创造可能,共同迈向数㊣㊣智未来!

  广告声㊣明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关推荐