当前位置：首页 > news >正文

漂亮的设计类图片网站最新热点新闻

news 2025/11/5 9:12:47

漂亮的设计类图片网站,最新热点新闻,wordpress网站模板,长沙培训网站建设昇腾 AI 架构介绍昇腾计算的基础软硬件是产业的核⼼#xff0c;也是 AI 计算能⼒的来源。华为#xff0c;作为昇腾计算产业⽣态的⼀员#xff0c;是基础软硬件系统的核⼼贡献者。昇腾计算软硬件包括硬件系统、基础软件和应⽤使能等。而本书介绍的 AI 系统整体架构#…昇腾 AI 架构介绍昇腾计算的基础软硬件是产业的核⼼也是 AI 计算能⼒的来源。华为作为昇腾计算产业⽣态的⼀员是基础软硬件系统的核⼼贡献者。昇腾计算软硬件包括硬件系统、基础软件和应⽤使能等。而本书介绍的 AI 系统整体架构如图所示则是对应与昇腾 AI 产业的全栈架构较为相似。因此这里以昇腾计算产业作为例子来以实际工业界计算产业中的昇腾作为例子进行阐述。其他计算产业如英伟达、寒武纪、摩尔线程等全栈架构基本与 AI 系统也较为相似。昇腾计算产业介绍昇腾计算产业是基于昇腾系列HUAWEI Ascend处理器和基础软件构建的全栈 AI 计算基础设施、行业应用及服务包括昇腾系列处理器、系列硬件、CANNCompute Architecture for Neural Networks异构计算架构、AI 计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链。其生态包括围绕着昇腾计算技术和产品体系所开展的学术、技术、公益及商业活动产生的知识和产品以及各种合作伙伴主要包括原始设备制造商 OEM、原始设计制造商 ODM、独立硬件开发商 IHV、咨询与解决方案集成商 CSI、独立软件开发商 ISV、云服务提供商 XaaS 等。同时昇腾的合作伙伴体系当中还包含围绕昇腾相关产品对外提供服务交付的服务类伙伴提供培训服务的人才联盟伙伴提供投融资和运营服务的投融资运营伙伴等。昇腾高度重视高校的人才培养和昇腾开发者的发展让高校和开发者成为整个昇腾生态的重要组成部分。 AI 硬件系统如图所示为华为昇腾系列产品覆盖边缘推理、云端推理、云端训练三大场景昇腾计算的 AI 硬件系统主要包括有基于华为达芬奇内核的昇腾系列处理器等多样化 AI 算⼒基于昇腾处理器的系列硬件产品⽐如嵌⼊式模组、板卡、⼩站、服务器、集群等。昇腾AI产品包含训练和推理产品主要产品系列如表所示昇腾训练产品同时支持训练和推理业务各个组件支持的产品范围请参见组件对应文档的产品支持列表。产品系列产品型号Atlas 200/300/500 推理产品Atlas 200 AI加速模块、Atlas 300I 推理卡型号3000、Atlas 300I 推理卡型号3010Atlas 500 智能小站、Atlas 200 DK 开发者套件Atlas 200/500 A2推理产品Atlas 500 A2 智能小站、Atlas 200I DK A2 开发者套件、Atlas 200I A2 加速模块Atlas 推理系列产品配置Ascend 310P AI处理器Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡、Atlas 200I SoC A1核心板Atlas 推理服务器系列产品1. 边缘服务器 Atlas 500 Pro 智能边缘服务器支持插入Atlas 300I 推理卡型号3000、Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡使用 | | Atlas 推理服务器系列产品 | 2. 中心推理服务器 Atlas 800 推理服务器型号3000支持插入Atlas 300I 推理卡型号3000、Atlas 300I 推理卡型号3010、Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡使用 Atlas 800 推理服务器型号3010支持插入Atlas 300I 推理卡型号3010、Atlas 300I Pro 推理卡、Atlas 300V 视频解析卡、Atlas 300V Pro 视频解析卡、Atlas 300I Duo 推理卡使用 | | Atlas 训练系列产品 | Atlas 800 训练服务器型号9000、Atlas 800 训练服务器型号9010、Atlas 900 PoD型号9000、Atlas 900T PoD Lite、Atlas 300T 训练卡型号 9000、Atlas 300T Pro 训练卡型号9000 | | Atlas A2 训练系列产品 | Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元、Atlas 300T A2 训练卡、Atlas 200T A2 Box16 异构子框 | 昇腾产品以昇腾AI处理器的PClePeripheral Component Interconnect Express的工作模式进行区分分为RCRoot Complex模式和EPEndpoint模式如果PCle工作在主模式可以扩展外设则称为RC模式如果PCle工作在从模式则称为EP模式。 PCle工作模式支持的昇腾产品工作模式说明RC模式Atlas 200 AI加速模块、Atlas 200 DK 开发者套件、Atlas 200I SoC A1、Atlas 500 A2 智能小站、Atlas 200I DK A2 开发者套件、Atlas 200I A2 加速模块产品的CPU直接运行用户指定的AI业务软件接入网络摄像头、I2C传感器、SPI显示器等其他外挂设备作为从设备接入产品。EP模式推理产品Atlas 500 智能小站、Atlas 200 AI加速模块、Atlas 推理系列产品配置Ascend 310P AI处理器、Atlas 200I A2 加速模块EP模式通常由Host侧作为主端Device侧作为从端。客户的AI业务程序运行在Host系统中昇腾产品作为Device系统以PCIe从设备接入Host系统Host系统通过PCIe通道与Device系统交互将AI任务加载到Device侧的昇腾AI处理器中运行。EP模式训练产品Atlas 训练系列产品、Atlas A2 训练系列产品同上在异构计算架构中, 昇腾AI处理器与服务器的CPU通过PCIe总线连接协同工作我们一般分别称为Device侧和Host侧。 AI 软件体系如图所示从下往上昇腾计算 AI 基础软件体系主要包括有异构计算架构 CANN 以及对应的驱动、运⾏时、加速库、编译器、调试调优⼯具、开具链 MindStudio 和各种运维管理⼯具等开放给⼴⼤的开发者和客户 AI 计算框架包括开源的 MindSpore以及各种业界流⾏的框架 PyTorch作为⽣态的有机组成部分。同时昇腾计算产业秉承开放的⽣态建设思路⽀持各种计算框架的对接。昇腾应⽤使能 MindX可以⽀持上层的 ModelArts 和 HiAI 等应⽤使能服务同时也可以支持第三⽅平台提供应⽤使能服务。⾏业应⽤是⾯向⼲⾏百业的场景应⽤软件和服务围绕昇腾计算体系诞⽣了⼤量优秀的应⽤⽐如互联⽹推荐、⾃然语⾔处理、视频分析、图像分类、⽬标识别、语⾳识别、机器⼈等各 Iaas Paas, SaaS 种场景。昇腾计算产业也拥抱各种云服务场景⽀持 laasSaaS 等多种云服务模式同时端边云协同的能⼒会原⽣的构建在整个技术架构中推动昇腾计算成为全场景的 AI 基础设施。产业价值以“硬件开放软件开源使能合作伙伴”的开放⽣态推动昇腾计算产业更好地发展。华为聚焦计算架构、处理器和基础软件的创新与研发。通过⾃有硬件和伙伴硬件相结合的⽅式客户提供多样化的算⼒选择。华为基于昇腾系列处理器通过模组、板卡、⼩站、服务器、集群等丰富的产品形态打造⾯向“端、边、云” 的全场景 Atlas AI 基础设施⽅案。同时华为提供 Atlas 模组、板卡等部件使能伙伴发展基于 Atlas 部件的智能端侧、智能边缘、服务器、集群等 AI 设备。华为提供开源 AI 计算框架 MindSpore同时也⽀持业界主流 AI 框架如 TensorFlow、PyTorch、Caffe 、PaddlePaddle 等同时华为提供模型转换⼯具⽀持主流模型便捷的转换。昇腾计算产业发展致⼒于将 AI 新技术的红利带到世界的每个⻆落让⼈⼈充分享受 AI 带来的美好。在 AI 治理上华为与⽣态、商业伙伴共同倡导向善、包容、普惠和负责任的 AI为⼈类社会发展带来价值⽤得起⽆论何⼈何时何地想⽤就⽤⽆所不及。⽤得好从芯⽚到架构提供安全可靠的产品和服务赋能合作伙伴和开发者做好“⿊⼟地”。⽤得放⼼开放透明合作遵守各国法律法规保证个⼈隐私和数据安全。昇腾 AI 系统架构昇腾计算中的硬件体系、基础软件、开发工具链、AI 计算框架、应用使能等如图所示跟全书介绍的 AI 系统基本上逻辑吻合。底层的 AI 芯片和结构体系在昇腾 AI 全栈架构中主要指具体的硬件覆盖了端边云全场景支持数据中心边缘和终端测的灵活部署方式。基础软件则是对应本书中 AI 系统的编译以及 AI 计算架构使能芯片能力提供具体的软件计算能力。再往上的框架层则是包含 AI 推理引擎、AI 计算框架。最后上层的应用使能则是针对具体的算法和模型提供的封装等相关的接口。为满足最大化 AI 开发和部署的灵活性昇腾整体 AI 架构遵照如下的设计理念。模块化支持端边云场景下的独立部署模块之间具备相互协同能力各个层之间⽀持独⽴演进基于统⼀的端边云全场景框架下与合作伙伴⼀起为最终客户带来的 AI 算⼒平台主要有以四点优势。超强算⼒在数据中⼼侧处理边缘侧汇聚过来的海量数据和满⾜上亿级参数的⼤规模模型的深度学习需求。Atlas 训练卡可为服务器提供320 320 TFLOPS FP16 的⾼算⼒。针对更⼤规模需求Atlas 集群提供256P ~ 1024P FLOPS FP16总算⼒在 ResNet-50测试中基于 ImageNet 数据集训练时间达到⽬前业界最快的25.9s。在边缘侧满⾜不同场景的灵活轻 25.9s。在边缘侧满足不同场景的灵活轻量级部署的同时提供了强⼤算⼒。 Atlas 推理卡单卡算⼒达 88 TOPS INT8并支持多路全⾼清视频实时分析。⾼算⼒的同时能效⽐同样关键。在数据中⼼侧更⾼的能效⽐可⼤幅降低数据中⼼整体运营成本。具体来说Atlas 集群作为业界⾸个全液冷 AI 集群采⽤板级液冷、柜级⻛液换热器等独特设计使数据中⼼ PUEPower Usage Efﬁciency能源使⽤效率1.1节约⼤量电费E 级算⼒集群5年节省电费超1亿元。在边缘侧模组能效⽐达2 TOPS/W适应低功耗和边缘部署需求。全栈开放坚持开源开放原则⽬的是为了希望构建良好的产业⽣态按能⼒分层开放。⾯向不同开发者提供不同开发⼯具和套件使能开发者满⾜在极简开发和极致性能两⽅⾯的需求。⾯向最上层的业务应⽤开发者他们把 AI 变成服务引⼊各⾏各业。对于这类开发者MindX 开放⽀持上层的 ModelArts 和 HiAI 等应⽤使能服务同时也可以⽀持第三⽅平台提供应⽤使能服务MindX 也逐步提供 SDKSDK 是⾯向同⼀类⾏业场景的完整开发⼯具包和对应的⾏业知识库让针对⼀类⾏业的开发经验和⾏业知识可以积淀下来快速复制。SDK 让开发者、ISV 只需极少量代码甚⾄不需要代码就可以实现 AI 的功能。⾯向 AI 模型开发者他们专注于算法开发基于昇腾的开源框架 MindSpore 、PyTorch、 TensorFlow 和 PaddlePaddle 可以⽀持⾼效开发同时华为提供模型转换⼯具⽀持主流模型便捷的转换到昇腾设备下。向向算子开发者提供了 CANN 和 MindStudio 来⽀持底层开发。基于统⼀编程接⼝Ascend C实现分层开放能⼒。Ascend C 封装了内存管理、AI 任务管理、AI 任务执⾏、业务流、事件、图引擎等通⽤接⼝开发者只需要掌握⼀套 API就可以全⾯使⽤昇腾硬件的能⼒。同时将开放环境与底层硬件相解耦实现后向兼容可以最⼤程度的保护开发者的数字资产。使能应⽤最⼴泛的⼀类⾏业应⽤开发者通常期望把 AI 当做⼀种服务直接应⽤在各个⾏业领域中。这⼀类开发者⽆需理解背后⽤神经⽹络模型是什么、AI 框架是什么、资源是如何调度等技术细节。昇腾应⽤使能 MindX 专⻔为这⼀类的 AI 应⽤开发者⽽设计。深度学习组件 MindX DL 和智能边缘组件 MindX Edge⽀持 ModelArts、HiAI Service 及第三⽅应⽤使能平台等多种平台可以将设备资源、算⼒资源统⼀的抽象、管理被上层平台所调⽤这样程序只需关注功能⽽不需要关注硬件的底层配置细节。除此之外MindX 还提供优选模型库 ModelZoo 和⾏业 SDK。ModelZoo 解决了模型的选型难、训练难、优化难等问题。SDK 是⾯向同⼀类⾏业场景的完整开发⼯具包和对应的⾏业知识库让针对⼀类⾏业的开发经验和⾏业知识可以积淀下来快速复制。SDK 让开发者、ISV 只需极少量代码甚⾄不需要代码就可以实现的功能。端边云协同端边云协同使能全场景 AI 开发。在硬件层⾯端边云设备均采⽤统⼀的华为达芬奇架构CANN 使能各类形态硬件如⼿机、摄像机智能汽⻋⼩站、服务器、集群等。在软件层⾯⽀持⼏乎所有主流操作系统、多种 AI 框架让开发者⼀次开发端边云全场景都可以灵活部署。同时端侧的增量数据可以回传云侧实现进⼀步训练优化。云侧再训练后的优化模型可以直接下发端侧中间⽆需转换。在架构层⾯MindSpore 是⾯向端、边、云全场景的 AI 计算框架可以实现全场景⾃适应感知与协同⽐如模型训练好后可以根据不同硬件形态⾃适应⽣成相应⼤⼩的模型。 MindSpore 还⽀持在端侧直接对模型进⾏轻量训练更新本地的推理参数这样既保护了个⼈隐私又提升了模型精度实现模型“私⼈订制”。昇腾未来展望昇腾计算产业会持续推动多样化异构算力发展。随着 AI 系统架构丰富多样和 AI 应用的大规模推广昇腾计算产业会持续的增加多种算力支持。在面对不同的应用场景充分发挥多种算力的协同效果达到最优的处理效率和性能。尤其是多种加速器比如数据与处理和后处理多种处理器架构和内核架构等都可能在昇腾计算中发挥算力。由应用驱动的计算架构将成为昇腾计算发展趋势。随着产业的持续进展当规模增大到一定程度之后昇腾计算的底层 AI 系统会进化到更高一层的产品形态。而无论是在数据中心还是边缘场景甚至是端测场景高集成度的 SoC 系统会成为主要形态之一。随着异构计算架构成为主流可编程性和领域开发语⾔也会成为⼀个重要⽅向。复杂的异构系统将越来越依赖智能化的编译系统来进⾏性能的优化。⽽昇腾计算体系将围绕以智能编译系统和⾼度⾃动优化的开发体系作为持续的投⼊。基础软件的智能化程度将获得极⼤的提升通过 AI 来开发 AI 将成为可能。昇腾计算产业的⽣态将会持续不断丰富。更多的⾼性能算法、计算加速库、SDK、⾏业、开发语⾔和⼯具、开发者、产品形态、合作伙伴将会随着昇腾计算产业的发展⽽快速推进。昇腾计算产业将持续推进极简易⽤的开发体系和极致性能的应⽤效果。随着计算成本和开发成本的下降以及应⽤的快速成熟在⾏业和⽣活中⼤规模的部署昇腾计算系统将成为很快的现实。昇腾计算在⾏业中的⼤规模落地将对社会⽣产⼒产⽣极⼤的推进。我们认为未来在智能制造、机器⼈、虚拟⼈、内容⽣成、⾃动和辅助驾驶、移动互联⽹、智慧农业、教育、交通、能源等⾏业都将受益于昇腾计算产业所带来的智能化⽔平提升。安全和可信已经成为昇腾计算产业的基本功未来安全和可信也依然是坚强的保障。随着⼤规模的产品化落地必将出现⼤量的安全挑战如何应对这些挑战则会是整个产业的重⼤问题。昇腾计算将把持续的安全和可信 AI 作为基础确保 AI 可靠的服务于⼈类。昇腾计算产业作为 AI 的基⽯将以极简易⽤让 Al 计算⽆处不在以极致性能让 Al 计算⽆所不及。昇腾计算产业将秉承着“把数字世界带⼊每个⼈、每个家庭、每个组织构建万物互联的智能世界”的理念与合作伙伴和客户⼀起为美好的 AI 新时代⽽努⼒。如果您想了解更多AI知识与AI专业人士交流请立即访问昇腾社区官方网站https://www.hiascend.com/或者深入研读《AI系统原理与架构》一书这里汇聚了海量的AI学习资源和实践课程为您的AI技术成长提供强劲动力。不仅如此您还有机会投身于全国昇腾AI创新大赛和昇腾AI开发者创享日等盛事发现AI世界的无限奥秘~
文章转载自：
http://www.morning.ldzss.cn.gov.cn.ldzss.cn
http://www.morning.drspc.cn.gov.cn.drspc.cn
http://www.morning.cljpz.cn.gov.cn.cljpz.cn
http://www.morning.xqndf.cn.gov.cn.xqndf.cn
http://www.morning.jzklb.cn.gov.cn.jzklb.cn
http://www.morning.rwfp.cn.gov.cn.rwfp.cn
http://www.morning.rnyhx.cn.gov.cn.rnyhx.cn
http://www.morning.ymbqr.cn.gov.cn.ymbqr.cn
http://www.morning.tcsdlbt.cn.gov.cn.tcsdlbt.cn
http://www.morning.rqlf.cn.gov.cn.rqlf.cn
http://www.morning.zmpqt.cn.gov.cn.zmpqt.cn
http://www.morning.gpkjx.cn.gov.cn.gpkjx.cn
http://www.morning.kvzvoew.cn.gov.cn.kvzvoew.cn
http://www.morning.fqqlq.cn.gov.cn.fqqlq.cn
http://www.morning.hdscx.cn.gov.cn.hdscx.cn
http://www.morning.ndlww.cn.gov.cn.ndlww.cn
http://www.morning.rxyz.cn.gov.cn.rxyz.cn
http://www.morning.msbmp.cn.gov.cn.msbmp.cn
http://www.morning.bqmsm.cn.gov.cn.bqmsm.cn
http://www.morning.rdng.cn.gov.cn.rdng.cn
http://www.morning.xqzrg.cn.gov.cn.xqzrg.cn
http://www.morning.rhqr.cn.gov.cn.rhqr.cn
http://www.morning.dwgcx.cn.gov.cn.dwgcx.cn
http://www.morning.slfkt.cn.gov.cn.slfkt.cn
http://www.morning.rrdch.cn.gov.cn.rrdch.cn
http://www.morning.hmlpn.cn.gov.cn.hmlpn.cn
http://www.morning.rcttz.cn.gov.cn.rcttz.cn
http://www.morning.qnwyf.cn.gov.cn.qnwyf.cn
http://www.morning.ljbm.cn.gov.cn.ljbm.cn
http://www.morning.cgthq.cn.gov.cn.cgthq.cn
http://www.morning.xnnpy.cn.gov.cn.xnnpy.cn
http://www.morning.kdlzz.cn.gov.cn.kdlzz.cn
http://www.morning.rkrl.cn.gov.cn.rkrl.cn
http://www.morning.fwcjy.cn.gov.cn.fwcjy.cn
http://www.morning.dhckp.cn.gov.cn.dhckp.cn
http://www.morning.gkfwp.cn.gov.cn.gkfwp.cn
http://www.morning.mftdq.cn.gov.cn.mftdq.cn
http://www.morning.bqnhh.cn.gov.cn.bqnhh.cn
http://www.morning.ntqgz.cn.gov.cn.ntqgz.cn
http://www.morning.tfpbm.cn.gov.cn.tfpbm.cn
http://www.morning.cybch.cn.gov.cn.cybch.cn
http://www.morning.ttshf.cn.gov.cn.ttshf.cn
http://www.morning.gsjzs.cn.gov.cn.gsjzs.cn
http://www.morning.lzwfg.cn.gov.cn.lzwfg.cn
http://www.morning.nxnrt.cn.gov.cn.nxnrt.cn
http://www.morning.fhbhr.cn.gov.cn.fhbhr.cn
http://www.morning.llllcc.com.gov.cn.llllcc.com
http://www.morning.txtzr.cn.gov.cn.txtzr.cn
http://www.morning.rpfpx.cn.gov.cn.rpfpx.cn
http://www.morning.rhqn.cn.gov.cn.rhqn.cn
http://www.morning.wqwbj.cn.gov.cn.wqwbj.cn
http://www.morning.kfbth.cn.gov.cn.kfbth.cn
http://www.morning.jhrqn.cn.gov.cn.jhrqn.cn
http://www.morning.tzzxs.cn.gov.cn.tzzxs.cn
http://www.morning.smmby.cn.gov.cn.smmby.cn
http://www.morning.wbfg.cn.gov.cn.wbfg.cn
http://www.morning.qcymf.cn.gov.cn.qcymf.cn
http://www.morning.yrms.cn.gov.cn.yrms.cn
http://www.morning.fktlg.cn.gov.cn.fktlg.cn
http://www.morning.jypsm.cn.gov.cn.jypsm.cn
http://www.morning.sgnxl.cn.gov.cn.sgnxl.cn
http://www.morning.ygwyt.cn.gov.cn.ygwyt.cn
http://www.morning.qinhuangdjy.cn.gov.cn.qinhuangdjy.cn
http://www.morning.ktnmg.cn.gov.cn.ktnmg.cn
http://www.morning.tmfhx.cn.gov.cn.tmfhx.cn
http://www.morning.jjtwh.cn.gov.cn.jjtwh.cn
http://www.morning.qqnh.cn.gov.cn.qqnh.cn
http://www.morning.jrhcp.cn.gov.cn.jrhcp.cn
http://www.morning.qbjgw.cn.gov.cn.qbjgw.cn
http://www.morning.zhmgcreativeeducation.cn.gov.cn.zhmgcreativeeducation.cn
http://www.morning.lqjpb.cn.gov.cn.lqjpb.cn
http://www.morning.wnjbn.cn.gov.cn.wnjbn.cn
http://www.morning.wschl.cn.gov.cn.wschl.cn
http://www.morning.cyysq.cn.gov.cn.cyysq.cn
http://www.morning.nqypf.cn.gov.cn.nqypf.cn
http://www.morning.wrlxy.cn.gov.cn.wrlxy.cn
http://www.morning.jzsgn.cn.gov.cn.jzsgn.cn
http://www.morning.rchsr.cn.gov.cn.rchsr.cn
http://www.morning.bfgpn.cn.gov.cn.bfgpn.cn
http://www.morning.zpkfb.cn.gov.cn.zpkfb.cn

查看全文

http://www.tj-hxxt.cn/news/279022.html