ZAO 2024中闭村正在线年度查看推荐年度领先办理计划Leading Solutions 30（以下简称LS30），为行=○业用 户供应更好的选拔，助力行业优 质办理计划与 本事计划。
华为昇腾AI推理场景化办理计划能够参预本次评选。现在，人工智能重塑财富发达形式的趋 向 已无○须置疑。为充离开释其潜力，人工△智□能需更深=远地融入经济社会的各 个角落，因地 制宜 地 引颈各行业 迈向 数字化升级。正在这一进程中，华为 昇腾AI推理场景★…化 办理计划仰仗超强算力、高效用、盛开易用等性情，为众□□个行 业供应 ○定■ 制化AI推 ○理效劳，明显晋升生意出力，引颈 AI推理场景化
目前，人工智能正在挪动行使智能★ 经 管、伶俐都市、智能创制等众个 ▽○ 规模阐 ○明▽着紧要效率，成为晋升存在品德、推进财富升级的环节力气。然而，正在少=许环节规△… 模及行业笔直细分场景的行使仍需进一步深化，以饱励新本事、新产物、新业态的出现，这一进程便面对诸众挑衅。
首要困难是数据量亏空，因为坐…■蓐○ 封 锁 性△○和○△修设★ 非音★信 △ 化，导致高质料数据难以获取，数据零落且缺失首要伶俐赋能效劳理念。其次，工业坐蓐○中 AI行使 需高★精度，但云端估量虽能满意需求，却会扩充传输汇○集本钱并 影响坐△蓐出力，于是端侧算力需求增大。结尾，算法模○子迭代困苦 面临新的痛点与需求，昇腾AI推理 场景化办 理计◁划正式宣=告。为了更好地成婚大模子○的推理需求，华为基 于昇腾AI◁根蒂软硬件，向业界供应使能推理行使急速开垦、高效计划的大模子推领略决计划。同时，华为正正在以以编制级架构改进，通过昇腾根蒂软硬件、昇腾云效劳及华为▽云 三大▽=重点○△闭键中央，打制大模子时间 的首选平台△室庐智能化 。 该办理计划通过 动员式并△行解码等系列化推 理△加快本事，告终行使模糊最 高6倍 晋升，让单元模糊的本钱更优。同时，既供应▽昇 腾★原生效 =劳化○才=○○智，也声援对vLLM、TGI等 ◁□三方效劳框 架的急速适配，让生意上线时代更短。除此除外，为众 机推理 供应了完○备的△… 弹性★推理软件栈，正在△满意TCO条件的同 时，声援乖巧弹性扩容。 除了硬核本事外，华为还联袂业界伙伴△和客户连续改进
