边缘计算“下一程”：AI规模化应用如何攻坚？
来源：互联网
作者：
发布时间：2024-12-05 10:36:45
数字化浪潮的汹涌推进，催生了前所未有的数据洪流，加速了计算从云到端的发展。在近日举办的英特尔新质生产力技术生态大会上，英特尔市场营销集团副总裁、中国区OEM & ODM销售事业部总经理郭威指出，如今云和端的界限正在变得越来越模糊，两者朝着彼此融合的方向发展。这一趋势的背后，是数据量的爆炸性增长，以及对数据在不同地点处理的考量，而这也构成了推动边缘计算兴起的关键因素。
英特尔市场营销集团副总裁、中国区OEM&ODM销售事业部总经理郭威
越来越多的企业应用开始在边缘运行。根据Gartner的预测1，到2027年，50%的关键企业应用将在边缘运行。研究机构Grand View Research2则预计，全球边缘计算市场规模将在2024年至2030年间以高达36.9%的复合年增长率（CAGR）持续扩张。企业正在边缘计算上持续投入，预计3从2024到2028年，全球边缘计算支出将以双位数的复合年增长率（CAGR）稳健增长。
AI在边缘也展现出强劲的发展势头。尽管目前，AI应用主要集中在云端，但考虑到成本、时效性和安全性等因素，AI向边缘下沉已成为趋势。Gartner预测4，到2026年，50%的全球边缘部署将包含AI。今年以来，生成式AI在各行业的应用不断落地，企业积极利用大模型技术解决商业挑战，并推动了一系列创新成果，大模型商用正进入规模化发展的关键阶段。
边缘AI“痛点”大起底：成本、技术与规模化挑战
尽管边缘AI在数据处理和实时响应方面展现出显著优势，但在其部署过程中仍面临一系列挑战。
首先，将资源从云端转移到边缘通常需要额外的成本投入，包括硬件采购、部署、维护以及能源消耗等。企业需要在价值、质量和成本之间做出权衡，算一笔“经济账”。
其次，技术层面的复杂性是阻碍AI应用的一大难题。“模型幻觉”问题是其中之一，即在边缘环境下，AI模型可能会因数据质量、模型训练不足或硬件限制等原因产生不准确的输出。
此外，边缘应用场景的多样性与碎片化也为边缘AI部署带来了挑战。场景、设备及工作负载的多样性，意味着每个场景都有其独特的需求和限制。如何设计出既灵活又可扩展的标准化方案，以适应不同场景的需求，成为实现边缘AI规模化应用的关键。
三大策略突破瓶颈，助力边缘AI规模化发展
策略一：多样化硬件产品，破解边缘场景碎片化难题。
在边缘计算场景中，面对不同的应用负载和场景需求，通用处理器和通用算力芯片是满足这些多样化场景的最佳方案，这也是英特尔的优势所在。
为实现这一目标，英特尔不断在CPU中集成更多先进功能，通过CPU、GPU和NPU的协同工作，满足各种场景下的复杂需求。
英特尔专为边缘设计的多样硬件产品组合，如英特尔® 酷睿™处理器，为日常的工作负载提供了卓越的性能；英特尔®酷睿™ Ultra处理器则集成了NPU（神经网络处理单元），为多种应用场景提供了更强大的算力支持。此外，英特尔凌动®处理器、英特尔锐炫™ GPU For the Edge、英特尔®至强® 6处理器，以及专为加速深度学习训练和推理而设计的英特尔® Gaudi处理器等，为客户提供了丰富的选择，使客户以较低成本满足多样化负载和碎片化应用成为可能。
策略二：开源开放平台，加速易用、可负担的AI部署。
在软件工具层面，英特尔提供了一系列工具集，如OpenVINO™和oneAPI™，这些工具集为开发者在英特尔平台上优化和部署AI应用提供了强有力的支持。
在AI模型和框架方面，英特尔提供TensorFlow、Hugging Face、PyTorch和DeepSpeed等主流AI模型和框架，确保开发者能够利用最前沿的工具来构建和训练AI模型。
企业AI开放平台（OPEA）是英特尔携手行业领军企业共同打造的开放性AI开发与部署平台。该平台帮助行业客户更便捷地基于英特尔的产品，构建完整的企业级AI应用。
策略三：以场景驱动创新，携手生态破局未来市场。
英特尔携手合作伙伴，深入挖掘行业场景的需求与痛点，在特定场景中探索创新路径，共同预见并应对未来可能出现的新挑战。
针对多元化的应用场景，英特尔与合作伙伴携手打造了定制化的垂直行业AI解决方案，如英特尔®工业边缘控制、基于英特尔®架构的AI POS方案等，满足零售、工业、教育、医疗、能源和交通等不同领域的特定需求。
多元化的生态是英特尔持续深耕行业、推动创新的基石。英特尔也将持续构建和拓展合作伙伴生态系统，与服务提供商、设备制造商等生态伙伴紧密合作，共促技术联创、共享开发权益、共拓市场项目，加速人工智能的开发和落地部署。
2024年是大模型应用的落地之年，AI应用仍在创新的浪潮下持续拓展边界。在云、边、端融合的趋势下，英特尔凭借CPU、GPU与NPU的强强联合筑牢算力底座，以开放平台和生态推动技术创新与产业发展，让更多行业企业能够轻松拥抱AI技术，从而引领生成式AI及大模型应用走向规模化发展的新阶段，推动业界迈向更加智能、高效与可持续的未来。
