在AI向实际场景落地时,边缘算力的重要性加速凸显,边缘算力在成本、时延、隐私上具有天然优势,也可以作为桥梁,预处理海量复杂需求,并将其导向大模型。边缘算力作为AI触及万千场景的血管地位加速明晰。之前,边缘侧设备以部署通信能力为主,当下,在以高通为代表的边缘巨头推动下,算力、AI能力等边缘基建正在加速推动,同时三大运营商的算力网络与边缘资源池体系,也为我国算力梯度分布奠定了雏形。
边缘计算的三大特征
展望未来,边缘算力将始于AI带来的需求提升,同时也将赋能应用,连接更多用户,加速AI发展与迭代。
边缘算力的三大优势。边缘算力,通常指部署在设备本地的算力或者离用户距离较近的数据中心中的算力。边缘算力相较于云端算力,拥有低成本、低时延、高隐私三大特性。
(1)低成本:当前主流的边缘算力平台主要采用高通主导下的ARM架构,相比于英伟达的复杂架构,ARM架构在小算力时拥有极低的单位成本,是降低开发与用户成本的必然选择。
(2)低时延:边缘算力一般搭载在本地,无需将数据发送至云端并等待回传的时间,可以满足如自动驾驶,快速对话等对时延要求高的场景。
(3)高隐私:边缘算力依靠设备本身搭载的算力或在用户自有服务器上的算力进行推理,可以实现数据不出用户管辖范围,对隐私的保护更好。
边缘算力的存在形式
当下边缘算力主要有两种存在模式
一种是设备本身搭载的算力
这类算力通常依托边缘处理芯片存在,边缘处理芯片包括了手机终端上的骁龙与苹果M平台,面向IOT设备的如高通8155芯片或者专为AI优化的QCM8550芯片。通常,大单品采用直采芯片+定制PCB的形式进行开发,而中小厂商与细分垂直领域往往采购模组来满足算力需求。
第二种算力存在形式是边缘资源池
通常由离用户较近的核心城市内的数据中心构成,或者由厂区,道路旁的小机柜、算力盒子提供算力。
边缘算力赋能万千应用
在生成式AI爆发前,边缘算力已经逐渐渗透进了部分商用场景,如手机云游戏、无人设备驾驶、自动视频识别等。如今随着MLC-LLM,谷歌模型体系等软件基建加速,特斯拉机器人为具身智能完成物理基建,在终端设备上推理生成式模型,甚至让智能设备同物理世界自主交互的条件已经具备,未来,随着应用加速渗透、预处理模型需求爆发,以及边缘小模型推理,智能设备物理交互需求爆发。
“云—边”一体,共筑AI飞轮模型
“云—边”一体指云计算和边缘计算的有机结合。此前市场担心小模型对算力需求下降,但我们却认为这正是AI应用闭环的必由之路。类似于交通网络,光有干线是不够的,还需要无数省道、乡村小路通往千家万户,汇聚而来的流量才能驱动干线不断升级。边缘侧需求的释放将开启“真AIOT”时代,或许这才能开启5G当初所提万物互联、算网一体的黄金时代。
边缘计算概念股名单
终端硬件
国光电器 年内推出搭载类GPT硬件产品
传音控股 打造具备多语言对话能力的Al向导
创维数字 全球机顶盒龙头,业绩增长稳健
漫步者 布局音箱品类且产品矩阵丰富
SoC芯片
恒玄科技 智能音视频SoC芯片龙头
晶晨股份 S系列芯片被阿里、谷歌等使用
中科蓝讯 AloT音频领域的SoC芯片公司
全志科技 国内无线音频SoC芯片龙头
瑞 芯 微 自研高算力NPU,SoC产品应用广泛
边缘算力
初灵信息 聚焦边缘计算,打造大数据生态
龙宇股份 收购上海磐石,搭建边缘算力运营平台
网宿科技 搭建边缘计算平台ECP
拓维信息 边缘计算产业联盟成员
智能模组
广 和 通 算力模组产品已广泛应用于边缘计算
美格智能 算力产品在各类核心场景大规模应用
移远通信 推出多款AI智能模组、5GAI模组
- 合作微信
- 商务合作联系微信
- 官方公众号
- 我的微信公众号扫一扫
评论