H100的训练需求,这证明优化训练方式(也可视为成本降低)有助训练需求;另一个更显著的趋势是兴起了在本地端部署LLM的热潮。
2月6日,高通发布2025年第一财季的财报,高通的高管在财报会认为DeepSeek R1的推出是AI产业的一个转折点。AI大模型的预训练将在云端继续,推理将会向端侧迁移。AI将变得更小、更高效、更定制化,基于特定场景的AI大模型和AI应用将出现,AI的渗透率将变得更高。
在本地部署大模型的端侧AI浪潮已开启,在物联网领域,以高通、英特尔、海思、晶晨股份、瑞芯微、乐鑫科技、全志科技等芯片公司纷纷推出了AI SoC、嵌入式AI MCU等芯片,本文就国内、国际最新的端侧AI芯片进行汇总,看看哪些具备爆款潜力。
高通发布骁龙8 Elite和骁龙X平台,加速AI手机和高性价比AI PC落地
在AI技术的推动下,具备生成式AI技术的手机和PC,已经成为移动通信和移动办公新变革浪潮的推动器。在定义AI手机时,有几项核心硬件能力至关重要。对专用处理器,如ASIC、GPU以及其他零部件进行优化,以高效运行端侧AI模型和应用。CES 2025上,在英特尔、高通、AMD的带动下,AI PC市场处理器正在快速演进,整体发展趋势以NPU算力增强、多芯片协同、能效比持续优化和软件生态优化为主要方向,以实现办公智能化和游戏体验升级为目标。
2024年10月22日,在高通骁龙技术峰会上,高通推出了骁龙8至尊版移动平台—骁龙8 Elite,骁龙8 Elite采用自研的Oryon CPU内核,骁龙8至尊版商用机在单线程和多线程基准测试中,实现了高达45%的大幅性能提升,能效提升也高达44%。这款芯片采用台积电3nm工艺,与第三代骁龙8相比,Oryon CPU在Chrome浏览器上的性能提升超过62%,在整个Android生态系统中处于领先地位。
高通公司高管表示,公司已经在装有骁龙芯片的手机和电脑端适配了DeepSeek,高通将在端侧AI应用变化中受益。
高通的2025年第一财季财报显示,其营收为117亿美元,同比增长18%,每股净利润3.41美元,同比增长24%。值得关注的是公司物联网业务收入在去年第四季度增长了36%,达到15.5亿美元。该业务包括用于工业用途的低功耗芯片、供应Meta头显Quest使用的芯片,以及Windows笔记本电脑的骁龙Elite芯片。
在CES2025展会上,英特尔发布了最新AI PC芯片产品,包括适用于“高性能轻薄”笔记本电脑的 Core Ultra 200H 芯片,以及适用于需要强大独立 GPU 的移动游戏玩家的 Core Ultra 200HX 芯片。
酷睿Ultra 200H系列处理器采用了多达8个英特尔Xe 核心的英特尔锐炫™显卡,其配备了为AI加速打造的英特尔矩阵引擎,与上一代H系列处理器相比游戏性能提升了高达22%;在整个平台上,全新处理器的GPU、CPU和NPU能够带来高达99 TOPS的算力。
英特尔指出,第二代 Core Ultra 芯片组采用了“AI 优化架构,其中 CPU、GPU 和 NPU”协同工作,提供快速性能。该公司表示,这款移动处理器采用“新 CPU 架构”、下一代英特尔 Arc 显卡以及“更高容量的 NPU”,以帮助人们提高工作效率。另外,英特尔还在扩展其英特尔酷睿Ultra 200S系列台式机处理器,新增了12款65W和35W的产品。
作为国内领先的半导体设计公司,海思在端侧嵌入式AI持续发力。在2024年的AWE展会上,上海海思展出了“星闪IoT”、“A²MCU”两大生态解决方案。海思“A²MCU”聚焦新一代嵌入式AI控制MCU,它基于RiSC-V第二代指令集,创新性地推出了嵌入式AI,场景化核心算法、极简调度器三大特征,从指令集到编译器进行深度优化,帮助客户在家电场景实现绿色节能和智能化。
海思官网介绍,海思A² MCU目前包含了三款产品:Hi3065H是基于海思自研RISC-V内核的高性能实时控制专用MCU,主频达到200MHz;Hi3061H是海思针对电机控制设计的专用MCU;Hi3061M则是海思针对家电、工业等领域设计的高性价比MCU。
据悉,海思A² MCU在多个行业场景进行部署。比如在家电行业场景,海思新一代嵌入式AI MCU可以实现空调调温阶段节能16%。TCL最新发布的新一代智能空调—小蓝翼C7,搭载海思A² MCU,TCL小蓝翼C7新风空调在eAI加持下,能够实现房间0.3度以内的温度波动,A² MCU成功将嵌入式AI应用于小算力MCU平台,不仅在空调节能领域取得突破,也在洗衣机称重和OCB检测等多个场景中实现良好的效果。
海思以媒体SoC领域为中心,推出了鸿鹄TV系列,从高端的鸿鹄T900到实用的鸿鹄T300,以鸿鹄T900为例,它搭载海思V900X,4T NPU AI计算音画和双Vivid沉浸影音,4K/2K画质能刷到240Hz,整个TV解决方案采用星闪指向交互,为发烧友量身定做。
晶晨股份是国内多媒体SoC芯片设计行业领导者,公司产品覆盖机顶盒芯片、智能电视芯片、AI音视频芯片、Wi-Fi芯片和汽车电子芯片。近日,晶晨股份最新发布2024年业绩预告显示,该公司预计2024年实现净利润8.2亿元,同比增加3.22亿元,增幅为64.65%。晶晨股份透露,当前已有超过15款商用芯片携带公司自研的端侧AI算力单元。
在2024年新研发产品中,晶晨股份6nm芯片S905X5系列利用端侧AI能力,实现本地同声翻译、同声字幕等功能,提升消费者在跨语言环境下的用户体验。这款芯片基于新一代ARMV9架构和自主研发的边缘AI能力,集成四个ARM Cortex-A55内核,提供强大的计算能力,支持高达2GHz的工作频率。
据介绍,6nm芯片商用半年以来实现原有客户导入顺利,并取得多个国际Top级运营商的订单,预计6nm芯片有望在2025年达成千万颗以上的销量。
瑞芯微专注于集成电路设计与研发,目前已发展为领先的物联网(IoT)及人工智能物联网(AIoT)处理器芯片企业。
据悉,瑞芯微能够为下游客户及生态伙伴提供从0.2TOPs到6TOPs的不同算力水平的AIoT芯片,其中RK3588、RK3576带有6TOPs NPU处理单元,能够支持端侧主流的0.5B到3B参数级别的模型部署,可通过大语言模型实现翻译、总结、问答等功能。
以旗舰芯片RK3588为例,该芯片采用ARM架构,采用先进的8nm制程工艺,集成了四核Cortex-A76和四核Cortex-A55(共8核),以及单独的NEON协处理器,支持8K视频编解码,提供了许多功能强大的嵌入式硬件引擎,为高端应用提供了极致的性能。这款芯片在智能座舱、智慧大屏、边缘计算、IPC、虚拟/增强现实、NVR、高端平板上都有落地应用。公告还显示,以RK3588、RK356X,RV11 系列为代表的各 AIoT 算力平台快速增长。
乐鑫科技在近期的机构调研中提到,公司在去年12月联合推广豆包大模型落地。据了解,ESP32-S3是乐鑫科技第一款带端侧AI功能的AIoT芯片,公司表示这是AI应用相关的主力产品线,增速很快。
根据业绩预告,乐鑫科技预计2024年营业收入为19.85亿元-20.15亿元,同比增幅为39%-41%,净利润为3亿元-4亿元,同比增长120%-150%。
全志科技SoC芯片主要为智能终端产品提供多媒体编解码与算力的支持,应用于智能图像、智能语音交互等场景终端产品领域。2024年,在扫地机器人、智能投影等业务为代表的产品出货量显著提升,带动全志科技业绩提升。
全志科技在2023年推出了8核A55中高端智慧AI平台芯片T527,已经在商显、机器人、边缘网关、车载等细分行业大批出货,2024年推出了新一代12nm旗舰平台AI芯片A733和A736,其中A733已在平板市场广泛量产,A736也推向商显和行业智能领域。
据悉,全志科技在智能终端领域紧跟安卓最新生态的升级迭代,推出A523/A527 系列高性能八核架构计算平台,相关产品已稳定量产,并获得了海内外众多终端平板品牌的认可和青睐。
光大证券研报提到,AI新浪潮未来将提升海量IoT设备的边缘算力需求,SOC在AI训练和推理层面都能实现部署与支持。DeepSeek的低成本、高性能、开源模式,有望推动国内AI端侧应用百花齐放,相关AI硬件需求增长将带动SOC芯片需求。
高通、英特尔、海思、瑞芯微、恒玄科技等纷纷推出AI SoC芯片,现在主攻方向上已出现分化,一部分主攻高性能SoC芯片,一些厂商推出低功耗SoC芯片,有望推动AI PC、智能家电、AI眼镜、AI玩具和机器人等端侧AI领域的应用爆发。
女子跟着国家卫健委食谱减肥,顿顿都吃饱,营养均衡,5天瘦8斤!没想到家里做饭的人先顶不住了,每个食材都要称重,做一顿饭起码要一小时。网友:我也想试试这个国家版减肥食谱!
崩了!美国进口订单量下跌64%!最新业内调查:特朗普的关税不会使供应链回流到美国
货运数据公司Vizion最新发布显示:美国进口订单在第一季度激增后出现了崩溃的迹象。货运数据公司Vizion对比2025年3月24日~31日与随后一周的数据,全部的预订标准箱数量环比大幅下跌49%,美国整体进口数量环比大幅下跌64%。
午睡超过这个时间,死亡风险增加30%!PG电子平台 PG电子网站(极目新闻、央视新闻) #打工人 #健康 #健康科普 #科普 #睡眠
来自奥运三金王的底气!全红婵世界杯因失误摘银被质疑,分享18张照片回怼“那咋了这就破防了”#全红婵
223斤小伙吃素减肥,三个月却暴增 2.9 公斤!医生:不要再这样做了
一说起减肥,不少热心人就会说少吃肉、少吃饭。浙江 27 岁程序员小林就这样做了,结果体重不仅未下降,体脂率反而大幅上升。这是怎么回事?浙江 27 岁程序员小林身高 1.75 米,体重却达到 223 斤。为了减肥,小林告别了每天必喝的奶茶、炸鸡和烧烤。
增长940%,突然爆火!苹果商店排名飙升至第二,特朗普关税下,美国人正大量这款中国App:堪称“省钱利器”
随着大量中国厂商的宣传视频在TikTok上骤然爆火,一家原本在普通美国人那可能并不算特别出名的中国跨境B2B电商平台DHgate,也在短短数天内悄然被推上了美区App商店最火热的位置。
据宁河融媒消息,2025天津·宁河七里海半程马拉松赛即将举办,宁河区交通局发布公交线路停运通知,具体如下——关于公交线天津·宁河七里海半程马拉松赛即将开展,为保障居民有序出行,最大限度降低对群众出行的影响,区交通局会同滨海公交公司计划在4月20日上午对途经
极目新闻记者 唐佳燕 詹钘4月15日,江西省景德镇市中级人民法院一审公开开庭审理了被告人廖某宇以危险方法危害公共安全一案。极目新闻记者从参加庭审的知情人处了解到,被告人廖某宇当庭鞠躬致歉,但被害人家属不接受其道歉。
体制内有高人,此次反制刁钻蛮横的特朗普,干的最漂亮的,一个就是加征关税到125%后,我们明确,即便特朗普再搞数字游戏的笑话,就是不跟;
读万卷书不如行万里路, 行万里路不如阅人无数, 阅人无数不如名师指路, 名师指路不如跟随成功者的脚步!