商务服务
DeepSeek推出后,移动端AI风向要变
2025-03-18 09:05
 机器之心报道 
作者:泽南、杜伟

DeepSeek R1 正在对整个科技领域产生巨大影响,颠覆人们有关 AI 的认知。在移动端,革新正在快速发生。

2 月 20 日,高通发布了最新 AI 白皮书《AI 变革正在推动终端侧推理创新》,介绍了端侧高质量小语言模型和多模态推理模型的前景。

图片

在 AI 逐步大规模落地的过程中,我们已经逐渐意识到端侧的大模型推理可以为人们带来更高的可靠性,同时也可以提升数据安全性。而随着技术的快速发展,其还有更多的优势正在显现。

高通指出,四大趋势正在推动端侧 AI 变革:


在前沿大模型技术不断取得突破的同时,科技行业也已经开始将精力投入到边缘侧的高效部署当中去。在训练成本下降、快速推理部署以及针对边缘环境的创新推动下,业内已经催生了大量更智能、更小型、更高效的模型。

这些技术进步正在逐渐传导到芯片厂商、开发者和消费者身边,形成新的趋势。

模型向小已成为发展必然

纵观最近几年的大语言模型发展,我们可以清楚地看到一些显著的趋势,包括从拼参数规模到拼应用、从单一模态到多模态、轻量化模型的崛起以及向终端侧部署的倾斜,等等。

尤其是最近 DeepSeek V3、R1 的推出,更体现了 AI 行业的这些发展趋势,由此带来的训练成本下降、快速推理部署和针对边缘环境的创新正在推动高质量小模型的激增。深究其原因,如今向小模型的转变是几个方面综合作用的结果。

一是模型网络架构不断创新,从最开始主流的 Transformer 到后来的混合专家模型(MoE)和状态空间模型(SSM)并存,大模型开发过程中的计算开销和功耗不断降低。因此,越来越多的模型开始采用新架构。

二是知识蒸馏技术的使用,这成为了开发高效「基础和特定任务」小模型的关键。通过将复杂的教师模型的知识迁移到更小的学生模型中,一方面显著减少了模型的参数量和计算量,简化了训练过程,占用的存储空间也更少,适合部署在资源受限的设备上;另一方面,学生模型同样可以获得丰富的知识,并保证模型准确性和泛化能力。

图片
meta Llama 700 亿参数模型和 DeepSeek 对应蒸馏模型的 LiveBench AI 基准测试平均结果对比。来源:LiveBench.ai

三是量化、压缩和剪枝等大模型优化和部署技术持续改进,进一步促进了模型规模向小。这些技术同样可以显著降低模型的计算和存储需求,同时保持较高的性能。

有了以上底层架构和技术层面的创新进步,小模型的能力正在趋近、甚至可以超越体量大得多的前沿大模型。比如在 GPQA 基准测试中,基于通义千问模型和 Llama 模型的 DeepSeek 蒸馏版本取得了与 GPT-4o、Claude 3.5 Sonnet 和 GPT-o1 mini 等类似或更高的表现。

图片
来源:DeepSeek,2025 年 1 月。
    以上就是本篇文章【DeepSeek推出后,移动端AI风向要变】的全部内容了,欢迎阅览 ! 文章地址:http://lanlanwork.gawce.com/news/12799.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 阁恬下移动站 http://lanlanwork.gawce.com/mobile/ , 查看更多   
最新新闻
业内为“医险融合”献策:目前商保对创新药械支付仅占7.7%,10年后的支付潜力可达4400亿元⋯⋯ | 两会金融观察
每经记者:涂颖浩    每经编辑:马子卿当前,创新药械的发展已迎来了关键时刻——一边是患者群体“救命药等不起、用不起”的
非虚构与虚构互为镜像,记录日本近代女作家写作的人生
南都记者获悉,作家、译者默音的文学评论随笔集《笔的重量》和全新中短篇小说集《她的生活》近日由浙江文艺出版社出版。《笔的重
CBA常规赛:上海久事狂轰22记三分球客胜吉林
  中新网长春3月15日电(刘栋李彦国)14日晚在吉林长春举行的2024-2025赛季中国男子篮球职业联赛(CBA)常规赛第40轮,上海久事男
不要踩!不要碰!街头已出现,看到请避开
武汉市蔡甸区人大常委会任免名单(2024年9月29日武汉市蔡甸区第七届人大常委会第二十二次会议通过)任命袁志勇为武汉市蔡甸区人
DeepSeek推出后,移动端AI风向要变
 机器之心报道 作者:泽南、杜伟DeepSeek R1 正在对整个科技领域产生巨大影响,颠覆人们有关 AI 的认知。在移动端,革新正在快
人工智能的风刮到了艺术圈!深圳:以代码为刻刀重塑艺术基因链
提起艺术,你首先想到的是什么?油画、水墨、雕塑、环艺……人工智能时代,艺术也在与时俱进。AI与艺术将碰撞出怎样的火花?3月7
欧盟对美钢铝关税进行反制
参考消息网3月12日报道 据法新社3月12日报道,欧盟宣布从下个月起对价值260亿欧元的美国商品实施反制关税。据报道,欧盟委员会12
除了OTA,汽车还要怎样才能保障信息安全?
汽车安全的核心组件:电子控制单元(ECU)要谈论安全,首先需要谈论电子控制单元(ECU),过去,车辆安全策略常常依赖多个ECU。E
韩庚卢靖姗秀恩爱,昔日“高攀”争议彻底反转
《妻子的浪漫旅行》这节目一播出,网友们的讨论热情就像被点着的鞭炮,噼里啪啦地炸开了锅。大家都在热烈地讨论韩庚和卢靖姗这一
从 VC 卷到内置风扇,手机散热迎来新宠儿
炎炎夏日,手机随时能把人“烫”到,相信不少家友都深有体会。室外高亮度 + 双卡 5G + 游戏,能效再高的芯片可能也经不住这一番