生成式AI搜索成本比传统高10倍,混合AI是未来是真的吗？

5天突破百万用户，2个月突破1亿用户，频频打破史上增速最快消费级应用，这便是ChatGPT。ChatGPT在去年11月以AI聊天机器人的形式登场，但与过去所有的聊天机器人不同，似乎像个全能战士，可以聊天、写文章、写代码、修改 bug……ChatGPT被视为生成式AI里程碑，并以前所未有的速度和广度，展现出其巨大的发展潜力。

然而随着生成式AI模型参数规模的急剧扩张，对算力提出了巨大的挑战，以及带来的成本问题，无疑会影响生成式AI的普及。研究数据指出，每个生成式AI网络搜索查询的成本比传统搜索高10倍，如果每天进行超过100亿次查询，每年的额外成本可能达数十亿美元。 对此，在9月5日的服贸会上，高通给出的答案是混合AI。在高通发布的《混合AI是AI的未来》白皮书中，混合AI将支持生成式AI开发者和提供商利用边缘终端的计算能力降低成本。不仅如此，混合AI架构或终端侧AI还能够在全球范围带来高性能、个性化、隐私和安全等优势。

目前生成式AI主要采用云端部署运行，而混合AI指终端和云端协同工作，在适当的场景和时间下分配AI计算的工作负载，以提供更好的体验，并高效利用资源，这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下，混合AI架构使AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力能够以最有效的方式重新分布，实现更强大、更便利、更高效、更优化的AI。

高通是全球领先的无线科技创新者，在5G等连接技术，以及AI、影像、图形等技术领域拥有长期积累，已打造出“统一的技术路线图”，将先进的连接、低功耗高性能计算和终端侧AI等技术从手机高效扩展至不同行业中的下一代智能终端，包括汽车、VR头显、物联网设备等。

今年的服贸会上，高通在展位上呈现了全球首个可以完全运行在安卓智能手机上的生成式AI大模型终端侧演示，它能迅速理解用户用自然语言描述的需求，凭借其掌握的超过10亿与图像相关的参数，执行多达20步推理，创作出用户想要的图像。值得注意的是，这些任务全部在手机端完成，全程无需联网、无需访问云端，且用时不超过15秒——这是迄今为止在智能手机上实现的最快的推理速度。

目前，在全世界范围内，搭载了骁龙和高通平台的智能终端数量已达到数十亿台。可以预见，5G连接所具有的高速率、低时延等优势，将会让混合AI架构更好地统筹运用云端、边缘云和终端侧的AI算力，从而让更多消费者和行业用户享受到生成式AI带来的全新体验。

高通公司全球副总裁侯明娟在服贸会成果发布活动上表示，随着生成式AI带来空前的创新和发展机遇，AI正以惊人的发展速度和强大的创新潜能，快速走进人们工作生活的方方面面，其变革千行百业的趋势日益明显。终端侧AI是实现混合式AI架构、扩展生成式AI至全球更广范围的关键，期待日后能够与更多合作伙伴成就全新的、更加丰富的商业模式和创新应用，进而惠及更多的行业和消费者，带来更加便利和愉悦的数字化生活。

举报 0 收藏 0 打赏 0评论 0分享 0

更多>同类资讯

名创优品集团全球化战略持续推进，财务业绩创历史新高

北京时间8月22日，名创优品集团(NYSE:MNSO;HKEX:9896)发布了2023财年第四财季及全年未经审计财务报告。报告显示，名创优品集团在2023财年取得了历史性的业绩突破，营收、毛利润、净利润等多项财务指标均实现了显著增长。截至2023年6月30日的第四财季，名创优品集团营收

09-06

倍思和王一博共演“年轻就要实用而美”的数码新生活方式

8月28日，Baseus倍思与坚持自我无惧挑战、追求极致热爱探索的年轻一代代表——王一博正式携手官宣品牌全球代言人的身份，同时召开以“年轻就要实用而美”为主题的【2023 Baseus倍思全场景数码生活秋季发布会】，借王一博加入倍思大家庭的契机，共同开启和见证倍思的未来

09-06

2023m峰会：淘系三中心增量新格局形成，阿里妈妈百灵、万相台无界版上线！

9月6日,阿里妈妈在2023年m峰会上,首次发布AI商业化战略。通过持续革新的AI技术,以两大智能化新产品为核心引擎,阿里妈妈助力商家实现AI决策、AI投放和AI创造,与商家在店铺、直播、内容三大增量中心场域共赢淘系增量。这也意味着一个AI全面商业化应用的新格局正在形成。淘

09-06

建设智慧园区标杆 云天励飞助力创智云城入选信标委优秀案例

日前,全国信标委智慧城市标准工作组发布《智慧园区优秀案例集》,评审专家经过层层筛选,最终遴选出创新能力突出、典型示范性强、应用成效明显、社会经济效益显著的优秀智慧园区12家,云天励飞参与建设的深圳创智云城智慧园区获评为“优秀智慧园区案例”。全国信标委是信息

09-06

当贝在IFA 2023推出首款搭载Google TV的超薄激光投影仪当贝Atom

美通社消息，当贝投影亮相2023年度柏林国际电子消费品展览会，即IFA2023，当贝Atom在此次展会上与来自全球的观众见面。据了解，当贝Atom是一款搭载Google TV的超薄激光投影仪。除了这一尖端奇迹之外，当贝的全系列产品，从4K家庭影院到轻薄的全高清迷你投影仪，也将在 I

09-06

大厂人才首次净流出，新一线厂崛起，脉脉高聘发布2023泛互联网人才报告

近日，脉脉高聘发布《2023泛互联网行业人才流动报告》(以下简称《报告》)，泛互联网行业人才流动趋势发生变化：大厂招聘规模显著收缩，「新一线」厂商的崛起正在重塑行业人才竞争格局。数据显示，2023年泛互联网行业人才供需比持续走高，从2021年的0.45升至2023年的2.34

09-06

感恩梦想播种者 三星Galaxy S23 Ultra 见证最真挚的师生之情

韩愈在古文《师说》中写道：师者，所以传道授业解惑也。在漫漫的人生旅途中，每个人的心中都有着那么几位占据重要地位的老师。每到教师节相信也会有不少人去探望自己的恩师，送上一份礼物表达心意无可厚非。手机就是不错的选择，这当中三星Galaxy S23 Ultra凭借性能、续

09-06

倒计时最后一天！当贝重磅新品明日十周年发布会正式揭开神秘面纱！！

9月4日-6日，当贝每日公布一张悬疑海报，并在此之前官宣自己将会在9月7日举行一场十周年线下发布会邀请一些志同道合的朋友一起来见证新品的上市。虽然这几张海报都没有透露太多产品的卖点，但是十周年的节点加上新品的重量级，依旧引来了不少业界人员和数码爱好者的关注

09-06

开播两小时道具全部售暨 盛趣游戏探索游戏直播电商化获开门红

近几年,随着直播带货热潮的兴起,游戏直播电商化也成为了游戏厂商丰富营销模式、拓展新用户的探索方向之一。在众多游戏厂商试水游戏直播的浪潮中,盛趣游戏通过不断的尝试和实践,已经逐渐摸索出了一条属于自己的直播带货之路。近日,在旗下经典游戏《传奇世界》喜迎20周年

09-06

Q2毛利率增至14.3%，面板出货大增，机构集体看好TCL科技H２盈利前景

据奥维睿沃(AVC)最新面板报价显示，9月头部面板厂商大幅下修产能、控制库存维持供需相对平衡，预计65、75吋面板价格仍能上涨5美金，55吋及以下小尺寸面板涨幅1-3美金。分析预计，在电视需求未见明朗复苏的情况下，9月面板价格依然维持涨势，进一步印证面板行业控产保价

09-06

买电视“送”特斯拉，三星巨幕售价百万，国产TCL：79999够了

电视能卖到多贵,三星给出的答案是110万!110万对于一台电视来说,毫无疑问就是“天价”。这么昂贵的售价,其中的利润有多高呢?这款110英寸三星The Wall巨幕电视的经销商“电丸科技AK”表示,从他手上售出的第一台三星The Wall电视,将会得到一辆特斯拉Modle 3作为附赠。虽然

09-06

Wi-Fi 6E与TE天线：打造更强大的无线网络

随着物联网技术的不断发展和普及，无线通信技术也得到了越来越广泛的应用。在万物互联的时代中，WiFi技术需要时刻保持迭代领先，越来越多的物联网(IoT)设备需要通过一种或多种无线技术进行连接。而Wi-Fi 6E拥有高速率、低延迟和覆盖范围广等特点，是现阶段被普遍应用的

09-06

当贝投影X5系列延伸？ALPD5.0暗指新品发布预测

当贝投影连续三天发布倒计时海报，预示9月7日的「同心同行」十周年新品发布会，超级色彩、超级纯净、超级舒适，此次发布的新品应该是在光源方面做出较大的突破，从三张海报的内容来看，应该是一款全新的投影光源。此前光峰科技发布ALPD5.0激光显示技术，全新一代ALPD5.0

09-06

工业和信息化部与国际电信联盟高级别研讨会在深圳举行

9月5日，工业和信息化部与国际电信联盟高级别研讨会在广东省深圳市召开。工业和信息化部副部长张云明，国际电信联盟电信发展局主任科斯马斯·扎瓦扎瓦，巴布亚新几内亚信息和通讯技术部部长蒂莫西·马修，毛里求斯技术、通讯和创新部部长迪帕克·巴尔戈宾，深圳市委常委

09-06

智汇云舟亮相2023服贸会，全面展示视频孪生技术与产品

9月2日-6日，为期5天的2023年中国国际服务贸易交易会(以下简称：服贸会)在北京首钢园举办。在电信、计算机和信息服务专题展馆中，智汇云舟有幸作为北京市专精特新和数字孪生企业优秀代表受邀参展，并携视频孪生场景化一体机、视频孪生能力平台、视频孪生行业解决方案三