自学内容网 自学内容网

AIGC7: 高通骁龙AIPC开发者沙龙过程记录A

file

图中是一座高耸的宫殿。 就像AI的出现,慢慢初现端倪,头角峥嵘。

背景

一直以来都比较关注AI的发展,有幸再一次参加异常AI的盛会。

从我的角度看。

高通是一家生产芯片的公司,国内的小米,荣耀,Oppo , Vivo 手机大量在使用高通的手机芯片,但是今天的主题确实AIPC , 根据我掌握的信息和日常感知,PC,即台式电脑,台式机的CPU大多以因特尔和AMD为主。

高通这是打算要借助AI发展的风,在PC芯片这个领域进军。

先看看他的节目单。

file

按照我的初步分析。每一个分享主题的目的如下。

file

到的比较早,先签到,贴了一个臂章。

file

然后是进到会议厅,等待主持人开始。我坐在第二排,抱歉拍到了前排的营销大佬。

file

接下来我把记录的东西整理一下,顺带做一下思考和分析,如果各位有不同意见的,可以留言跟我讨论。

1 AI+助力PC变革

先上记录,搞了一个长图,见谅。

先感谢 郑总。

开篇一张图展示了高通的提供了手机和PC的芯片产品,明星产品是 骁龙XElite 和骁龙 XPlus .

这两款芯片主题就是AI能力。

芯片即CPU , 包含了集成的GPU 和用于加速的 NPU , AI的能力主要依赖GPU支持深度学习和科学运算, NPU是为人工智能和神经网络的训练和推理提供加速效果的硬件。

牛逼的芯片总要有卖点,那么 骁龙XElite的卖点是什么?

1.性能优于因特尔的最新版芯片,体现在计算速度,电池续航,标杆应用的启动速度上;

2.跟当前的大模型算力匹配,作为牛逼的硬件支撑AI软件应用;

算力有一个衡量值。

TOPS是计算性能单位,用于衡量如NPU等AI加速器的效率,表示每秒执行的运算次数(浮点或整数),1 TOPS等于1万亿次操作/秒。更高的TOPS值代表更强大的处理能力,能更快处理复杂深度学习任务。

骁龙XElite的算力是 45TOPS , 即一秒可以计算45万亿次;

文生图也有一个衡量值。 Stable Diffusion < 1秒 , 即文生图的速度小于1秒。

Stable Diffusion 是一个用深度学习技术做的图片创作模型,它是扩散模型的一种特别形式。这个模型一步步地把随机的噪点变成图片,能做到产出既精美又复杂的图像。

这些还不够明显。

从运行模型的角度来说。

你的PC机上如果安装了骁龙XLite芯片,那么可以运行 13B 参数的模型, 7B的模型每秒生成30个token .

换句话说,你可以在你的PC机器上 每秒钟回应30个短单词,速度是很快的。 相对于人的速度来说。

芯片上集成了NPU 具备了 始终感知ISP 能力。

始终感知ISP(Always-On Image Signal Processor) 是一种硬件设计,旨在使设备能够在低功耗状态下持续处理图像和视频信号。这种技术通常用于智能手机、监控摄像头和其他需要持续图像处理的设备中。始终感知ISP能够在设备处于待机模式时,保持对环境的监测,并在必要时快速响应。

硬件上是4纳米工艺,比较先进。 能降低PC的功耗,电池更耐用。

图形处理能力比较牛逼,因为芯片中含有GPU ,即图形处理单元。

支持高清的显示器输出,急速 的网络连接,摄像头更清晰,音频也更清晰。

要买可以买这些品牌的笔记本。

戴尔,华硕,宏基,联想,惠普,三星 。 最新的笔记本应该是搭载了这个PC芯片 骁龙XLite 。

对开发者来说,有价值的可能是这张宏观的图了。我手绘一下。

file

在PC上,运行了各行各业的应用,已经有或者会慢慢具备AI能力,那肯定需要底层芯片的算力支持。对整个体系来说,芯片的进步会推动这个进程。

然后非常贴心的给了高通公司的开发工具网站和购买mini设备的网站。

放一个文档链接: https://qualcomm.csdn.net/m/zone/qualcomm2016/wos/docs?docId=20898

mini设备目前是没货的,价格倒是不贵,810美元,后面可能有货。对开发者来说,必须一个本地开发环境。大部分人使用的电脑其实不具备GPU或者NPU硬件,总有一天会需要更换的。

file

2 从工具到助理 AI重新定义PC

首先感谢孙总。 作为开发者,不太擅长打交道,本来应该上去加个微信,关注一下荣耀的art14, 听完了之后,我认为 孙总是全场最懂技术的营销总。

先贴长图,作为详细过程记录。

AI的发展历程就不说了,2022年11月 GPT3.5 问世,开启了AI时代。 到当前最新的GPT4o ,以及国内百家争鸣的AI应用或者大模型,我使用过的比如: 豆包, 通义千文 ,混元大模型 ,星火 , kimi .

通用AI能力,即云端的大模型,有如下的能力:

file

PC是离用户最近的地方,如果本地能跑一些大模型,结合推理平台,可以极大的方便PC的用户,比如可以定制各种AI Agent, 即助理,结合在个人pc上配置的各种提示词或者参数,或者个人的一些资料,可以做出本地特色,深度理解用户的AI助理,art14里面应该是有一个个人pc助理,叫yoyo .

然后是整理了在pc上的AI Agent碰到的一些挑战。

file

对于辅助和助手,这个图很鲜明。

高层级的助手可以不用眼睛,不用脑子,能自主做事情。

感觉这个跟高级员工和实习生的差距。

个人电脑的 AI Agent 后期还需要在 单任务推理,多任务并行推理层面进化, 这个其实是软件层面是进化,决定性的还是推理能力, 其它的只是编排。

AI Agent 是个人PC的未来交互形态吗? 那不就是机器人了吗?只是不是人形的。

给出的AI Agent交互图,感觉还是比较科学的,这个是干活。 单独贴图出来。

file

智能体的背后是API ,即各种插件和外部API,还有就是大模型的能力,大模型有记忆,规划行动能力,从而可以理解用户意图,形成工具和api的指令集。

外部api 可以对接云端的AI服务,从而形成个人pc上的超级智能体。

最后是从荣耀硬件厂商的角度做了分层。

云端AI,即通用AI协作,提供外部API出来;

本地AI 使用本地大模型和AI芯片

在操作系统层面打通各种设备 PC , 手机,穿戴设备,广告设备 使得跨端融合成为可能。

最后搞了一波广告, art14, 我查了京东和荣耀的商城,没有搭载晓龙芯片的PC出售,是在造势应该。

最后是看好PC市场上AIPC的市场份额,实在是一个营销大师。

file

原创不易,关注诚可贵,转发价更高!转载请注明出处,让我们互通有无,共同进步,欢迎沟通交流。


原文地址:https://blog.csdn.net/tian583391571/article/details/142426907

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!