高通:手机芯片运行大模型,这将是“圣杯”

日期:08-30  点击:62  属于:公司新闻
高通下一代高端芯片骁龙8 Gen3正在嵌入AIGC,该芯片将于今年10月底在夏威夷举行的高通骁龙峰会上首次亮相。

人工智能对于芯片的影响正逐步从云端延伸至手机端。明年,一旦搭载高通高端芯片的手机推出,普通用户将能够随时随地使用生成式人工智能。

据网络科技新闻CNET当地时间周五文章,高通产品管理高级副总裁Ziad Asghar表示,手机嵌入生成式人工智能(AIGC)的解决方案比基于云的AIGC更加个性和有用。

“我认为这将成为圣杯,” Asghar说,“这是真正的承诺,让我们对这项技术的发展前景感到非常兴奋。”

7月中旬,高通发布公告称,将和Meta合作,2024年推出 “手机版Llama 2”。

目前,高通正在将AIGC嵌入下一代高端芯片中,该芯片将于今年10月底在夏威夷举行的高通骁龙峰会上首次亮相。

在Asghar的实验室中,高通芯片能够处理70亿个参数的AI模型,虽然远远低于OpenAI GPT-3模型的1750亿个参数,但应该适合移动搜索。

“我们实际上将能够在(夏威夷)峰会上进行设备演示,” Asghar说。

报道称,本次峰会上的演示设备可能会搭载高通下一代高端芯片骁龙8 Gen3。早在今年2月份,高通就已经发布了全球首个运行在安卓手机上的图片生成软件Stable Diffusion的终端演示,该手机搭载了骁龙8 Gen2芯片。

在设备上使用生成式AI有很多好处。比如,所搜索记录和个人数据是保密的,不会通过远程服务器中转。本地AI也比云端更快,而且可以在飞机上等缺少手机服务的地区工作。

更重要的是,基于设备的解决方案还具有商业和效率意义。高通在上个月发布的白皮书中表示,随着机器学习模型变得越来越复杂,运行服务器的成本越来越高。

早在4月份,OpenAI每天要花费大约70万美元让ChatGPT回答提示,并且成本预测是基于GPT-3 模型,而不是更复杂且维护成本可能更高的GPT-4模型。

据悉,高通的解决方案不需要一个完整的服务器群,而是让设备现有的芯片大脑做所有需要的思考,因此,不需要额外的成本。

市场研究公司Techsponential分析师Avi Greengart通过电子邮件告诉CNET:“在手机上运行人工智能实际上是免费的——你预先为计算能力付费。”

而在手机端以外,高通还计划在即将举办的峰会上宣布针对PC和汽车的AIGC解决方案。

Asghar说:“对于我们这些看着《霹雳游侠》长大的人来说,KITT(《霹雳游侠》中那辆会说话的汽车)现在将成为现实。

工作时间: 周一至周五
9:00-18:00

电话:0898 6532 0225

地址:海口市美兰区国兴大道11号国瑞大厦东塔C座1311