网站搜索

您的下一部 Android 手机可能拥有类似 ChatGPT 的聊天机器人,无需云


高通芯片组为许多 Android 智能手机和平板电脑以及一些 Windows PC 和嵌入式设备提供支持。今天,该公司透露了一些进步,这可能意味着您的下一部 Android 手机将拥有自己的本地类似 ChatGPT 的聊天机器人或类似稳定扩散的图像生成器,而无需外部服务器或付费订阅。

高通今天发布了许多与人工智能相关的公告,包括“高通人工智能中心”,让应用程序开发人员能够访问优化的人工智能模型,以及具有“人工智能驱动的 5G”的新调制解调器。该公司还讨论了在配备高通 Snapdragon 芯片的 Android 手机上运行大型多模式模型 (LLM),这可能允许更多人工智能任务在智能手机上本地运行,而不是使用 ChatGPT、Microsoft Copilot 或 Galaxy AI 等外部服务。这种方法具有隐私和可用性优势:您不需要外部服务器来处理响应(这可能会花费金钱),并且所有数据都保留在您的设备上。

高通在一份新闻稿中表示,它拥有世界上第一款在 Android 智能手机上运行的 LMM,但没有提及所使用的具体硬件(大概是搭载高通最新 Snapdragon 8 Gen 3 芯片的手机)。该公司将演示描述为“一个超过 7 亿个参数的 LMM,可以接受多种类型的数据输入,包括文本和图像,并与人工智能助手生成关于图像的多轮对话——首次在 Android 智能手机上运行”。它是 LLaVA 模型的修改版本。

高通还展示了流行的 AI 图像生成器 Stable Diffusion 的修改版,可在 Android 手机上运行。 Stable Diffusion 在“低阶适应”模式 (LoRA) 下运行,可减少训练数据的大小,同时仍提供良好的质量和性能。此设置在完整的桌面显卡或远程 GPU 服务器上的效果不如稳定扩散,但它仍然令人印象深刻。早在 2023 年,高通就在 Android 手机上测试了 Stable Diffusion 的另一个演示,该演示能够在 15 秒内生成 512x512 的图像。

这些演示更多的是作为高通硬件的技术基准而不是其他任何东西,目前还不清楚这是否会成为一个可以在 Android 手机和平板电脑上运行的完美应用程序。高通可能会在其新的“AI Hub”上分享其工作成果,其他开发人员可以在自己的手机和平板电脑应用程序中使用它。经过更多的工作,我们可以在 Android 手机上拥有一个类似 ChatGPT 的有限助手,而不需要云——有传言称苹果正在为 iPhone 开发这一功能。

来源:高通

相关文章