高通在 Android 手机上运行稳定扩散
围绕 AI 的许多兴奋点已经转移到聊天机器人上,但使用 Stable Diffusion 等工具生成图像仍然很受欢迎。 Stable Diffusion 现已被证明可以在 Android 手机上运行,无需外部服务器。
高通公司展示了一些由 Stable Diffusion 在 Android 手机上本地生成的图像。虽然你可以查找图像生成工具,输入提示,然后在云端生成,但这些都是完全在本地生成的,使用的是高通的 AI Stack,当然还有你智能手机中的硬件。
它很容易忘记,因为我们并没有真正注意到它的用途,但如今许多智能手机都配备了专用的 AI 加速硬件。高通表示,它正在使用 Snapdragon 8 Gen 2 SoC 附带的 AI Engine 来实现这些结果。只需输入一个提示,Stable Diffusion 就会为您生成一个图像,试图与该提示紧密匹配。
高通在一篇博文中表示,“我们使用高通 AI Engine 直接框架将神经网络映射到一个程序中,该程序可以在我们的目标硬件上高效运行。 […] 这种全栈优化的结果是在 15 秒内在智能手机上运行 Stable Diffusion,进行 20 个推理步骤以生成 512×512 像素的图像——这是智能手机上最快的推理,可与云延迟相媲美。”
您还不能在本地的 Android 手机上使用 Stable Diffusion——这只是一个技术演示。它最终可能会变成一个公开可用的应用程序,但高通目前还没有做出任何承诺。
来源:高通