Qualcomm tem difusão estável em execução em um telefone Android

Grande parte do entusiasmo em torno da IA ​​migrou para chatbots, mas a geração de imagens com ferramentas como Stable Diffusion continua popular. Foi demonstrado que o Stable Diffusion funciona em um telefone Android, sem a necessidade de servidores externos.

A Qualcomm exibiu algumas imagens geradas localmente pelo Stable Diffusion em um telefone Android. Embora você tenha conseguido procurar uma ferramenta de geração de imagens, colocar um prompt e gerá-la na nuvem, elas são geradas totalmente localmente, usando o AI Stack da Qualcomm e, claro, o hardware do seu smartphone.

Pode ser fácil esquecer, já que realmente não percebemos seus usos, mas muitos smartphones hoje em dia vêm com hardware dedicado de aceleração de IA. A Qualcomm diz que está usando o AI Engine que vem com o SoC Snapdragon 8 Gen 2 para alcançar esses resultados. Basta digitar um prompt e o Stable Diffusion gerará uma imagem para você tentar corresponder a esse prompt.

A Qualcomm disse em uma postagem no blog: “usamos a estrutura direta do Qualcomm AI Engine para mapear a rede neural em um programa que é executado com eficiência em nosso hardware de destino. […] O resultado dessa otimização full-stack é a execução do Stable Diffusion em um smartphone em menos de 15 segundos para 20 etapas de inferência para gerar uma imagem de 512×512 pixels — esta é a inferência mais rápida em um smartphone e comparável à latência da nuvem.”

Você ainda não pode usar o Stable Diffusion em seu telefone Android localmente – esta é apenas uma demonstração técnica. Poderia eventualmente se transformar em um aplicativo disponível publicamente, mas a Qualcomm ainda não promete nada.

Fonte: Qualcomm