Redes neurais com processamento no Snapdragon

A Qualcomm® anunciou o lançamento de uma SDK específica para processamento neural e deep learning, chamado de Snapdragon™ Neural Processing Engine. Confira!
redes neurais snapdragon

A Qualcomm® anunciou o lançamento de uma SDK específica para processamento neural e deep learning, chamado de Snapdragon™ Neural Processing Engine. Ele tem suporte nos processadores Qualcomm® Snapdragon™ 820, 835, 625, 626, 650, 652, 653, 660 e 630. Os processadores Snapdragon™ da série 820 e superiores já possuem suporte em hardware a esse produto, os demais terão suporte nos próximos meses.

De acordo com a Qualcomm, estas são as características desse SDK:

  • Aceleração de execução de redes neurais recorrentes e convolucionais no dispositivo, usando a CPU, GPU e DSP do Snapdragon. Neste caso o Qualcomm® Kryo CPU, o Qualcomm® Adreno GPU e o Qualcomm® Hexagon DSP;
  • Otimização do uso dos recursos do chip buscando otimização de consumo de energia;
  • Suporte para modelos de frameworks conhecidos como Caffe, Caffe2 ou TensorFlow e também ferramentas de software para conversão de modelos.

Funciona da seguinte maneira: O SDK do Neural Processing Engine não apenas define diversas bibliotecas de redes neurais para o uso dos desenvolvedores, ele permite que o desenvolvedor crie e treine sua rede neural usando frameworks conhecidos e então o modelo roda de forma distribuída utilizando o melhor da performance da CPU, GPU e DSP do Snapdragon. O que vai ser executado no processador é um Container de Deep Learning (ou um .dlc), que é arquivo do modelo que foi já projetado e treinado. A ferramenta fornece estatísticas sobre o que não é suportado para aceleração do Container e isso pode ser ajustado da melhor forma pelo desenvolvedor. Veja a figura abaixo que explica como isso acontece.

redes neurais snapdragon - Criação e treinamento da rede neural usando frameworks
Figura 1 – Criação e treinamento da rede neural usando frameworks

Ao permitir que operações matemáticas complexas sejam divididas em harmonia com o hardware, é explorado o desempenho máximo da capacidade de processamento entre CPU, GPU e DSP.

Através do NPE e uma estrutura de software que entende o hardware que está sendo utilizado, a Qualcomm® permite que desenvolvedores possam criar aplicações que sejam capazes de aprender com o usuário e com os dados disponibilizados para ele. Isso permite que programas, com uma “inteligência” muito mais sofisticada, e sem depender da nuvem, serem executados localmente.

Grandes empresas já começaram a fazer uso dessa Engine e o Facebook é a primeira empresa a anunciar que está utilizando a NPE da Qualcomm. O app do Facebook usa o framework Caffe2 para acelerar o processamento demandado nas animações de realidade aumentada na sessão My Stories. O Facebook então já treinou modelos e utiliza muito melhor o Adreno GPU, em conjunto com a CPU e DSP.

“O NPE Snapdragon™ foi criado para fornecer aos desenvolvedores as ferramentas para migrar a inteligência dos dispositivos da nuvem para dispositivos de borda (edge computing) e oferecer a flexibilidade para direcionar o processador Snapdragon™ apropriado com o perfil de desempenho e poder para uma determinada experiência de usuário.”

Gary Brotman, Diretor de Gerenciamento de Produtos, Qualcomm

Agradecemos seus comentários e perguntas sobre o NPE SDK. Confira o Fórum Snapdragon™ NPE para ler as respostas às perguntas mais frequentes, inscreva-se para publicar um novo tópico, acompanhe os tópicos atualizados e responda outros entusiastas de aprendizado de máquinas.

Veja os links a seguir para mais detalhes:

Sou formado em Engenharia Elétrica na USP Sao Carlos, com mestrado em Engenharia Elétrica no Rochester Institute of Technology pelo CsF. Tenho 17 anos de experiência em projetos de circuitos eletrônicos. Escrevo regularmente para o Embarcados, adoro eventos sobre tecnologia, onde posso rever amigos e conhecer pessoas do ramo.

Notificações
Notificar
guest
0 Comentários
Inline Feedbacks
View all comments

WEBINAR

Imagens de Ultrassom: Princípios e Aplicações

DATA: 26/10 ÀS 19:30 H