Redes neurais com processamento no Snapdragon

redes neurais snapdragon

A Qualcomm® anunciou o lançamento de uma SDK específica para processamento neural e deep learning, chamado de Snapdragon™ Neural Processing Engine. Ele tem suporte nos processadores Qualcomm® Snapdragon™ 820, 835, 625, 626, 650, 652, 653, 660 e 630. Os processadores Snapdragon™ da série 820 e superiores já possuem suporte em hardware a esse produto, os demais terão suporte nos próximos meses.

 

De acordo com a Qualcomm, estas são as características desse SDK:

  • Aceleração de execução de redes neurais recorrentes e convolucionais no dispositivo, usando a CPU, GPU e DSP do Snapdragon. Neste caso o Qualcomm® Kryo CPU, o Qualcomm® Adreno GPU e o Qualcomm® Hexagon DSP;
  • Otimização do uso dos recursos do chip buscando otimização de consumo de energia;
  • Suporte para modelos de frameworks conhecidos como Caffe, Caffe2 ou TensorFlow e também ferramentas de software para conversão de modelos.

 

Funciona da seguinte maneira: O SDK do Neural Processing Engine não apenas define diversas bibliotecas de redes neurais para o uso dos desenvolvedores, ele permite que o desenvolvedor crie e treine sua rede neural usando frameworks conhecidos e então o modelo roda de forma distribuída utilizando o melhor da performance da CPU, GPU e DSP do Snapdragon. O que vai ser executado no processador é um Container de Deep Learning (ou um .dlc), que é arquivo do modelo que foi já projetado e treinado. A ferramenta fornece estatísticas sobre o que não é suportado para aceleração do Container e isso pode ser ajustado da melhor forma pelo desenvolvedor. Veja a figura abaixo que explica como isso acontece.

 

redes neurais snapdragon - Criação e treinamento da rede neural usando frameworks
Figura 1 - Criação e treinamento da rede neural usando frameworks

 

Ao permitir que operações matemáticas complexas sejam divididas em harmonia com o hardware, é explorado o desempenho máximo da capacidade de processamento entre CPU, GPU e DSP.

 

Através do NPE e uma estrutura de software que entende o hardware que está sendo utilizado, a Qualcomm® permite que desenvolvedores possam criar aplicações que sejam capazes de aprender com o usuário e com os dados disponibilizados para ele. Isso permite que programas, com uma "inteligência" muito mais sofisticada, e sem depender da nuvem, serem executados localmente.

 

Grandes empresas já começaram a fazer uso dessa Engine e o Facebook é a primeira empresa a anunciar que está utilizando a NPE da Qualcomm. O app do Facebook usa o framework Caffe2 para acelerar o processamento demandado nas animações de realidade aumentada na sessão My Stories. O Facebook então já treinou modelos e utiliza muito melhor o Adreno GPU, em conjunto com a CPU e DSP.

 

“O NPE Snapdragon™ foi criado para fornecer aos desenvolvedores as ferramentas para migrar a inteligência dos dispositivos da nuvem para dispositivos de borda (edge computing) e oferecer a flexibilidade para direcionar o processador Snapdragon™ apropriado com o perfil de desempenho e poder para uma determinada experiência de usuário."

Gary Brotman, Diretor de Gerenciamento de Produtos, Qualcomm

 

Agradecemos seus comentários e perguntas sobre o NPE SDK. Confira o Fórum Snapdragon™ NPE para ler as respostas às perguntas mais frequentes, inscreva-se para publicar um novo tópico, acompanhe os tópicos atualizados e responda outros entusiastas de aprendizado de máquinas.

 

Veja os links a seguir para mais detalhes:

NEWSLETTER

Receba os melhores conteúdos sobre sistemas eletrônicos embarcados, dicas, tutoriais e promoções.

Obrigado! Sua inscrição foi um sucesso.

Ops, algo deu errado. Por favor tente novamente.

Licença Creative Commons Esta obra está licenciada com uma Licença Creative Commons Atribuição-CompartilhaIgual 4.0 Internacional.

Deixe um comentário

avatar
 
  Notificações  
Notificar