Microsoft lança prévia do suporte da Unidade de Processador Neural Intel (NPU) para sua API DirectML

A Intel lançou pela primeira vez seus chips Core Ultra baseados em “Meteor Lake” em dezembro de 2023 . Eles incluíram chips NPU (unidade de processador neural) integrados para ajudar a acelerar o desempenho de aplicativos de IA por hardware. Hoje, a Microsoft anunciou que lançou uma versão prévia para desenvolvedores de sua API DirectML que adiciona suporte para NPUs e, especificamente, aqueles em CPUs Intel Core Ultra.

Em uma postagem no blog , a Microsoft disse que a versão prévia do DirectML 1.13.1 e do ONNX Runtime 1.17 suportaria aceleração NPU em PCs com CPUs Intel Core Ultra. A empresa trabalhou não apenas com a Intel, mas também com a Samsung para ajudar a aumentar o desempenho de aplicativos de IA que usam DirectML.

Em uma postagem separada no blog sobre esse desenvolvimento, a Intel diz que a Samsung usou o DirectML da Microsoft e sua tecnologia Intel AI Boost em seu notebook Samsung Galaxy Book 4 lançado recentemente com chips Intel Core Ultra. A Intel disse que a Samsung transferiu os recursos de classificação de rostos e objetos de seu aplicativo Gallery Windows para a CPU Intel Core Ultra com seu NPU, usando a API DirectML da Microsoft. A Intel afirma que isso resultou em um tempo de desenvolvimento mais rápido para o projeto.

Uma vez que esta é uma versão prévia. A Microsoft observa algumas limitações desta versão do DirectML em PCs baseados em Intel Core Ultra:

• Atualmente, o suporte a NPU no DirectML só é compatível com um subconjunto de modelos de aprendizado de máquina que foram direcionados para suporte. Alguns modelos podem não funcionar ou podem ter alta latência ou baixa precisão. Estamos trabalhando para melhorar a compatibilidade e o desempenho de mais modelos no futuro.
• Os modelos que são funcionais e não foram selecionados para esta visualização do desenvolvedor podem ter alguns problemas de estabilidade e confiabilidade. Continuamos a expandir a cobertura para modelos adicionais adequados para NPU.