Xiaomi MiLM testado offline para mostrar o futuro dos recursos de IA no dispositivo”

Xiaomi MiLM testado offline – IA no dispositivo

Em um passo significativo em direção ao avanço dos recursos de IA, a Xiaomi revelou seu impressionante modelo de linguagem MiLM-6B. A revelação marca sua primeira aparição no C-Eval e no CMMLU, duas das principais listas de avaliação de modelos de IA, ressaltando o compromisso da Xiaomi com a inovação no espaço de IA.

O MiLM-6B, um modelo de linguagem pré-treinado em grande escala, foi desenvolvido pela Xiaomi com um tamanho de parâmetro impressionante de 6,4 bilhões. Esse feito impressionante abre caminho para interações mais sutis e contextualmente conscientes entre humanos e máquinas. De acordo com as informações compartilhadas na página GitHub do projeto, as proezas do modelo não se limitam ao uso baseado em nuvem.

Hoje, a Xiaomi apresentou os recursos do MiLM por meio de um vídeo de teste de demonstração offline. O vídeo apresentava uma pergunta crucial: “A IA ainda funciona longe dos sinais de rede?” A Xiaomi deu uma resposta enfática ao demonstrar as capacidades offline do modelo.

O vídeo mostrava o Xiaomi MiLM operando no lado móvel, aproveitando a aritmética NPU local e acessando dados locais para gerar texto com velocidade e eficiência notáveis. Essa inovação permite a geração de texto em alta velocidade com consumo mínimo de energia.

Os principais resultados do teste da demonstração off-line incluem:

• Velocidade de geração de texto: 11,2 palavras por segundo
• Uso da CPU: 11,0%
• Uso de memória: 2798,0 MB

Em alguns casos, o modelo grande final até rivaliza com o desempenho de contrapartes baseadas em nuvem, ilustrando o compromisso da Xiaomi em oferecer experiências de usuário excepcionais. A implantação do Xiaomi MiLM em cenários offline oferece o potencial para maior privacidade e segurança de dados, marcando um passo significativo na era da IA.

A ênfase da Xiaomi na privacidade do usuário e na segurança dos dados é fundamental. A empresa reconhece a importância de proteger as informações do usuário e aborda essa preocupação por meio da implementação do modelo big end-side. A conquista da Xiaomi não é apenas um triunfo tecnológico, mas uma solução vital para abordar a segurança de dados na era da IA.

Fonte