A Microsoft aprimora os serviços de IA do Translator e do Azure com novos modelos de 'código Z' de IA
Os novos modelos de código Z da Microsoft, que usam uma abordagem de 'Mistura de Especialistas', destinam-se a fazer com que o Translator e outros serviços de IA da Microsoft tenham um melhor desempenho e sejam mais eficientes de executar.
A Microsoft está atualizando seu Translator e outros serviços de IA do Azure com um conjunto de modelos de IA chamados Z-code, anunciaram autoridades em 22 de março. Essas atualizações melhorarão a qualidade das traduções automáticas, além de ajudar esses serviços a oferecer suporte a mais do que apenas os idiomas mais comuns que têm menos dados de treinamento disponíveis.
Os novos modelos de código Z usam uma abordagem esparsa de "Mistura de Especialistas", que os executivos da Microsoft descreveram como sendo mais eficiente de executar porque só precisa envolver uma parte do modelo para concluir uma tarefa. O resultado, de acordo com a Microsoft: escala massiva no número de parâmetros do modelo, mantendo a quantidade de computação constante.
A Microsoft implantou recentemente modelos de código Z para melhorar tarefas comuns de compreensão de linguagem, como reconhecimento de entidade de nome, resumo de texto, classificação de texto personalizado e extração de frases-chave em seus vários serviços de IA do Azure. Mas o desenvolvimento de hoje marca "a primeira vez que uma empresa demonstrou publicamente que pode usar essa nova classe de modelos Mix of Experts para alimentar produtos de tradução automática".
O código Z faz parte do projeto maior de código XYZ da Microsoft, que busca combinar modelos de texto, visão, áudio e vários idiomas para criar sistemas de IA mais poderosos e integrados que podem falar, ouvir, ver e entender melhor. Os modelos de código Z se enquadram nas iniciativas Microsoft AI at Scale e Turing, que buscam desenvolver modelos grandes que são pré-treinados usando grandes quantidades de dados textuais e que podem ser integrados diretamente à Microsoft e aos produtos desenvolvidos pelo cliente.
Autoridades disseram que, para colocar esses modelos em produção, a Microsoft está usando GPUs NVIDIA e seu Triton Inference Server para implantá-los e dimensioná-los com eficiência.
Falando em NVIDIA, a Microsoft anunciou hoje que está trabalhando com a NVIDIA para trazer sua capacidade de computação confidencial para as GPUs NVIDIA.
O diretor de tecnologia e colega técnico do Azure, Mark Russinovich, explicou o significado em uma postagem no blog de 22 de março:
"Com GPUs confidenciais, os dados são criptografados quando são transferidos entre a CPU e a GPU pelo barramento PCIe com chaves que são trocadas com segurança entre o driver de dispositivo da NVIDIA e a GPU. O único lugar onde os dados são descriptografados é em um ambiente isolado e protegido por hardware dentro do pacote de GPU, onde podem ser processados para gerar modelos ou resultados de inferência. Assim como outras soluções de computação confidencial do Azure, as GPUs confidenciais dão suporte ao atestado criptográfico com base em uma identidade de GPU exclusiva provisionada pela NVIDIA durante a fabricação. Usando o atestado remoto, as organizações podem verificar de forma independente se seus dados são processados apenas em GPUs confidenciais genuínas e configuradas corretamente."