A IA poderia torná-lo um bilionário em 2025?
A Intel lançou na terça-feira seus processadores de aprendizado profundo de segunda geração para treinamento e inferência, Habana Gaudi2 e Habana Greco, enquanto compartilhava detalhes sobre suas outras IPUs e GPUs no evento Intel Vision.
A Intel lançou na terça-feira a última geração de seus processadores de aprendizado profundo para treinamento e inferência, Habana Gaudi2 e Habana Greco, tornando a IA mais acessível e valiosa para seus clientes de data center. Em seu evento Intel Vision, a fabricante de chips também compartilhou detalhes sobre seus portfólios de IPU e GPU, todos voltados para clientes corporativos.
"A IA está impulsionando o data center", disse Eitan Medina, COO da Habana Labs, equipe de data center da Intel focada em tecnologias de processador de aprendizado profundo de IA, a repórteres mais cedo. "É a aplicação mais importante e de crescimento mais rápido. Mas diferentes clientes estão usando diferentes misturas para diferentes aplicações."
Os variados casos de uso explicam o investimento da Intel em uma diversidade de chips de data center. Os processadores Habana são projetados para clientes que precisam de computação de aprendizado profundo. O novo processador Gaudi2, por exemplo, pode melhorar a modelagem de visão de aplicações usadas em veículos autônomos, imagens médicas e detecção de defeitos na fabricação. A Intel comprou a Habana Labs, uma fabricante de chips programáveis com sede em Israel, por aproximadamente US$2 bilhões em 2019.
Os chips Gaudi2 e Greco de segunda geração são implementados com tecnologia de 7 nanômetros, uma melhoria em relação aos 16 nanômetros da primeira geração. Eles são fabricados na arquitetura de alta eficiência da Habana.
A Intel disse na terça-feira que o Gaudi2 oferece o dobro da taxa de transferência de treinamento em relação à GPU A100-80GB da Nvidia para o modelo de visão computacional ResNet-50 e o modelo de processamento de linguagem natural BERT.
"Comparado com a GPU A100, implementada no mesmo nó de processo e aproximadamente do mesmo tamanho de matriz, o Gaudi2 oferece um desempenho claro de treinamento de liderança, conforme demonstrado com a comparação de maçãs com maçãs nas principais cargas de trabalho", disse Medina em um comunicado. "Essa arquitetura de aceleração de aprendizado profundo é fundamentalmente mais eficiente e apoiada por um roteiro forte."
Mais sobre o Gaudi2:
- Em comparação com o Gaudi de primeira geração, ele oferece performance de preço até 40% melhor na nuvem AWS com instâncias DL1 do Amazon EC2 e no local com o servidor
de treinamento X12 Gaudi da Supermicro - Introduz um mecanismo de processamento de mídia integrado para mídia compactada e descarregamento do subsistema host
- O Gaudi2 triplica a capacidade de memória no pacote de 32 GB para 96 GB de HBM2E com largura
de banda de 2,45 TB/s - integra 24 placas de rede RoCE RDMA de 100 GbE, no chip, para escalabilidade e redução de escala usando Ethernet padrão
Os processadores Gaudi2 agora estão disponíveis para os clientes da Habana. A Habana fez uma parceria com a Supermicro para trazer o Servidor de Treinamento Gaudi2 da Supermicro ao mercado este ano.
Enquanto isso, o chip de inferência Greco de segunda geração estará disponível para clientes selecionados a partir do segundo semestre deste ano.
Mais sobre o Greco de segunda geração:
- Inclui memória aumentada no cartão, essencialmente obtendo 5x a largura de banda e empurrando a memória no chip de 50 MB para 120 MB
- Adiciona decodificação e processamento de mídia
- Oferece fator de forma menor para eficiência de computação: de FHFL de slot duplo a slot único
"O Gaudi2 pode ajudar os clientes da Intel a treinar cargas de trabalho de aprendizado profundo cada vez maiores e complexas com velocidade e eficiência, e estamos antecipando as eficiências de inferência que o Greco trará", disse a vice-presidente executiva da Intel, Sandra Rivera, em um comunicado.
A Intel também revelou na terça-feira um roteiro estendido para seu portfólio de Unidade de Processamento de Infraestrutura (IPU). A Intel inicialmente construiu IPUs para gigantes da nuvem - hiperescaladores como Google e Facebook - mas está expandindo o acesso agora.
A Intel está enviando duas IPUs no próximo ano: o Mount Evans, o primeiro ASIC IPU da Intel, e o Oak Springs Canyon, o FPGA IPU de segunda geração da Intel que está sendo enviado para o Google e outros provedores de serviços.
Em 2023 e 2024, a Intel planeja lançar suas IPUs de 400 GB de terceira geração - codinome Mount Morgan e Hot Springs Canyon. Até 2025 e 2026, a Intel espera enviar 800 GB de IPUs para clientes e parceiros.
A Intel também compartilhou detalhes sobre sua GPU de data center, codinome Arctic Sound. Projetado para transcodificação de mídia, gráficos visuais e inferência na nuvem, o Arctic Sound-M (ATS-M) é a primeira GPU discreta do setor com um codificador de hardware AV1. Ele oferece desempenho visando 150 trilhões de operações por segundo (TOPS). O ATS-M estará disponível em dois formatos e em mais de 15 projetos de sistemas de parceiros, incluindo Dell, Supermicro, Inspur e H3C. Ele será lançado no terceiro trimestre deste ano.