A IA poderia torná-lo um bilionário em 2025?
Uma série de novos recursos de chip, incluindo computação analógica, fornecerá um processador de IA mais eficiente, confiável e seguro para vários mercados, afirma o CEO Venkat Mattel.
A batalha para mudar a indústria de computadores para que as máquinas possam computar melhor as tarefas de inteligência artificial, especialmente o aprendizado profundo, continua a gerar novas e interessantes futuras estrelas em potencial.
Na segunda-feira, a Ceremorphic de San Jose, Califórnia, estreou formalmente os esforços de chips que foram mantidos em modo furtivo por dois anos, discutindo um chip que a empresa afirma que revolucionará a eficiência da computação de IA em termos de consumo de energia.
"É contra-intuitivo hoje, mas maior desempenho é menor consumo de energia, disse Venkat Mattela, fundador e CEO da empresa, em entrevista à ZDNet via Zoom.
Mattela acredita que inúmeras patentes sobre operação de baixo consumo de energia permitirão que o chip de sua empresa produza a mesma precisão em tarefas de assinatura de aprendizado de máquina com muito menos esforço de computação.
"O que estou tentando fazer não é apenas construir um chip semicondutor, mas também a matemática e os algoritmos para reduzir a carga de trabalho", disse ele. "Se uma carga de trabalho leva cem operações, quero reduzi-la para cinquenta operações, e se cinquenta operações custam menos energia do que cem, quero dizer que a minha é um sistema de alto desempenho."
"Tenho muita paciência [...] Eu não faço coisas incrementais", diz o fundador e CEO Venkat Mattela sobre sua abordagem de engenharia e negócios. Ele vendeu sua última empresa, Redpine Signals, para a Silicon Labs em 2020 por US$314 milhões.
A Mattela está entrando em um mercado fortemente disputado, onde startups como Cerebras Systems, Graphcore e SambaNova receberam grandes somas de dinheiro e onde, apesar de todas as suas conquistas, ainda lutam para derrubar o peso pesado da indústria, a Nvidia.
Mattela está inclinado a ter uma visão de longo prazo. Sua última startup, Redpine Signals, foi construída ao longo de um período de quatorze anos, começando em 2006. Essa empresa foi vendida para a fabricante de chips Silicon Labs em março de 2020 por US$314 milhões por sua tecnologia de chip Bluetooth e Wi-Fi de baixa potência. (O chip agora está sendo usado no recém-introduzido Garmin Fenix 7 smartwatch.)
A lição daquele esforço de dezessete anos em Redpine e agora na Ceremorphic é dupla: "Tenho muita paciência", observou ele de si mesmo com uma risada. E "Eu não faço coisas incrementais".
Mattela afirma que, quando assume um problema em uma área de design de chips, é de forma a se antecipar significativamente ao estado da arte. A tecnologia de chip sem fio Redpine que a Silicon Labs comprou, disse ele, enfrentou as ofertas de empresas gigantes, Qualcomm e Broadcom em Bluetooth e Wi-FI.
"Aceitei um grande desafio, fui contra eles, mas apenas com uma métrica, sem fio de energia ultrabaixa, vinte e seis vezes menos energia do que a melhor do setor", disse Mattela.
Agora, Mattela acredita que tem um foco igualmente vencedor em energia, juntamente com três outras qualidades que ele considera únicas no mercado de chips de IA e essenciais para a disciplina: confiabilidade, segurança quântica e capacidade de funcionar em vários mercados.
Para tornar tudo isso possível, Mattela manteve os ativos de microprocessador que haviam sido desenvolvidos na Redpine, para formar a base da Ceremorphic, e reteve dezoito funcionários desse esforço, que ele complementou com a contratação de outras 131 pessoas. A empresa tem escritórios em San Jose, a sede oficial, e um novo prédio de escritórios em Hyderabad, na Índia.
Mattela tem uma lista intrigante de 26 patentes dos EUA com seu nome e uma lista igualmente intrigante de 14 pedidos de patentes dos EUA nos últimos anos.
O que Mattela chama de "Processador de Aprendizagem Hierárquica", ou HLP, consiste em um elemento de computação para aprendizado de máquina rodando a 2 gigahertz; uma unidade de ponto flutuante personalizada na mesma frequência de clock; uma abordagem de agendamento de carga de trabalho multi-threading personalizada; e circuito PCIe gen-6 de 16 vias especialmente projetado para conectar o processador ao processador host de um sistema, como um chip x86.
A última delas, a parte PCIe, quase poderia ser sua própria empresa, afirma Mattela.
"No momento, o que está em produção é o PCIe-4, o dominante, e o PCIe-5 começou no ano passado", explicou a MattelA. "E conosco, o PCIe-6 estará em produção em 2024 - eu possuo essa tecnologia."
"Isso é US $12 milhões se você tivesse que licenciar isso", disse ele sobre o PCIe-6. "Isso por si só é uma coisa significativa para projetar." O link PCIe permitirá que a Mattela refine ainda mais o consumo de energia de um sistema total, disse ele.
No centro da vantagem do chip estão os circuitos analógicos que ficam abaixo do digital. Algumas empresas usaram circuitos analógicos extensivamente para processamento de IA, sendo a mais conhecida a startup Mythic, que em 2020 revelou um chip que pode multiplicar vetores e matrizes - o coração do aprendizado de máquina - não como multiplicações digitais, mas como combinações de formas de onda de energia contínua de acordo com a Lei de Ohm, o que a empresa chama de computação analógica.
O chip Ceremorphic HLP usará a computação analógica de forma mais seletiva do que o Mythic, disse Mattela à ZDNet.
"No nível mais baixo da hierarquia" da funcionalidade do chip, "eu faço computação analógica", explicou Mattela. "Mas em nível superior, não faço analógico porque quero facilitar o modelo de programação."
Isso significa "vinte e três padrões" para multiplicar-acumular em analógico através da microarquitetura do HLP. As multiplicações analógicas serão um uso mais eficiente da tensão do que as digitais, argumentou ele.
"Em um nível mais alto, parece uma combinação de processamento vetorial e processamento de caminho de dados."
Os vários recursos do chip contribuirão para tornar possíveis as quatro qualidades que a Mattela promove.
Além da operação com eficiência energética, há confiabilidade. O silício AI tem um problema de confiabilidade hoje, afirmou Mattela.
Os chips de aprendizado de máquina ficaram muito maiores do que os microprocessadores convencionais. A GPU "A100" da Nvidia já é bastante robusta, para os padrões clássicos, 826 milímetros quadrados. Mas os novos chips de startups podem ser muito maiores, como o chip WSE-2 da Cerebras, medindo 45.225 milímetros quadrados, quase toda a superfície de um wafer de silício de oito polegadas.
"Quando você tem mais silício, há uma possibilidade maior de falha porque há partículas alfa, bombardeio de nêutrons", observou Mattela. "Nos últimos dois anos, as pessoas já estão dizendo, meus sistemas estão falhando no data center."
Mattela afirma que uma combinação única de hardware e software permitirá que seu chip "preveja falhas e as corrija".
"A engenharia de computação de desempenho confiável é nossa principal contribuição", disse ele.
A terceira qualidade que Mattela está enfatizando é a segurança, incluindo proteção contra futuros sistemas quânticos que poderiam quebrar a segurança de dados convencional.
"Até agora, os sistemas de segurança foram projetados para combater hackers por humanos", explica Mattela. "Mas daqui para frente, você não pode presumir que o poder de computação será limitado e que levará dois dias para quebrá-lo [um sistema], é melhor você assumir talvez dois minutos!"
O chip Ceremorphic tem "geração de números aleatórios resistente à quântica", disse Mattela, que "não pode ser quebrado por um computador de alto desempenho". Em termos práticos, disse Mattela, isso significa que esse sistema levaria talvez um mês para quebrar, dando ao cliente tempo para alterar a chave de segurança para frustrar o ataque.
A quarta propriedade é o que Mattela chama de escala. O que Mattela quer dizer com isso é abordar vários mercados com um chip. O chip será capaz de funcionar em aprendizado profundo, aplicações automotivas, robótica, ciências da vida e algum tipo de aplicação futura do Metaverso.
O mesmo HLP servirá para fazer treinamento e inferência, os dois aspectos do aprendizado de máquina.
A escala para vários mercados, afirmou Mattela, tornará seu chip mais relevante do que os dos concorrentes. Ele argumenta que startups como a Cerebras são impressionantes, mas não tão relevantes.
"É uma engenharia muito boa, sim, e você sempre pode fazer algo que ninguém mais pode fazer, mas seu objetivo não é fazer algo que ninguém faz", disse Mattela.
"Seu objetivo é criar um resultado que todos ganhem dinheiro, e isso tenha impacto, tenha algum valor para o mercado."
Claro, a Cerebras e os outros estão enviando produtos, enquanto a Mattela ainda nem produziu amostras.
Para tornar o design da Ceremorphic um vencedor, Mattela tem o que parece ser um ás no bolso: o processo de chip de 5 nanômetros da Taiwan Semi, que é uma das "tecnologias avançadas" da gigante da manufatura, um processo de chip ao qual nem todos os clientes têm acesso.
"Quando digo às pessoas que estou fazendo 5 nanômetros, elas dizem: Como você pode obter 5 nanômetros", disse Mattela, com evidente deleite. "Algumas dessas empresas com centenas de milhões em financiamento não estão em 5 nm; eles estão em 7 nm.
Um dos motivos é um relacionamento próximo que Mattela cultivou com a TSM anos atrás, quando estava na gigante de chips analógicos Analog Devices. Mais importante, sua venda da Redpine para a Silicon Labs aumentou sua credibilidade. A TSM, diz ele, teve que acreditar que pode ver seu produto se concretizar, pois só então a TSM é paga integralmente.
"Leva muitos, muitos anos", disse Mattela, referindo-se ao processo de produção. "Eu tenho que gastar US $200 milhões, eu tenho que produzir um chip, o chip tem que funcionar, e então, se funcionar, eles [TSM] serão pagos naquele momento."
A equipe de Mattela projetou o chip como um protótipo inicialmente no que é chamado de shuttle run, um pequeno lote de chips, no processo de 7 nanômetros um pouco menos sofisticado. A empresa expandirá este ano seus lotes de ônibus espaciais para 5 nanômetros.
Embora a Ceremorphic espere fornecer as primeiras amostras de seu chip para clientes no próximo ano, a produção em larga escala em 5 nanômetros provavelmente não ocorrerá até 2024, diz ele. "Estas são datas muito agressivas" para o design em um processo de ponta, como o 5-nano, observou Mattela sobre a linha do tempo.
Um fator de bloqueio é um custo. Ele ressalta que passar da corrida de ônibus espacial para o uso total de um wafer - o que é conhecido como máscara completa - é a diferença entre US $2 milhões e mais de US $10 milhões.
Para isso, a Ceremorphic precisará levantar mais capital. Até agora, a Ceremorphic é autofinanciada, com Mattela e amigos e familiares reunindo US$50 milhões em uma rodada da Série A, uma quantia extremamente pequena de financiamento em relação a startups de chips de IA, como a SambaNova, que receberam bilhões em capital de risco.
O caminho preferido da Mattela para financiamento futuro, disse ele, é por meio de parcerias, embora uma rodada formal de investimentos da Série B também seja uma possibilidade em 2023.
A primeira instanciação do HLP será como uma placa PCI que agrupa o que o chip precisa para funcionar em um sistema de computador. "Os OEMs de sistemas típicos são o alvo", disse ele. Essa rota para o mercado, ele acredita, tornará sua máquina mais amplamente disponível.
"Toda empresa precisa de um supercomputador de treinamento", disse ele. "Quero fornecer o supercomputador de treinamento que pode ser acessível a todas as empresas."
Em contraste com algo gigantesco como o do Facebook
Supercomputador de pesquisa para IA - 6.080 GPUs e 175 petabytes de armazenamento flash - o blade PCI Ceremorphic teria como objetivo tornar a tecnologia mais acessível.
"Se eu puder fornecer um décimo do tamanho de um computador do tamanho de um prédio em uma caixa, esse é o ponto ideal."
Embora sua parte ainda não esteja sendo enviada, Mattela já está prevendo um rápido abalo no mercado de startups de chips de IA. Os desafiantes como a Graphcore levantaram muito dinheiro e geraram muito pouca receita; ele especula, apenas uma fração do que a Nvidia ganha em um quarto de IA.
"Existem quatro a cinco empresas hoje; eles têm cerca de cinco bilhões hoje [em capital levantado], isso é muito dinheiro", disse Mattela. Mas, "a empresa número um, a cada trimestre ganha dois bilhões de dólares", referindo-se à receita do data center da Nvidia.
"Se você não ganha nem 1% da empresa número um e está perdendo dinheiro, isso não é um negócio", disse Mattela.
O abalo virá mais cedo ou mais tarde, profetiza Mattela, por causa do desperdício. "No mercado aquecido de hoje, eles foram e conseguiram dinheiro, bom para eles, mas seja qual for o dinheiro que receberam, não acho que eles realmente descobriram como gastar o dinheiro porque o valor gasto é simplesmente anormal", disse ele.
Os engenheiros juniores estão recebendo grandes somas nas startups de IA, afirma ele. "Se um calouro está recebendo US $200 mil [em salário anual], isso não é sustentável", disse ele, usando o jargão da indústria de tecnologia para a posição mais júnior, "porque o cara será produtivo depois de dois anos, mas, até lá, o dinheiro já acabou".