A startup francesa de IA ZML, endossada pelo vencedor do Prêmio Turing Yann LeCun, lançou um produto gratuito chamado ZML/LLMD, um servidor de inferência de LLM projetado para acelerar a inferência em uma variedade de chips de IA, incluindo os da Nvidia, AMD, Google, Apple e Intel. O fundador Steeve Morin disse ao TechCrunch que o objetivo é quebrar o bloqueio de fornecedores, permitindo que diferentes chips executem modelos de linguagem de código aberto na velocidade máxima. Isso pode ser um disruptor de mercado à medida que os custos de IA aumentam, oferecendo a empresas e nuvens a opção de usar uma combinação de chips potencialmente mais baratos ou mais eficientes em termos energéticos.
Publicidade