La startup française d'IA ZML, soutenue par le lauréat du prix Turing Yann LeCun, a publié un produit gratuit appelé ZML/LLMD, un serveur d'inférence LLM conçu pour accélérer l'inférence sur une variété de puces IA, y compris celles de Nvidia, AMD, Google, Apple et Intel. Le fondateur Steeve Morin a déclaré à TechCrunch que l'objectif est de briser le verrouillage des fournisseurs en permettant à différentes puces d'exécuter des modèles de langage open source à vitesse maximale. Cela pourrait être un perturbateur du marché alors que les coûts de l'IA augmentent, offrant aux entreprises et aux clouds la possibilité d'utiliser un mélange de puces potentiellement moins chères ou plus économes en énergie.
Publicite