La compétition en intelligence artificielle se joue aussi dans les processeurs. Avec Jalapeño, une puce développée avec Broadcom, OpenAI veut accélérer l’inférence : le travail effectué par un modèle pour répondre à une demande. L’objectif est de fournir des réponses plus rapides tout en améliorant l’efficacité énergétique. OpenAI
Dans cette vidéo d’environ 18 minutes, la chaîne AI Revolution en Français présente cette nouvelle architecture, ses performances annoncées et le rôle de l’IA dans sa conception. Elle aborde également les rumeurs entourant certains modèles d’Anthropic, les nouveautés d’Alibaba et les fonctionnalités de mémoire de Claude.
Mais peut-on vraiment dire que cette puce « bat NVIDIA » ? Les résultats publiés par OpenAI montrent des avantages face aux systèmes GB200 et GB300 dans plusieurs configurations d’inférence testées. Ces mesures concernent toutefois des modèles et des conditions précises : elles ne démontrent pas une supériorité dans tous les usages. OpenAI indique d’ailleurs vouloir continuer à utiliser largement les accélérateurs de NVIDIA et d’autres partenaires.
