Alors que NVIDIA règne sans merci sur le secteur des puces dédiées à l’IA, Microsoft a récemment dévoilé sa première puce spécialisée pour l’intelligence artificielle dans le but de réduire son indépendant au géant vert. Appelée Maia 100 et présentée lors du Hot Chips 2024, cette puce de 820 mm² est conçue pour gérer des tâches d’IA à grande échelle sur les serveurs Azure de Microsoft, marquant ainsi une avancée majeure pour l’entreprise dans le domaine des accélérateurs IA.
La puce Maia 100 est fabriquée par le fondeur TSMC en utilisant la technologie 5 nm (procédé N5) avec la technologie COWOS-S. Elle se compose de 16 clusters, chacun intégrant des tuiles dédiées à différentes fonctions comme le traitement tensoriel, vectoriel et la gestion des données. Cette architecture avancée est complétée par 500 Mo de cache L1 et L2, ainsi que 64 Go de mémoire HBM2E avec une bande passante impressionnante de 1,8 Tbps.
Voici les principales caractéristiques de la puce Microsoft Maia 100:
- Une unité tensorielle à grande vitesse (16xRx16) offre un traitement rapide pour la formation et l’inférence, tout en prenant en charge un large éventail de types de données, y compris ceux de faible précision tels que le format de données MX, introduit pour la première fois par Microsoft via le MX Consortium en 2023.
- Le processeur vectoriel est un moteur superscalaire faiblement couplé construit avec une architecture de jeu d’instructions personnalisée (ISA) pour prendre en charge un large éventail de types de données, notamment FP32 et BF16.
- Un moteur d’accès direct à la mémoire (DMA) prend en charge différents schémas de fragmentation tensorielle.
- Les sémaphores matériels permettent une programmation asynchrone dans le système Maia.
Microsoft a conçu Maia 100 pour offrir des performances optimales tout en optimisant l’efficacité énergétique, avec un TDP prévu de 700 W, ajusté à 500 W dans certaines configurations. La puce supporte des vitesses de transfert élevées grâce à sa connexion Ethernet dédiée pouvant atteindre 4 800 Gbit/s, et elle est également compatible avec l’interface PCIe 5.0 x8.
Bien que les performances pratiques de la Maia 100 par rapport aux solutions existantes, comme celles de NVIDIA, n’aient pas encore été dévoilées, Microsoft mise sur une efficacité accrue et une réduction des coûts. La Maia 100 se concentre sur l’amélioration des charges de travail IA tout en offrant une architecture personnalisée pour ses serveurs et logiciels Azure afin de maximiser la rentabilité des services comme Azure OpenAI.
