Selon une étude du cabinet TrendForce, les fabricants de serveurs ont intégré des accélérateurs dédiés à l’intelligence artificielle, comme les GPU ou les FPGA, pour supporter des charges de travail spécifiques. En 2022, plus de 125 000 serveurs équipés en GPU ont été vendus aux fournisseurs de services cloud, avec Bytedance, la maison-mère de TikTok, qui fait partie des plus gros consommateurs chinois de ces ressources, aux côtés de Microsoft, Google, Meta et AWS.
Le marché des serveurs taillés pour les besoins en intelligence artificielle devrait connaitre une croissance importante au cours des prochaines années, avec un taux de croissance annuel moyen estimé à 10,8 % jusqu’en 2026. La percée des usages liés aux applications d’IA générative, comme les agents conversationnels, pousse également les géants du cloud à se tourner vers des modèles taillés pour leurs besoins IA toujours plus gourmands en capacités de traitement.
Les fournisseurs chinois, tels que Baidu et Bytedance, sont également très friands de serveurs dopés à l’IA, comme les DGX de Nvidia, pour leurs services. L’enquête de TrendForce a révélé que sur le marché des GPU pour serveur utilisés dans l’informatique liée à l’IA, les produits incluent les H100, A100 et A800 de Nvidia et les séries MI250 et MI250X d’AMD.
En termes de répartition par hyperscalers du nombre de serveurs IA en exploitation en 2022, Microsoft arrive en tête (19 %), suivi de Google (17 %), Meta (16 %), AWS (14 %), Bytedance (6 %), Tencent (2,3 %), Baidu (1,5 %) et Alibaba (1,5 %).