Google complète sa huitième génération de puces d'IA avec une version cloisonnée pour les données sensibles et une puce double pour les très longs contenus
Avec les TPU 8tx et TPU 8i Max, Google vise les autorités publiques et les entreprises fortement réglementées, ainsi que les agents qui doivent traiter d'énormes volumes de texte ou de vidéo.
Google a présenté lundi deux nouvelles variantes de ses propres puces d'IA, les Tensor Processing Units. La famille de huitième génération compte ainsi quatre systèmes, écrit Nasi Lemak Tech: aux côtés des 8t pour l'entraînement et 8i pour le raisonnement rapide arrivent les 8tx et 8i Max.
La TPU 8tx utilise la même puce que la 8t, associée à des processeurs AMD EPYC de cinquième génération. Selon Analytics India Magazine, la sécurité est intégrée au matériel, de sorte que les données et les poids des modèles restent protégés même pendant le calcul. Cela doit permettre à des secteurs fortement réglementés, comme les administrations, d'entraîner et de faire tourner leurs propres modèles sur des données sensibles. Google annonce une latence jusqu'à deux fois plus faible que celle de la 8t, pratiquement sans perte de performance.
La TPU 8i Max réunit deux puces 8i dans un seul boîtier et offre ainsi le double de puissance de calcul, de mémoire rapide et de bande passante mémoire, dans le même espace de baie. Elle est destinée aux agents travaillant avec des contextes d'un million de jetons, comme des bases de code entières ou des heures de vidéo. Google n'a communiqué ni prix ni date de livraison. L'entreprise affirme toutefois que son activité TPU compte près d'une centaine de clients et qu'elle veut aussi installer les puces directement dans les centres de données de ses clients.