En une phrase
Le groupe chinois Mate One a dévoilé LongCat 2.0, un modèle open source de 1600 milliards de paramètres, entièrement pré-entraîné sur des accélérateurs IA chinois, prouvant la capacité de la Chine à développer une alternative compétitive à l'écosystème NVIDIA.
Points clés
- LongCat 2.0 et l'indépendance technologique chinoise : Le groupe chinois Mate One, initialement spécialisé dans la livraison, a publié LongCat 2.0, un modèle open source de 1600 milliards de paramètres, intégralement pré-entraîné sur une infrastructure composée d'accélérateurs IA chinois, sans utiliser un seul GPU Nvidia.
- Contourner les défis de CUDA : La Chine doit faire face à l'énorme avantage de l'écosystème logiciel CUDA de Nvidia. Mate One a démontré la faisabilité de cet entraînement colossal en utilisant plus de 50 000 accélérateurs IA domestiques et 35 000 milliards de tokens, gérant les problèmes complexes de calcul distribué à grande échelle.
- Innovations architecturales adaptées : Le modèle LongCat 2.0 utilise une architecture Mixture of Experts (MOE) pour activer seulement environ 48 milliards de paramètres en moyenne par token. Il intègre également LongCat Sparse Attention pour gérer jusqu'à 1 million de tokens de contexte, en adaptant ces mécanismes aux contraintes du hardware local.
- Performances compétitives et nature open source : LongCat 2.0 affiche des résultats prometteurs, atteignant 59,5 % sur SWE Bench Pro et 77,3 % sur SWE bench multilingual, le positionnant comme un modèle véritablement compétitif. Il est publié en open source sous licence MIT.
- Accélération de l'écosystème IA chinois : Cette réalisation suggère que les restrictions américaines, en limitant l'accès aux technologies avancées, ont paradoxalement encouragé les entreprises chinoises comme Mate One à investir massivement dans le développement de leur propre hardware, logiciels et architectures, accélérant la construction d'un écosystème IA local et plus indépendant.
Ressources
- LongCat 2.0 — modèle d'IA open source développé par Mate One
- Mate One — groupe chinois spécialisé notamment dans la livraison de nourriture et les services locaux
- Nvidia — fabricant de GPU
- CUDA — écosystème logiciel de Nvidia
- Mixture of Experts (MOE) — architecture de modèle d'IA
- LongCat Sparse Attention — mécanisme d'attention du modèle LongCat 2.0
- SWE Bench Pro — benchmark d'évaluation
- SWE bench multilingual — benchmark d'évaluation
- MIT — licence open source