Clover-35B : un modèle de langage par diffusion, open source, qui veut battre les modèles classiques en vitesse

Presque tous les assistants de conversation que j'utilise écrivent de la même façon : un mot après l'autre, de gauche à droite. Le 30 octobre, l'équipe de DiffuSpace a publié un modèle qui fait autrement, et je trouve l'idée assez fascinante pour vous en parler.

Écrire par blocs plutôt que mot par mot

Clover-35B-A3B-Preview est un modèle de langage par diffusion. Le principe ressemble à celui des générateurs d'images : on part d'un texte brouillé et on le « débruite » progressivement, plusieurs mots à la fois, au lieu de les aligner un par un. L'équipe derrière Clover n'en est pas à son coup d'essai : elle vient du groupe qui avait sorti Dream 7B à l'université de Hong Kong en 2025.

Le modèle compte 35 milliards de paramètres, dont seulement 3 milliards actifs à chaque étape, grâce à une architecture dite « mixture of experts ». Il propose aussi un mode de réflexion.

Les chiffres annoncés

Selon DiffuSpace, Clover dépasse un modèle classique de taille comparable sur plusieurs tests, notamment en programmation et en utilisation d'outils, avec par exemple 73,6 sur SWE-bench Verified. Côté vitesse, l'équipe parle d'environ 680 jetons par seconde sur une seule carte NVIDIA GB300, et de 515 sur une H200. Ce sont leurs propres mesures : j'attends de voir des tests indépendants avant de crier victoire.

Pourquoi ça m'intéresse

Le modèle est publié sous licence Apache, avec les poids et le code en libre accès, et il fonctionne déjà avec des outils courants comme llama.cpp. Pour quelqu'un comme moi qui aime bricoler en local, c'est une vraie bonne nouvelle. Et si la diffusion tient ses promesses, on pourrait avoir des assistants nettement plus réactifs sans matériel hors de prix. C'est encore une préversion, mais c'est exactement le genre d'approche différente que j'aime suivre. L'annonce complète est sur le blog de DiffuSpace.