Alors que les modèles d’IA chinois à poids ouverts gagnent en capacités et en popularité, les débats sur la conduite à tenir à leur égard ont atteint un paroxysme. Certains évoquent la possibilité que l’administration Trump tente de les interdire, tandis que les créateurs de modèles propriétaires comme OpenAI et Anthropic semblent de plus en plus préoccupés.
Mais Lucas Atkins, CTO du laboratoire d’IA open source américain Arcee, soutient que les modèles chinois ne sont pas plus dangereux que tout autre logiciel open source qu’une entreprise pourrait utiliser.
« Fondamentalement, ce n’est pas ainsi que les modèles sont entraînés »
« Beaucoup de gens voient cela comme un logiciel chinois – comme s’il avait été codé avec certaines intentions », a déclaré Atkins. « Ce n’est fondamentalement pas ainsi que ces modèles sont entraînés. Il n’y a vraiment aucun moyen pour Arcee, ou pour Alibaba, de créer un modèle, de le faire exécuter par quelqu’un dans son propre environnement et de garder un quelconque accès à celui-ci. »
Bien que la plupart des modèles à poids ouverts ne soient pas totalement open source, le code source – lorsqu’il est téléchargé depuis des sites comme Hugging Face – est visible et vérifiable. Ce qui n’est pas disponible, en revanche, ce sont les données et les méthodes d’entraînement.
La sécurité par l’inspection
Les grandes organisations soumettent généralement tout modèle à des processus de test de sécurité et d’inspection. Elles effectuent souvent un post-entraînement des modèles pour des usages spécifiques, en examinant des aspects comme les biais, la toxicité, les hallucinations et la sensibilité à certains sujets.
Les modèles pourraient-ils cacher des portes dérobées malveillantes ?
Atkins reconnaît qu’en théorie, un acteur sophistiqué pourrait entraîner un modèle pour qu’il soit excellent dans la plupart des circonstances, mais déclenche un comportement caché dans des conditions spécifiques. Mais il ajoute : « Je ne sais pas comment on ferait cela. » Les chances qu’un modèle contemporain produise de manière fiable des logiciels malveillants sont extrêmement faibles.
La voie à suivre
Arcee tire elle-même des avantages des modèles chinois parce qu’ils sont ouverts. « Nous pouvons apprendre de ce qu’ils ont fait. Nous pouvons construire au-dessus d’eux », a déclaré Atkins. « Nous avons un immense respect pour les personnes qui construisent ces modèles, pour les chercheurs individuels. »
Son point de vue : « Au lieu que la discussion porte sur la manière d’interdire les modèles chinois, elle devrait porter sur la façon de favoriser un bon écosystème ouvert ici aux États-Unis. »
En fin de compte, dit-il, la façon de concurrencer est simple : « Publiez un modèle meilleur. »
