ActuPouvons-nous encore marquer les machines ?
À l'heure où l'Union européenne oblige, depuis le 2 août, les fournisseurs d'intelligence artificielle à rendre leurs contenus identifiables comme tels, et où Anthropic vient d'annoncer l'intégration d'un filigrane invisible dans les textes produits par son modèle Claude, la question du marquage des productions de l'IA revient au premier plan. C'est Scott Aaronson, théoricien de l'informatique et spécialiste de la complexité algorithmique et du calcul quantique, aujourd'hui professeur à l'Université du Texas à Austin, qui est à…
Lire la synthèse →À l'heure où l'Union européenne oblige, depuis le 2 août, les fournisseurs d'intelligence artificielle à rendre leurs contenus identifiables comme tels, et où Anthropic vient d'annoncer l'intégration d'un filigrane invisible dans les textes produits par son modèle Claude, la question du marquage des productions de l'IA revient au premier plan. C'est Scott Aaronson, théoricien de l'informatique et spécialiste de la complexité algorithmique et du calcul quantique, aujourd'hui professeur à l'Université du Texas à Austin, qui est à l'origine de cette idée appliquée aux grands modèles de langage. Il retrace la genèse de cette invention dans un long entretien.
Aaronson rejoint OpenAI à l'été 2022, recruté par Ilya Sutskever et Jan Leike pour réfléchir aux apports de l'informatique théorique à la sécurité de l'IA — une mission qui l'amène à imaginer ce que l'on appelle le « watermarking » textuel. Le principe repose sur une modification infime du mécanisme de génération de mots : en introduisant un signal statistique dans la fonction pseudo-aléatoire cryptographique qui préside au choix des termes, il devient possible non seulement de détecter qu'un texte a été produit par une machine, mais aussi d'identifier quel modèle en est l'auteur, sans que la qualité des réponses en soit altérée.
Cette technique soulève néanmoins plusieurs questions non résolues. Sa robustesse face aux outils conçus pour l'effacer reste incertaine. Certains s'interrogent également sur ses usages réels : le filigrane servirait-il avant tout aux laboratoires eux-mêmes, pour distinguer les textes d'origine humaine des productions algorithmiques lors de l'entraînement de nouveaux modèles, par crainte qu'un entraînement sur des données générées par l'IA n'entraîne une dégradation progressive de la qualité ? Des implications en matière de propriété intellectuelle se posent aussi à l'horizon.
Aaronson évoque par ailleurs le contexte dans lequel cette réflexion a émergé : une campagne de harcèlement subie sur son blog à l'été 2022, où des individus usurpaient l'identité de ses collègues, l'a conduit à développer une vigilance aiguë sur l'authenticité des messages en ligne. Il partage enfin ses inquiétudes sur ce qu'il perçoit comme la fin de la recherche mathématique « dans la forme que nous lui connaissions », à mesure que l'IA s'y impose comme acteur à part entière.