ActuPouvons-nous encore marquer les machines ?
Scott Aaronson, théoricien de l'informatique spécialisé dans la complexité computationnelle et le calcul quantique, professeur à l'Université du Texas à Austin et lauréat de l'ACM Prize in Computing en 2020, se trouve au coeur d'un débat technique et éthique majeur : comment distinguer, de manière fiable, un texte produit par une intelligence artificielle d'un texte humain ? Cette question a pris une dimension réglementaire nouvelle depuis le 2 août, date à laquelle l'AI Act européen est entré en vigueur, obligeant les fournisseurs…
Lire un résumé →Scott Aaronson, théoricien de l'informatique spécialisé dans la complexité computationnelle et le calcul quantique, professeur à l'Université du Texas à Austin et lauréat de l'ACM Prize in Computing en 2020, se trouve au coeur d'un débat technique et éthique majeur : comment distinguer, de manière fiable, un texte produit par une intelligence artificielle d'un texte humain ? Cette question a pris une dimension réglementaire nouvelle depuis le 2 août, date à laquelle l'AI Act européen est entré en vigueur, obligeant les fournisseurs de modèles d'IA actifs dans l'Union à rendre leurs contenus identifiables comme tels. Dans ce contexte, Anthropic a annoncé l'intégration d'un filigrane numérique invisible dans les textes générés par son assistant Claude.
Cette technique du « watermarking », qu'Aaronson revendique avoir conçue en premier pour les grands modèles de langage, repose sur un principe subtil : introduire un signal statistique dans la fonction pseudo-aléatoire cryptographique qui régit la sélection des mots lors de la génération de texte. Le résultat final est, pour l'utilisateur, indiscernable d'une réponse ordinaire, mais une analyse statistique permet ensuite d'établir non seulement qu'un texte est d'origine artificielle, mais aussi d'identifier le modèle précis qui l'a produit. Aaronson dit avoir eu cette idée peu après son recrutement chez OpenAI, à l'été 2022, par Ilya Sutskever et Jan Leike, responsables alors de la recherche sur l'alignement.
Son passage chez OpenAI l'a confronté à des réalités inattendues. Il décrit une organisation qui se présentait alors comme une petite structure à but non lucratif soucieuse de sécurité, mais dont les orientations allaient rapidement évoluer. Il évoque également une campagne de harcèlement en ligne subie durant cet été 2022, qui l'a conduit à ne plus faire confiance par défaut à l'identité des interlocuteurs numériques.
Au-delà de la dimension technique, le chercheur soulève plusieurs questions sans réponse tranchée : le filigrane résiste-t-il aux tentatives d'effacement ? Ne risque-t-il pas de servir avant tout aux laboratoires eux-mêmes, pour purger leurs données d'entraînement de tout contenu généré par IA, par crainte d'une dégradation en boucle de la qualité des modèles ? Quelles implications cela aura-t-il pour la propriété intellectuelle ? Aaronson partage enfin une inquiétude plus profonde : celle d'assister à la fin de la recherche mathématique « dans la forme que nous lui connaissions », à mesure que les machines deviennent capables de produire des raisonnements formels de plus en plus autonomes.