Nous sommes aujourd'hui dans une ère de révolution technologique où les choses évoluent rapidement. Le domaine de la technologie a connu de très grandes révolutions, et l'IA est aujourd'hui au cœur de beaucoup de choses, et même de beaucoup de problématiques.
Mais ce qui m'intrigue souvent, c'est que, au lieu de s'en servir pour mieux faire, mieux apprendre, mieux construire, on entend souvent cette phrase :
« L'usage des outils d'IA n'est pas une bonne chose. Les intelligences artificielles font des erreurs, il faut s'en méfier. »
Moi, je me demande : pourquoi ? Pourquoi ne pas avancer avec la réalité au lieu de ne faire que mettre en avant ce que ces outils, aussi intelligents et aussi intelligemment conçus soient-ils, ne savent pas faire ?
Pourquoi ne pas plutôt se demander : comment apprendre à les utiliser à bon escient ? Comment les améliorer ? Comment en tirer profit pour construire un monde meilleur ? Quelles sont les règles éthiques qu'il faut établir autour de leur utilisation ? Ce sont, selon moi, des questions fondamentales.
Parce qu'après tout, quand on fait des recherches sur le fonctionnement de ces outils, on se rend compte qu'ils nous sont souvent présentés d'une manière très bien décorée, qui peut donner l'impression d'un outil possédant une intelligence propre. Mais lorsqu'on fait des recherches plus approfondies sur la manière dont ils sont conçus, tout change : des quantités énormes de données traitées, des modèles mathématiques entraînés et optimisés, des systèmes extrêmement complexes derrière ce que nous voyons. Nous ne voyons finalement que la partie visible de ces outils.
Et, dans ce contexte, ce serait presque plus intrigant qu'une IA ne fasse jamais d'erreur. Mais de quelle erreur parle-t-on exactement ? Prenons un exemple simple : on pose une question à ChatGPT et sa réponse contient des erreurs. Oui, cela peut être trompeur. Mais est-ce qu'on se demande réellement pourquoi cette erreur s'est produite ?
Je ne vais pas jouer les savants, puisque je n'ai évidemment pas toutes les réponses. Je vais plutôt faire ce que je ferais naturellement : chercher à comprendre. Je me suis donc posé deux questions très simples : qu'est-ce qu'une intelligence artificielle, et pourquoi les intelligences artificielles font-elles des erreurs ? Avant de continuer ma réflexion, j'ai voulu mettre de côté mes propres suppositions et regarder ce que disent différentes sources sur le fonctionnement réel de l'intelligence artificielle - non pas pour faire un cours universitaire, mais simplement pour comprendre ce qui se cache derrière ces outils que nous utilisons aujourd'hui.
Qu'est-ce qu'une intelligence artificielle ?
Selon le National Institute of Standards and Technology (NIST), une intelligence artificielle peut être comprise comme un système capable, pour des objectifs définis par l'humain, de produire des prédictions, des recommandations ou des décisions qui influencent un environnement réel ou virtuel. De son côté, IBM explique l'intelligence artificielle comme une technologie permettant aux ordinateurs et aux machines de simuler certaines capacités associées à l'apprentissage, à la compréhension, à la résolution de problèmes, à la prise de décision ou encore à la créativité humaine.
Dit plus simplement, une IA est donc un système informatique capable d'effectuer certaines tâches que nous associons habituellement à une forme d'intelligence humaine. Elle peut par exemple reconnaître des objets ou des images, comprendre et traiter du langage, traduire une langue, faire des prédictions, prendre certaines décisions, ou générer du texte, des images, du son ou de la vidéo.
Mais il faut déjà faire attention à une chose : le mot « intelligence » peut être trompeur. Une IA n'est pas nécessairement intelligente au sens où un être humain l'est. Elle fonctionne grâce à des systèmes informatiques, des modèles mathématiques, des données et des algorithmes.
Alors, comment une IA apprend-elle ?
C'est ici qu'intervient notamment le machine learning, ou apprentissage automatique. Le NIST le définit comme le développement et l'utilisation de systèmes informatiques capables de s'adapter et d'apprendre à partir de données afin notamment d'améliorer leur précision. IBM explique également que l'on entraîne des modèles à partir de données afin qu'ils puissent ensuite effectuer des prédictions ou prendre certaines décisions, sans que toutes les règles nécessaires à chaque situation aient été écrites explicitement par un programmeur.
Prenons un exemple très simple. Supposons que nous voulions créer un système capable de distinguer des chats et des chiens. On peut lui présenter de nombreuses images accompagnées de leurs réponses, et le système va alors apprendre des régularités présentes dans ces données. Il ne reçoit donc pas nécessairement une règle écrite par un humain disant qu'un chat possède quatre pattes, deux oreilles et des moustaches : il reçoit surtout des exemples, et apprend progressivement à reconnaître certaines relations présentes dans ces exemples.
Le modèle et ses paramètres
Pour effectuer cet apprentissage, les systèmes modernes utilisent notamment des modèles contenant de nombreux paramètres. Ces paramètres sont des valeurs numériques qui sont ajustées pendant l'entraînement afin que le modèle améliore ses prédictions. Dans les réseaux neuronaux modernes, le nombre de paramètres peut être extrêmement important : ils sont constitués de différentes couches de calcul, particulièrement utilisées pour apprendre des relations complexes présentes dans de grandes quantités de données.
On peut donc imaginer, de manière très simplifiée : données → modèle → prédiction. Puis le système compare sa prédiction avec ce qui était attendu. S'il se trompe, les paramètres peuvent être ajustés afin d'améliorer les prédictions suivantes.
Comment l'apprentissage se fait-il ?
Imaginons que le modèle reçoive une image de chat et réponde « chien ». La prédiction est incorrecte. Pendant l'entraînement, le système mesure l'erreur entre sa prédiction et la réponse attendue, et cette erreur est utilisée pour ajuster les paramètres du modèle. On peut donc simplifier le processus ainsi : prédiction → mesure de l'erreur → ajustement du modèle → nouvelle prédiction. Puis le processus est répété encore et encore sur de très nombreuses données. C'est cette répétition qui permet au modèle d'améliorer progressivement ses performances.
Et les réseaux neuronaux dans tout ça ?
Les réseaux neuronaux artificiels sont une famille de modèles particulièrement importante dans l'IA moderne. IBM explique qu'ils sont constitués de couches de nœuds interconnectés et qu'ils sont particulièrement adaptés à l'identification de relations et de modèles complexes dans de grandes quantités de données. Le terme « neuronal » vient de leur inspiration biologique, mais il ne faut pas pour autant imaginer un cerveau humain miniature : derrière ces réseaux, il y a essentiellement des opérations mathématiques effectuées à très grande échelle. C'est l'empilement de nombreuses opérations, combiné à de grandes quantités de données et de puissance de calcul, qui permet d'obtenir des systèmes capables de réaliser des tâches extrêmement complexes.
Et ChatGPT, comment cela fonctionne-t-il ?
C'est ici que nous arrivons aux modèles de langage. Selon la documentation de Google for Developers, un modèle de langage estime la probabilité qu'un token, ou une séquence de tokens, apparaisse dans un contexte donné. Mais qu'est-ce qu'un token ? C'est une unité de texte traitée par le modèle : un mot, une partie d'un mot ou, selon le système, un caractère. OpenAI explique également que ses modèles de langage traitent le texte sous forme de tokens et apprennent les relations statistiques entre ces tokens afin notamment de produire le token suivant.
On peut donc représenter très simplement le processus comme ceci : texte → tokens → traitement par le modèle → prédiction → nouveau token → texte. Prenons une phrase : « Le soleil se lève à l'... » Le modèle va évaluer les possibilités qui pourraient raisonnablement venir ensuite en fonction du contexte. C'est évidemment beaucoup plus complexe que de simplement chercher le prochain mot dans une base de données : les grands modèles de langage apprennent des relations et des structures beaucoup plus riches dans les données sur lesquelles ils sont entraînés.
Alors, pourquoi cela paraît-il aussi intelligent ?
C'est probablement l'une des choses les plus fascinantes. Lorsqu'un modèle a été entraîné sur énormément de données et possède énormément de paramètres, il peut apprendre des relations extrêmement complexes dans le langage. Il peut alors produire des réponses qui paraissent cohérentes, pertinentes et parfois même très proches de ce qu'un humain aurait écrit. Les grands modèles de langage modernes utilisent notamment des architectures comme les Transformers, qui permettent de traiter de grandes quantités de contexte et d'améliorer les prédictions.
Et c'est justement ici que je trouve important de faire une distinction. Une réponse qui paraît intelligente n'implique pas nécessairement que la machine comprend les choses exactement comme un être humain les comprend. Elle produit une sortie à partir de ce qu'elle a appris et des relations statistiques qu'elle a développées dans son modèle.
Une IA n'est donc pas programmée exactement comme un logiciel classique
C'est une distinction particulièrement intéressante pour moi en tant qu'étudiant en informatique. Dans un programme classique, le développeur peut écrire explicitement les règles qui déterminent ce que le programme doit faire. Dans le machine learning, le principe est différent : on fournit des données au système et on entraîne un modèle afin qu'il puisse apprendre des relations permettant ensuite de produire des prédictions ou des décisions. Cela ne signifie évidemment pas que les humains n'interviennent plus : ils choisissent le problème, préparent les données, choisissent les méthodes, entraînent les modèles, évaluent leurs performances et décident de la manière dont le système sera utilisé.
Et comment construit-on une IA ?
Même si la réalité est beaucoup plus complexe, on peut représenter grossièrement le processus ainsi : un problème, des données, leur préparation et leur nettoyage, le choix d'un modèle, son entraînement, son évaluation, son amélioration, puis son déploiement et son utilisation réelle. C'est donc loin d'être une boîte magique dans laquelle on met quelques informations et qui devient soudainement intelligente. Derrière une IA moderne, il y a des données, des mathématiques, des statistiques, des algorithmes, des architectures de modèles, de la puissance informatique et énormément de travail humain.
Alors, pourquoi une IA fait-elle des erreurs ?
Et nous arrivons enfin à la question qui m'intéressait depuis le début. Pourquoi une IA peut-elle produire une mauvaise réponse ? Il n'y a pas une seule raison. Un modèle peut notamment être confronté à des données imparfaites, à un manque de contexte ou à une situation pour laquelle sa prédiction n'est pas correcte. Les grands modèles de langage présentent également un phénomène souvent appelé hallucination, lorsqu'ils produisent une information qui paraît plausible mais qui est en réalité fausse. Google cite d'ailleurs les hallucinations parmi les problèmes associés aux grands modèles de langage.
Et c'est ici que toute cette recherche devient intéressante. Parce qu'au lieu de simplement dire « l'IA fait des erreurs, donc il faut s'en méfier », on peut maintenant poser une meilleure question : « je sais qu'elle peut faire des erreurs, mais maintenant que je comprends un peu mieux pourquoi, comment dois-je l'utiliser correctement ? »
Alors, l'IA fait des erreurs. Et alors ?
Après avoir lu tout cela, je trouve même que nous avons parfois tendance à trop idéaliser les outils d'IA. Nous oublions parfois que derrière ces outils se trouvent des modèles entraînés sur d'énormes quantités de données, qui fonctionnent notamment sur des probabilités. Et surtout, je pense que c'est mieux compris ainsi.
Donc oui, l'IA fait des erreurs. Et alors ? Faut-il s'en priver à cause de cela ? Ou faut-il plutôt apprendre à les utiliser comme elles doivent l'être, en vérifiant certaines informations lorsqu'il y a un doute, en se rappelant qu'il s'agit d'une machine et non d'un « connais-tout », et en cherchant constamment à améliorer ces outils ?
Moi, je pense que c'est cette deuxième voie qui est la plus intéressante. Il faut utiliser les IA comme des outils qui nous aident dans nos tâches, et non comme des outils qui remplacent le cerveau humain derrière. Parce que ce cerveau humain reste celui qui prend les décisions. C'est lui qui tient les rênes du navire.
Les intelligences artificielles ne sont pas des extraterrestres sortis de nulle part. Ce sont des outils pensés et créés par des êtres humains, grâce à l'intelligence humaine, pour nous permettre notamment de faire certaines choses plus vite. Et comme pour tout autre outil, il faut savoir les utiliser. Il faut savoir de quelle manière les utiliser, comprendre leur fonctionnement et comprendre leurs limites.
Pourquoi ? Pour ne pas en devenir prisonnier, mais en rester maître.
Chacun peut évidemment avoir son opinion, et c'est très bien ainsi. Je ne prétends pas détenir toute la vérité dans cet article. Mais il y a une chose que je trouve importante : certaines explications que j'ai présentées ici ne reposent pas simplement sur mon opinion. Elles proviennent de définitions et d'explications que j'ai recherchées et que j'ai voulu comprendre avant de revenir à ma propre réflexion. Et cela compte.
On peut dire que les IA font des erreurs. Mais il faut aussi parfois prendre le temps de se demander pourquoi elles en font. Et lorsqu'on commence à chercher ce qui se cache réellement derrière ces outils, certaines illusions commencent à se dissiper. On comprend alors que derrière cette interface avec laquelle nous discutons se trouvent des données, des mathématiques, des algorithmes, des probabilités, de la puissance de calcul et énormément de travail humain. Et peut-être que c'est justement en comprenant cela que nous pouvons commencer à utiliser l'IA de la bonne manière : ni comme une magie, ni comme une menace absolue, mais comme un outil puissant dont nous devons apprendre à rester maîtres.