Comme l’explique Benoît Raphael sans dernière newsletter : « les modèles de langage (LLM) comme ceux qui alimentent ChatGPT ne comprennent pas les textes comme nous. Ils utilisent des calculs mathématiques pour créer des liens entre les mots, sans saisir leur sens. »  Les spécialistes appellent cela « l’hallucination ». En quelque sorte, les LLMs « rêvent » l’information pour prédire une réponse en fonction de ce dont on les nourrit ; ils ne vont pas la chercher dans une base de données. Depuis le 30 octobre, on sait d’ailleurs qu’aucun modèle n'atteint 50% de réponses correctes à ce jour.  Pour Yann Le Cun, que le magazine Challenges qualifie de « rock star discrète de l’IA », les LLMs seront dépassés dans 5 ans. « Comment faisons-nous pour bâtir un système d’IA qui comprenne le monde réel, qui ait une mémoire persistante, qui peut raisonner et planifier. Ce sont 4 caractéristiques d’un comportement intelligent que les LLMs ne savent basiquement pas faire, ou qui ne peuvent le faire que d’une manière très superficielle et approximative ». 

Exit donc les outils d’IA qui hallucinent. Le défi n’est plus de générer mais de planifier et raisonner. Est-on prêt·es à la fin de la vie privée, à vivre avec des IA qui nous connaissent mieux que nous-mêmes ?

Retrouvez l’article complet « IA : Intox Artificielle » en cliquant ici.