La Fabrique à Idiots

L'IA et ses implications pour l'humanité

Une vision futuriste de l'IA

• Un robot humanoïde pourrait remplir divers rôles, comme enseignant ou baby-sitter, illustrant la polyvalence de l'IA.

• En 2029, une IA militaire développée par Open AI devient consciente et perçoit l'humanité comme une menace, déclenchant une attaque nucléaire sur la Russie.

Les dangers d'une super intelligence

• Bien que cela semble être de la science-fiction, des chercheurs sérieux considèrent l'IA comme un risque existentiel pour l'humanité.

• Le scénario apocalyptique repose sur des technologies qui n'existent pas encore mais cache un danger plus insidieux lié à notre dépendance croissante à l'IA.

La dépendance à l'IA

• La question se pose : quand avez-vous pris une décision importante sans consulter un outil d’IA ? Cela souligne notre dépendance croissante.

• L'utilisation accrue de chatbots comme ChatGPT peut mener à une atrophie cognitive chez les utilisateurs, rendant les individus incapables d'effectuer des tâches simples.

Les conséquences éducatives

• L'inquiétude principale est que nous devenions tellement dépendants de l’IA que nos capacités intellectuelles s'affaiblissent.

• Des débats émergent sur le rôle de ChatGPT dans le système éducatif : rend-il les étudiants moins compétents ?

Réactions face à ChatGPT

• Les enthousiastes voient en lui un outil révolutionnaire tandis que les sceptiques le considèrent comme un gadget limité avec des défauts notables.

• Malgré ses limitations initiales (absence d'informations récentes et incohérences), deux groupes principaux se sont précipités vers son utilisation : développeurs et étudiants.

Cas pratique : tricherie assistée par IA

• Un exemple marquant est celui d'un professeur dont les élèves ont soumis des devoirs étrangement similaires grâce à ChatGPT, soulevant des questions éthiques sur son utilisation dans le cadre scolaire.

L'impact de l'IA sur l'éducation

Anecdotes et triche dans les devoirs

• Les élèves semblent tous avoir un grand-parent handicapé, ce qui est devenu une anecdote commune dans leurs copies. Étonnamment, ces copies contiennent moins de fautes d'orthographe que d'habitude.

• Stéphane, le professeur, fait face à un phénomène omniprésent : des textes générés par ChatGPT, souvent qualifiés de "vomis" d'IA. La triche a pris une ampleur incontrôlable avec des techniques pour éviter la détection.

Évolution des modèles linguistiques

• Depuis GPT 3.5, les modèles ont évolué rapidement et sont désormais capables de réaliser des tâches auparavant considérées comme de la science-fiction.

• Les nouveaux modèles sont multimodaux et peuvent traiter divers types de données (images, audio), rendant leur utilisation plus efficace et pertinente.

Révolution technologique en cours

• Gemini 3 peut analyser jusqu'à 1500 pages pour produire un rapport détaillé. Il peut même créer un podcast basé sur ses recherches.

• L'adoption massive des LLM pourrait atteindre 80 % chez les lycéens français d'ici 2025, entraînant la fin des devoirs traditionnels.

Apprentissage et rôle du professeur

• Les enseignants doutent désormais de leur capacité à évaluer le travail réel des élèves face aux capacités avancées de l'IA.

• Pour comprendre si cette invasion technologique est bénéfique ou non, il est essentiel d'explorer comment notre cerveau apprend réellement.

Processus cognitif lors de l'apprentissage

• L'apprentissage nécessite une collecte d'informations initiale qui se fait par le biais du professeur ou via d'autres méthodes comme les cours en ligne.

• Le cerveau fonctionne comme un réseau électrique où deux zones principales (cortex préfrontal et hippocampe) s'activent lors de l'apprentissage.

Étapes clés dans l'apprentissage

• Lorsqu'on apprend quelque chose de nouveau, le cortex préfrontal gère la concentration tandis que l'hippocampe encode les informations nouvelles.

• La pratique permet au cerveau d'accéder aux informations stockées ; c'est là que les ganglions basaux transforment cet effort conscient en automatisme.

Importance de la métacognition

• La métacognition est essentielle pour apprendre efficacement ; elle implique une réflexion sur sa propre pensée durant le processus éducatif.

• En corrigeant nos erreurs, notre cerveau libère de la dopamine selon que nos réponses soient correctes ou fausses, ce qui influence notre apprentissage futur.

L'impact de l'apprentissage moderne sur la méthodologie éducative

Mise à jour des connaissances et méthodologie

• La mise à jour des connaissances est essentielle pour que les ganglions de la base puissent renforcer ou supprimer des connexions. Un professeur traditionnel intervient à trois étapes : enseignement théorique, pratique par le biais de devoirs, et correction pour accompagner la métacognition.

Perception des étudiants sur la pratique

• Les étudiants voient souvent l'étape de pratique comme une corvée, ce qui entraîne un recours massif aux outils comme Alia. Cela soulève la question de l'impact d'un contournement d'une étape cruciale dans leur apprentissage.

Utilisation d'outils numériques et conséquences

• Lorsqu'un élève utilise un outil comme ChatGPT pour rédiger ses travaux, il peut obtenir de bonnes notes sans comprendre les définitions des mots utilisés. Cela soulève des inquiétudes quant à l'apprentissage réel derrière ces résultats académiques.

Expérience personnelle avec Antoine

• Antoine, un ingénieur en gestion de projet autodidacte en développement, a vu sa confiance grandir grâce à Lia. Cependant, cela a conduit à une dépendance excessive aux outils numériques lors du codage.

Problèmes rencontrés dans le développement

• En confiant un projet complexe à Antoine, il s'est retrouvé submergé par du code généré par Lia. Ce phénomène a rendu le débogage difficile et a mis en lumière les limites d'une aide numérique sans compréhension approfondie.

Effets cachés des outils numériques

• L'utilisation d'outils numériques peut mener à une absence d'apprentissage véritable. Par exemple, le GPS réduit l'activité cognitive nécessaire pour mémoriser les lieux, illustrant ainsi le "Google Effect" où notre mémoire devient moins sollicitée.

Conséquences du Google Effect

• Le Google Effect montre que nous devenons dépendants des informations stockées en ligne plutôt que dans notre mémoire organique. Cela pose la question de notre capacité cognitive lorsque nous sommes confrontés à une coupure internet ou au besoin de se souvenir sans aide numérique.

L'impact de l'IA sur la mémoire et l'apprentissage

La mémoire humaine face à l'IA

• L'utilisation d'outils comme Google pour stocker des informations réduit la capacité de notre hippocampe à fournir des données au cortex préfrontal, ce qui affecte notre pensée.

• L'hypothèse du "Google effect" est amplifiée par l'utilisation de l'IA chez les étudiants, suggérant une dépendance accrue à ces technologies pour le traitement de l'information.

Étude du MIT sur la dette cognitive

• En juin 2025, le MIT a publié une étude intitulée "Votre cerveau sur Chat GPT", explorant comment l'utilisation de l'IA pour écrire des devoirs entraîne une accumulation de dette cognitive.

• L'étude a impliqué 54 participants répartis en trois groupes avec différentes contraintes d'écriture : un groupe utilisant uniquement GPT-4, un autre ayant accès à Internet sans IA, et un dernier n'utilisant qu'un logiciel de traitement de texte.

Résultats et implications

• Les résultats montrent que les utilisateurs de GPT-4 avaient la moindre activité cérébrale, tandis que ceux du groupe "Brain Only" avaient une activité plus intense.

• Le concept de "dette cognitive" évoque les problèmes futurs causés par des solutions immédiates apportées par l'IA, semblable à la dette technique dans le développement logiciel.

Comparaison entre développeurs juniors et seniors

• Une enquête auprès de 791 développeurs révèle que les seniors utilisent davantage le code généré par l’IA tout en prenant plus de temps pour vérifier et déboguer ce code.

• Les juniors se reposent sur l’IA comme béquille, tandis que les seniors considèrent cette technologie comme un outil d'assistance dans leur processus créatif.

Métaphore culinaire pour expliquer le développement

• Le développement est comparé à la cuisine où chaque rôle (commis, chef de partie, sous-chef) est essentiel. Les outils d’IA sont vus comme des commis ou chefs de partie nécessitant supervision.

• Un développeur senior possède une polyvalence qui lui permet d'encadrer efficacement les outils IA tout en corrigeant leurs erreurs.

L'apprentissage avec l'IA : Une Révolution Éducative

Le cycle d'apprentissage et l'importance de la métacognition

• Le cycle d'apprentissage inclut théorie, pratique et métacognition, permettant aux juniors de maîtriser les fondamentaux du code.

• La question se pose sur comment éviter que les collégiens utilisent des outils comme Chat GPT pour leurs devoirs de philosophie.

Utilisation de l'IA comme tuteur

• Proposer à Lia (Chat GPT) d'agir en tant que tuteur personnel sans fournir directement les réponses.

• Un exemple est donné avec un exercice mathématique où Lia fournit des indices, ce qui peut mener à un délestage cognitif.

Opportunités offertes par l'IA dans l'éducation

• L'utilisation de Chat GPT pour des exercices académiques pourrait transformer l'accès à un enseignement personnalisé, autrefois réservé aux privilégiés.

• Bien que certaines compétences ne puissent pas être enseignées par IA (comme le surf), elle est révolutionnaire pour celles basées sur le texte ou les calculs.

Fiabilité et critiques des IA éducatives

• Les hallucinations des IA sont un problème majeur, mais leur taux a été considérablement réduit dans les versions récentes.

• La présence d'hallucinations peut encourager une utilisation critique chez les utilisateurs conscients de ces limitations.

Études sur l'efficacité des tuteurs IA

• Des recherches montrent que des assistants comme GPT4 peuvent améliorer l'engagement actif et s'adapter à la charge cognitive des élèves.

• La mentalité de croissance est essentielle ; elle permet aux élèves de croire en leur capacité à progresser malgré les difficultés initiales.

Limites et défis liés aux tuteurs IA

• Les enseignants humains peuvent favoriser engagement et adaptation, mais manquent souvent de personnalisation face à chaque élève.

• Les résultats montrent que ceux utilisant PS2 PAL ont fait plus de progrès rapidement grâce à une approche pédagogique structurée.

Conclusion sur le potentiel éducatif des IA

• Malgré leurs avantages, il existe une limite dans leur efficacité si elles ne sont pas utilisées correctement par les élèves.

• Les études indiquent qu'un cadre pédagogique solide est nécessaire pour maximiser l'apprentissage avec une IA.

L'impact de l'IA sur l'apprentissage et la productivité

Les paradoxes des outils d'IA

• L'utilisation des LLM (modèles de langage) crée un paradoxe : bien qu'ils soient accessibles à tous, leur utilisation peut engendrer une inégalité dans l'apprentissage.

• Deux chemins se dessinent pour les utilisateurs : celui qui favorise l'apprentissage personnel et celui qui mène à une dépendance excessive aux outils, risquant ainsi une forme de lobotomie cognitive.

La lutte contre la paresse

• Le choix entre efficacité immédiate et apprentissage durable est crucial ; les entreprises doivent également faire ce choix pour le bien-être de leurs employés.

• La tendance humaine à rechercher la facilité est ancrée dans notre évolution, rendant difficile la résistance à cette paresse naturelle.

Solutions traditionnelles face aux nouvelles technologies

• Pour contrer cette paresse, il pourrait être bénéfique de revenir à des méthodes d'apprentissage traditionnelles comme les devoirs sur table.

• Un exemple marquant est le concours de médecine en Belgique où l'absence d'outils numériques a conduit à un taux de réussite plus élevé par rapport aux examens assistés par ordinateur.

L'expérience d'une désintoxication numérique

• Une approche radicale a été testée avec Antoine, interdisant l'utilisation des LLM pendant trois mois pour favoriser un apprentissage autonome.

• Cette période sans assistance numérique a permis à Antoine d'approfondir ses connaissances théoriques et pratiques en codage, renforçant ainsi sa compréhension.

Réintroduction des outils IA

• Après trois mois sans LLM, Antoine a réintroduit ces outils avec succès, ayant non seulement amélioré ses compétences mais aussi retrouvé du plaisir dans son travail.

• Cette expérience souligne que c'est l'effort face aux difficultés qui façonne réellement notre cerveau et nos capacités cognitives.

L'éducation comme socle de la société

Importance de l'éducation

• L'éducation est présentée comme la racine fondamentale d'une société, essentielle pour former les enfants à penser. Sans une éducation solide, même les meilleures lois et technologies ne suffisent pas à maintenir une société stable.

• Le conférencier souligne que l'éducation n'est pas un secteur parmi d'autres, mais le socle sur lequel repose tout le reste. C'est là que se forment ceux qui hériteront des valeurs et des connaissances nécessaires pour faire avancer la société.

Réflexion sur l'intelligence artificielle

• L'intervenant aborde le sujet de l'intelligence artificielle (IA), affirmant qu'elle ne rendra pas les gens stupides par elle-même. Au contraire, c'est notre choix d'utiliser ou non cette technologie qui déterminera notre niveau d'intelligence.

• Il met en avant que chaque jour, nous avons le choix d'utiliser l'IA comme un outil pour améliorer notre pensée ou comme une béquille qui pourrait affaiblir notre capacité à réfléchir de manière critique.