Nuit de l'IA #1 : Conférence de Jean-Gabriel Ganascia

Introduction

Laura Suzanne, directrice de la Brasserie du Digital, accueille les participants à la première édition des Nuits de l'Intelligence Artificielle. Elle présente l'association et ses missions.

• Laura Suzanne est la directrice de la Brasserie du Digital.

• La Brasserie du Digital est une association qui a pour mission d'animer la filière numérique locale.

• L'association propose un espace de travail partagé (coworking) aux entreprises travaillant dans le numérique.

• Des animations, ateliers et conférences sont proposés sur les thèmes de l'innovation, du numérique et de l'entrepreneuriat.

Présentation du conférencier

Antoine Vacavant présente Jean-Gabriel Ganascia, professeur des universités à Sorbonne Université et membre du laboratoire LIP6. Il annonce que ce dernier va parler de l'historique et des différents courants de définitions liés à l'intelligence artificielle.

• Antoine Vacavant est professeur des universités à l'université Clermont Auvergne.

• Jean-Gabriel Ganascia est professeur des universités à Sorbonne Université et membre du laboratoire LIP6.

• Jean-Gabriel Ganascia a été président du comité d'éthique du CNRS et actuellement président du comité d'éthique de Pôle Emploi.

• La conférence portera sur l'historique et les différentes définitions liées à l'intelligence artificielle.

Conférence sur l'intelligence artificielle

Jean-Gabriel Ganascia commence sa conférence en parlant de Blaise Pascal, le premier à avoir réalisé une machine arithmétique. Il explique que la conférence sera placée sous les auspices de Blaise Pascal et qu'il parlera également d'éthique du numérique.

• Jean-Gabriel Ganascia est professeur des universités à Sorbonne Université et membre du laboratoire LIP6.

• Blaise Pascal est le premier à avoir réalisé une machine arithmétique.

• La conférence sera placée sous les auspices de Blaise Pascal.

• Jean-Gabriel Ganascia parlera également d'éthique du numérique.

La réflexion de Blaise Pascal sur l'intelligence artificielle

Dans cette section, le conférencier parle de la réflexion de Blaise Pascal sur l'intelligence artificielle et souligne que les machines n'ont pas de volonté.

• Blaise Pascal a réalisé une machine qui fait des opérations complexes.

• La machine arithmétique fait des effets qui approchent plus de la pensée que tout ce que font les animaux mais elle ne fait rien qui puisse faire dire qu'elle a de la volonté comme les animaux.

• Les machines n'ont pas de volonté quoi qu'il arrive.

L'intelligence artificielle : définition et transformation du monde

Dans cette section, le conférencier donne trois définitions d'intelligence artificielle et explique comment elle a transformé le monde.

Définitions d'intelligence artificielle

• Le conférencier donne trois définitions d'intelligence artificielle pour clarifier les confusions autour du terme.

Transformation du monde

• L'IA a transformé non seulement le monde matériel mais aussi la société.

Les organisateurs du colloque sur l'IA en 1956

Dans cette section, le conférencier présente les quatre organisateurs du colloque sur l'IA en 1956 et leur contribution à l'IA.

• Le colloque sur l'IA en 1956 a été organisé par quatre personnes : John McCarthy, Marvin Minsky, le directeur scientifique de la société IBM et Claude Shannon.

• John McCarthy était un mathématicien qui a écrit la définition d'IA qui est toujours utilisée aujourd'hui.

• Marvin Minsky était un cybernéticien qui a travaillé sur l'apprentissage des réseaux de neurones.

• Claude Shannon est à l'origine de la théorie mathématique de l'information.

Conclusion

Dans cette section, le conférencier termine son exposé en parlant des chartes éthiques liées à l'IA et en soulignant l'importance de se rappeler que les machines n'ont pas de volonté.

• Le conférencier termine son exposé en parlant des multiples chartes éthiques liées à l'IA et des questions éthiques qui se posent.

• Il souligne que les machines n'ont pas de volonté.

La définition de l'intelligence artificielle

Dans cette section, Martine Minsky donne une définition de l'intelligence artificielle et explique comment elle peut être décomposée en cinq grandes classes de fonctions cognitives.

Les cinq grandes classes de fonctions cognitives

• Une conjecture mathématique est une hypothèse qui n'a pas été prouvée. L'hypothèse selon laquelle toutes les caractéristiques de l'apprentissage et toutes les autres caractéristiques de l'intelligence peuvent être décrites plus précisément et simulées par des machines est une conjecture.

• Les cinq grandes classes de fonctions cognitives sont : la perception, la représentation des connaissances, la simulation de la pensée, les fonctions exécutives et les fonctions expressives.

• La perception consiste à intégrer toutes les informations captées par des capteurs tels que des caméras ou des microphones pour reconnaître des visages ou comprendre un langage parlé.

• La représentation des connaissances permet d'organiser et d'exploiter les informations stockées en mémoire.

• La simulation de la pensée correspond à la capacité à raisonner sur ces informations stockées en mémoire.

• Les fonctions exécutives comprennent la prise de décision et l'action sur le monde extérieur.

• Les fonctions expressives incluent le langage, la reconnaissance vocale et la génération automatique de textes.

L'exploitation des simulations

• Les pionniers de l'intelligence artificielle étaient pragmatiques et cherchaient à utiliser les différentes simulations pour réaliser des choses concrètes.

• Aujourd'hui, le succès de l'intelligence artificielle est lié à l'exploitation de ces simulations.

La définition de Russell et Norvig

• Russell et Norvig définissent l'intelligence artificielle comme "l'étude des agents qui reçoivent des perceptes de l'environnement et qui exécutent des actions".

L'intelligence artificielle et les agents autonomes

Dans cette section, le conférencier explique ce qu'est l'intelligence artificielle et comment elle est utilisée dans les agents autonomes tels que les voitures autonomes et les aspirateurs.

Les agents autonomes

• Les agents autonomes sont des programmes informatiques capables d'acquérir, de traiter des informations, de prendre des décisions et d'agir sans intervention humaine.

• Les voitures autonomes sont un exemple d'agent autonome qui peut identifier les cyclistes et autres obstacles sur la route.

• Les aspirateurs autonomes sont également des exemples d'agents autonomes qui peuvent détecter la poussière et se déplacer pour nettoyer une pièce.

L'intelligence artificielle

• L'intelligence artificielle est la programmation d'agents autonomes pour leur permettre de fonctionner sans intervention humaine.

• L'intelligence artificielle implique l'utilisation de l'acquisition, du traitement des informations, de la prise de décision et de l'action automatisée.

• Le grand public a souvent une vision erronée de l'intelligence artificielle en pensant qu'elle implique la création d'un esprit intelligent avec une machine. Cependant, cela relève plutôt des facultés cognitives que de l'esprit lui-même.

La singularité technologique

• La singularité technologique fait référence à un point hypothétique dans le temps où l'intelligence artificielle surpassera l'intelligence humaine. Cela soulève des questions sur les implications éthiques et sociales de cette évolution technologique.

Introduction à l'intelligence artificielle

Dans cette section, le conférencier explique comment l'intelligence artificielle est présente dans notre vie quotidienne et donne des exemples de son utilisation.

L'omniprésence de l'intelligence artificielle

• L'intelligence artificielle est omniprésente dans notre vie quotidienne.

• Le web utilise beaucoup l'intelligence artificielle, notamment avec le modèle de mémoire appelé "l'hypertexte".

• Les moteurs de recherche utilisent également de l'intelligence artificielle, ainsi que le web sémantique.

• Les robots et les véhicules autonomes sont des exemples d'utilisation de l'intelligence artificielle.

• La biométrie, la reconnaissance faciale, la vision artificielle et la reconnaissance de la parole sont également des domaines où l'on utilise l'intelligence artificielle.

Transformation d'activités

• L'utilisation de l'intelligence artificielle transforme beaucoup d'activités, notamment en médecine où elle permet par exemple d'aider au diagnostic des maladies du sommeil ou encore dans les sciences avec les expériences in silico.

• Les fintech (banque et assurance), utilisent également énormément d'intelligence artificielle pour aider à la relation client ou encore pour calculer les risques.

Questions ouvertes

• Des questions se posent quant à l'utilisation des données pour calculer les risques dans le domaine de l'assurance, notamment avec l'utilisation des réseaux sociaux.

• L'industrie 4.0 est également liée à l'intelligence artificielle.

La conférence est en français et les notes sont écrites en français.

L'impact de l'intelligence artificielle sur les objets

Dans cette section, le conférencier parle de la transformation des objets avec l'intelligence artificielle et comment cela affecte notre vie quotidienne.

Transformation des objets

• Les montres connectées peuvent prendre le pouls et effectuer d'autres tâches grâce à l'intelligence artificielle.

• Les lunettes intelligentes et les bracelets connectés peuvent collecter des données pour améliorer notre expérience.

• Les vélos en libre accès dans certaines villes sont rendus possibles grâce à la connexion intelligente.

• Les voitures modernes ont une intelligence ajoutée qui les différencie des voitures plus anciennes.

Réécriture des concepts sociaux

• La forme des objets a évolué avec la technologie, mais maintenant c'est leur fonctionnalité qui est réécrite avec l'intelligence artificielle.

• L'impact de l'intelligence artificielle ne se limite pas aux objets, elle transforme également les concepts sociaux tels que l'amitié, la réputation et la communauté.

Impact sur les concepts sociaux

Amitié

• Avec les réseaux sociaux comme Facebook, le concept d'amitié est influencé par la façon dont nous interagissons en ligne.

Réputation

• Le score de crédit social en Chine est un exemple de la façon dont l'intelligence artificielle peut affecter la réputation d'une personne.

Confiance

• La blockchain est une nouvelle forme de confiance qui remet en question les concepts traditionnels tels que l'argent et les pièces en or.

Communauté

• Internet a élargi notre communauté, mais cela a également eu un impact sur la solidarité entre les membres.

Le rôle de l'éthique dans l'utilisation de l'IA

Dans cette section, le conférencier parle du crédit social en Chine et comment les techniques d'intelligence artificielle sont utilisées pour identifier chaque personne par reconnaissance faciale et comportementale. Il mentionne également la génération automatique de textes et son utilisation pour créer des articles scientifiques sans idées originales. Enfin, il aborde le sujet des comités d'éthique mis en place pour réglementer l'utilisation de l'IA.

Utilisation de l'IA en Chine

• Les techniques d'intelligence artificielle sont utilisées en Chine pour identifier chaque personne par reconnaissance faciale et comportementale.

• Les personnes reçoivent des bons ou mauvais points selon leur comportement, ce qui peut avoir un impact sur leur vie quotidienne.

Génération automatique de textes

• La génération automatique de textes est utilisée pour créer des articles scientifiques sans idées originales.

• L'utilisation croissante de ces techniques crée de nouvelles possibilités de plagiat.

Comités d'éthique

• Des comités d'éthique ont été mis en place depuis 5 à 6 ans pour réglementer l'utilisation de l'IA.

• Avant la création d'un projet impliquant l'IA, il est recommandé d'avoir environ 80 recommandations à suivre.

Amazon fait revivre les grands-mères mortes après le COVID

Dans cette section, le conférencier parle de l'initiative d'Amazon pour faire revivre les grands-mères mortes après le COVID pour que les petits-enfants puissent entendre des histoires. Il souligne la nature cauchemardesque de cette initiative.

• Amazon a lancé une initiative pour faire revivre les grands-mères mortes après le COVID.

• Cette initiative est considérée comme cauchemardesque et de mauvais goût.

Comment réglementer l'utilisation de l'IA

Dans cette section, le conférencier aborde la question de la réglementation de l'utilisation de l'IA et comment cela peut être accompli.

• Les comités d'éthique ont été mis en place pour réglementer l'utilisation de l'IA.

• Avant la création d'un projet impliquant l'IA, il est recommandé d'avoir environ 80 recommandations à suivre.

• Des initiatives récentes ont vu jusqu'à 521 recommandations émises pour un seul projet impliquant l'IA.

• La réglementation doit être mise en place pour éviter les abus potentiels liés à l'utilisation de l'IA.

Règlement européen sur l'intelligence artificielle

Cette section traite du règlement européen sur l'intelligence artificielle qui est en cours de développement. Le règlement vise à interdire les systèmes à risque, mais il y a des difficultés liées au grand nombre de principes contradictoires.

Trop de principes contradictoires

• Le règlement européen sur l'intelligence artificielle vise à interdire les systèmes à risque.

• Il y a plus de 3000 amendements proposés pour le règlement, ce qui montre la difficulté d'application.

• Les principes tels que la protection de la vie privée et la transparence sont importants, mais ils peuvent entrer en conflit avec d'autres principes tels que la sécurité.

• La multiplicité des principes crée une tension entre eux et peut limiter leur valeur infinie.

Questions d'éthique liées au numérique

Cette section aborde les questions éthiques liées aux technologies numériques et comment elles ont été ignorées pendant longtemps.

Prise de conscience progressive

• Pendant longtemps, on pensait qu'il n'y avait pas de problèmes éthiques liés aux technologies numériques.

• À partir des années 2000, des colloques ont commencé à être organisés pour discuter des questions éthiques liées aux sciences et technologies numériques.

• En travaillant sur ces questions, on se rend compte qu'il y a beaucoup de choses qui se font déjà dans d'autres pays.

• Un rapport sur les questions d'éthique du numérique a été publié en 2006, ce qui montre une prise de conscience progressive des questions éthiques liées aux technologies numériques.

Comités d'éthique et régulation

Dans cette section, le conférencier parle de l'importance de distinguer l'éthique, la réglementation, la loi et les normes dans la société numérique.

Éthique vs Régulation vs Loi vs Normes

• Différents comités d'éthique ont été mis en place pour réfléchir à ce que devrait être les règles de comportement dans la société numérique.

• Il est important de bien distinguer l'éthique qui est une discipline philosophique de la régulation qui sont des règlements administratifs qui se superposent à la loi.

• La loi est votée par des assemblées alors que la régulation passe souvent par des règlements administratifs. Les normes sont décidées par les parties prenantes dans un domaine.

• Il y a une grande confusion entre l'éthique, la réglementation, la loi et les standards dans le monde numérique.

• Le règlement européen est un exemple où la loi devient en réalité des standards.

Servitude virtuelle

Dans cette section, le conférencier présente son livre "Servitude virtuelle" et fait référence à l'ouvrage de La Boétie "Discours de la servitude volontaire".

Référence à La Boétie

• Le livre "Servitude virtuelle" fait référence à l'ouvrage de La Boétie "Discours de la servitude volontaire".

• Le conférencier explique que les moteurs de recherche exercent sur nous une contrainte extrêmement forte.

• Avec le numérique, on a l'impression que les choses sont impalpables mais en réalité elles exercent sur nous une contrainte extrêmement forte.

• Malgré tout, il y a un espoir d'affranchissement à condition d'en prendre conscience.

La Rose des Vents numériques

Dans cette section, le conférencier présente sa "Rose des Vents numériques" pour dresser un état des lieux de la société numérique.

Axes de la Rose des Vents numériques

• La Rose des Vents numériques est organisée autour d'axes qui correspondent aux points cardinaux classiques adaptés au monde actuel.

• L'axe Nord correspond à l'être en ligne et régit notre existence. L'axe Sud correspond au hors ligne et représente la frustration ressentie par ceux qui n'ont pas accès à ce monde-là.

• L'axe Vie correspond à la singularité technologique et l'axe Révolution correspond à la transformation du monde telle qu'elle est.

• Le conférencier utilise un marteau pour philosopher à coups de marteaux comme Nietzsche dans le Crépuscule des idoles.

La bioéthique et le numérique

Dans cette section, l'orateur parle de la bioéthique et comment elle s'applique au numérique. Il explique les principes de la tradition hippocratique, y compris l'anomalfaisance, la bienfaisance, la justice et l'autonomie. Il souligne que les conditions générales d'utilisation ne sont pas une forme appropriée d'autonomie.

• Les principes de la tradition hippocratique comprennent l'anomalfaisance, la bienfaisance, la justice et l'autonomie.

• Les conditions générales d'utilisation ne sont pas une forme appropriée d'autonomie.

• L'orateur a écrit un livre sur ce sujet.

Questions du public

Cette section contient des questions posées par le public à l'orateur.

L'intelligence artificielle dans l'administration

• L'intelligence artificielle peut être utilisée dans divers domaines tels que l'administration.

• Pôle emploi utilise des techniques d'intelligence artificielle pour lire les courriers et synthétiser les réponses.

• Un exemple est le Médiator où si on avait eu des techniques d'intelligence artificielle pour repérer des médicaments utilisés hors indications de mise sur le marché, on aurait pu détecter les problèmes plus tôt.

Risques liés à la technologie

• La technologie peut être bénéfique mais elle peut également avoir des applications privatives et contraignantes.

• Les régulations actuelles sont problématiques car elles tentent d'anticiper tous les risques, ce qui est impossible étant donné que la technologie évolue constamment.

• Il est important de se concentrer sur l'histoire pour anticiper les risques plutôt que d'essayer de tout prévoir.

Le Rabbin de Prague et le Golem

Dans cette section, le conférencier parle du rabbin de Prague qui a créé le golem. Il explique également que la légende entourant cette histoire est plus importante que les écrits réels du rabbin.

Le Maral et la sagesse du rabbin

• Le rabbin de Prague qui a créé le golem était connu sous le nom de Maral.

• Bien qu'il n'ait jamais parlé du golem dans ses écrits, sa grande sagesse est mise en avant dans l'histoire.

• Lorsque le golem commence à faire des bêtises, le rabbin sort de la synagogue un samedi pour l'arrêter et le détruire.

La destruction du Golem et son importance aujourd'hui

• Cette histoire soulève la question de savoir si nous devrions avoir le courage d'arrêter les outils d'intelligence artificielle lorsqu'ils deviennent néfastes.

Les interfaces Homme-Machine et l'empathie

Dans cette section, le conférencier aborde la question des interfaces Homme-Machine et leur capacité à simuler l'empathie.

Les projections animistes dans les interfaces Homme-Machine

• Toutes les interfaces aux machines sont conçues sur ce principe de projection animiste.

• L'informatique affective consiste à imprimer à la machine des traits semblables à ceux qu'une personne émotive éprouverait.

Les chats et l'empathie

• Les étudiants qui sont confrontés à des tchats ont une sensation d'empathie de la part du chat.

• Les chats essayent de travailler sur l'empathie, mais cela pose des questions éthiques.

Chaque GPT et les défauts de nos sociétés

Dans cette section, le conférencier parle de chaque GPT et comment il révèle les défauts de nos sociétés.

Le sentiment de malaise face à chaque GPT

• Chaque GPT suscite un sentiment de malaise chez les gens.

• L'inquiétude que nous avons envers chaque GPT montre les défauts de nos sociétés.

L'utilisation des chaque GPT dans l'enseignement

• De nombreux étudiants utilisent chaque GPT pour rédiger leurs travaux universitaires.

• Bien que ces systèmes s'adaptent et répondent mieux que certains étudiants, ils posent également des problèmes.

L'impact des critères d'évaluation sur la production scientifique

Dans cette section, le conférencier aborde l'impact des critères d'évaluation sur la production scientifique et comment cela peut conduire à la création de faux articles.

Les critères d'évaluation excessifs

• Les critères d'évaluation avec les facteurs d'impact sont tellement excessifs que certains scientifiques préfèrent écrire des faux articles pour leur carrière plutôt que de produire de vraies connaissances.

Importance de l'intelligence artificielle dans les réseaux électriques intelligents

Dans cette section, le conférencier discute de l'utilisation potentielle de l'intelligence artificielle dans les réseaux électriques intelligents.

• Les smart grids et les réseaux électriques intelligents sont importants pour gérer les intermittences.

• L'utilisation de techniques d'intelligence artificielle est essentielle pour anticiper la consommation à une granularité qui n'est pas celle de l'individu ou du foyer, mais plutôt celle du pâté de maison.

• Il est important d'expliquer à la population comment ces technologies peuvent être bénéfiques pour utiliser les énergies douces.

Intelligence artificielle et créativité

Dans cette section, le conférencier aborde la question de savoir si l'intelligence artificielle peut être créative.

• La question de savoir si l'intelligence est l'apanage de l'homme est complexe car les animaux font preuve d'intelligence.

• La question de savoir si les machines peuvent être créatives est une vieille question. Le conférencier a travaillé sur cette question dans le passé et pense que c'est une question passionnante.

La créativité et l'intelligence artificielle

Dans cette section, Jean-Gabriel Ganascia parle de la créativité et de son lien avec l'intelligence artificielle. Il explique comment les machines peuvent simuler la créativité en musique, en peinture et même dans les découvertes scientifiques.

La simulation de la créativité

• Les machines peuvent surprendre même avec un programme très simple.

• La créativité peut être simulée en musique et en peinture.

• Les machines comme GPT sont capables d'extraire des sens de la langue pour générer quelque chose de plausible.

• Les machines nous montrent que nous avons également cette faculté à s'imprégner de la langue quand on apprend une langue étrangère ou quand on parle.

• Des travaux ont été faits sur la créativité en musique, en peinture et même dans les découvertes scientifiques.

L'aspect imprévisible de la découverte mathématique

• Les mathématiciens parlent souvent du "AA" qui est une révélation imprévisible lorsqu'on découvre quelque chose en mathématiques.

Remerciements

• Jean-Gabriel Ganascia remercie l'organisation pour l'événement et invite le public à participer aux autres événements organisés par Brasserie du digital.