VIDEO
HIGHLIGHT
Log InSign up
L'intelligence artificielle à l'épreuve du fake | Géopolitis
SummaryTranscriptChat

L'intelligence artificielle à l'épreuve du fake | Géopolitis

Introduction

Cette introduction présente le sujet de l'intelligence artificielle et ses implications dans notre vie quotidienne.

L'impact de l'intelligence artificielle

  • L'intelligence artificielle est comparée à l'invention de l'imprimerie en termes de révolution.
  • Les deep fake sont des vidéos fausses qui détournent les propos ou usurpent l'identité d'une personne, mais il existe également des outils pour les détecter.
  • La question n'est pas si nous pouvons éviter l'IA, mais plutôt comment nous pouvons la gérer.

Réglementation et concurrence

  • Il est nécessaire de réglementer l'utilisation de l'IA, comme le veut l'Union européenne.
  • La Chine a interdit ChatGPT et veut que les entreprises chinoises produisant de l'IA respectent les valeurs socialistes.
  • L'EPFL est un centre de recherche et d'enseignement en avance sur l'IA.

Démonstration pratique

Cette section montre une démonstration pratique d'utilisation de l'intelligence artificielle.

Utilisation pratique

  • Les visiteurs des portes ouvertes à EPFL ont pu découvrir comment utiliser une IA pour faire bouger le visage d'une autre personne.

Conclusion

Cette section conclut le sujet de l'intelligence artificielle et souligne la nécessité de réglementer son utilisation.

Résumé

  • L'IA ne fait que reproduire ce qu'on lui apprend à ingérer.
  • La réglementation est nécessaire pour gérer les risques liés à l'utilisation de l'IA.

L'IA pour détecter les fausses informations

Dans cette section, on parle de l'utilisation de l'intelligence artificielle pour détecter les fausses informations.

Développement d'IA pour détecter les fausses informations

  • Midjourney développe des IA pour détecter les fausses informations.
  • Les IA développées peuvent fonctionner sur les vidéos mais pas encore sur les images.
  • Les IA peuvent détecter des erreurs dans le flux vidéo géré par l'IA aujourd'hui.

Limitations actuelles de l'IA

  • Il est possible qu'un nouveau modèle identifie les deep fake et soit utilisé pour créer des deep fake qui ne créent plus ces artefacts.
  • On n'est pas encore capable de dire si une image est vraie ou fausse à 100%.

Niveaux d'intelligence artificielle

Dans cette section, on parle des différents niveaux d'intelligence artificielle.

Trois niveaux d'intelligence artificielle

  • Il y a trois niveaux d'intelligence artificielle : l'IA étroite, l'IA générale et l'IA supérieure.
  • L'IA étroite peut faire une seule application comme écrire un CV ou corriger un texte.
  • L'IA générale peut faire plusieurs tâches comme un humain tandis que l'IA supérieure est plus intelligente que nous.

Fantasmes sur l'IA

Dans cette section, on parle des fantasmes sur l'intelligence artificielle.

Fantasmes sur la domination de l'IA

  • Les alertes concernant la domination de l'IA sur l'homme sont encore du domaine du fantasme.
  • L'utilisation actuelle de l'IA est principalement pour tricher et truquer, ce qui est dangereux.

Utilisation future de l'intelligence artificielle

Dans cette section, on parle de l'utilisation future de l'intelligence artificielle.

Domaines d'utilisation futurs

  • L'intelligence artificielle sera utile dans plusieurs domaines mais il n'est pas encore clair lesquels.

L'intelligence artificielle : un danger pour la presse ?

Dans cette section, les intervenants discutent des dangers de l'utilisation de l'intelligence artificielle dans le domaine de la presse et appellent à une régulation rapide.

Les dangers de l'intelligence artificielle

  • L'utilisation de l'intelligence artificielle dans la presse peut conduire à des désinformations massives et des cyberattaques.
  • Reporters sans frontières considère que l'IA est un des principaux dangers pour la presse.
  • Bloomberg a déjà trouvé une cinquantaine de nouvelles pages créées avec l'IA pour faire de l'argent en vendant de la publicité sur Google.

La nécessité d'une régulation rapide

  • Les intervenants sont convaincus qu'il faut rapidement réguler l'utilisation de l'IA dans le domaine de la presse.
  • Une solution proposée est d'imposer un watermark dans les images générées par les applications utilisant l'IA, afin que ces images puissent être détectées comme fausses par les médias.
  • La régulation actuelle n'en est qu'à ses balbutiements, mais il y a un projet en cours au niveau européen qui pourrait aboutir prochainement.

Réglementation universelle

Dans cette section, les intervenants discutent de la nécessité d'une réglementation universelle pour l'intelligence artificielle.

Besoin d'une réglementation universelle

  • Les intervenants sont d'accord sur le besoin d'une réglementation universelle pour l'intelligence artificielle.
  • Il est clair que si des développeurs appliquent des règles différentes selon les pays, cela peut poser problème.
  • Une réglementation universelle doit être imposée pour agir et réagir sur l'intelligence artificielle.

Différences entre les pays

  • L'Union européenne est à la pointe de ces réglementations, mais il y a des questions quant aux États-Unis.
  • Les Chinois ont interdit à leur IA de critiquer le gouvernement.

Manipulations politiques

Dans cette section, les intervenants discutent des manipulations politiques possibles avec l'utilisation de l'intelligence artificielle.

Questions autour des manipulations politiques

  • En attendant une réglementation universelle, il y a toujours des questions autour des manipulations politiques.
  • Yuval Arari soulève la question des prochaines élections américaines ou françaises qui peuvent être manipulées par l'IA.

Responsabilité des entreprises

  • Les entreprises doivent prendre leurs responsabilités en ne déployant pas leur technologie trop rapidement sans sauvegarder ou avoir un moyen de dire si une information est fausse.
  • Il est important de réguler les entreprises qui font ces outils et applications, car les gens peuvent faire n'importe quoi avec.

Intelligence humaine

Dans cette section, les intervenants discutent du rôle de l'intelligence humaine dans la compréhension des manipulations possibles avec l'utilisation de l'intelligence artificielle.

Rôle de l'intelligence humaine

  • Il ne faut pas sous-estimer l'intelligence humaine pour savoir qu'une information peut être manipulée.
  • Les gens savent que si la source n'est pas vérifiable, on ne peut pas y croire.

Manipulation lors des élections américaines en 2016

  • Lors de la première élection présidentielle américaine en 2016, on a vu qu'on pouvait manipuler les gens avec des moyens moins sophistiqués.

L'intelligence humaine vs l'intelligence artificielle

Dans cette section, nous discutons de la supériorité de l'intelligence humaine sur les puces électroniques et de la possibilité d'une véritable intelligence artificielle.

L'intelligence humaine reste supérieure aux puces électroniques

  • Les neurones humains resteront supérieurs aux puces électroniques jusqu'à ce que l'intelligence humaine fabrique une véritable intelligence artificielle.

La défaite de Garry Kasparov contre un super ordinateur

  • Garry Kasparov a perdu contre un super ordinateur capable de calculer 200 millions de positions à la seconde.
  • Les images du match ont stupéfait le monde des échecs et font maintenant partie de l'histoire du sport.

Le Go, un jeu où l'homme domine toujours

  • Hung Fioramanti, maître international, affirme que les ordinateurs ne peuvent pas apprendre et qu'ils sont donc très stupides.
  • Il a délaissé les échecs pour se consacrer au Go, un jeu avec beaucoup trop de cases pour l'ordinateur, où l'homme domine toujours.

Remplacer les animateurs par une intelligence artificielle

Dans cette section, nous discutons d'une expérience menée par la radio Couleur 3 de la RTS pour remplacer ses animateurs par une intelligence artificielle.

Résultats effrayants

  • Les animateurs ont été remplacés par une intelligence artificielle qui a utilisé leur voix et a dit des choses qu'ils n'avaient pas écrites.
  • Les résultats de l'expérience ont fait froid dans le dos.

Conclusion

  • La radio Couleur 3 de la RTS a tenté l'expérience pendant une journée, mais les résultats montrent que les humains sont encore indispensables pour certaines tâches.
Video description

La vague ChatGPT accélère la course à l’intelligence artificielle et à ses innovations, mais renforce les risques de désinformation à grande échelle. Invitée : Sabine Süsstrunk, professeure Ecole Polytechnique fédérale de Lausanne Présentation : Jean-Philippe Schaller ChatGPT, le fameux robot conversationnel, est devenu en quelques mois la plus célèbre des applications d’intelligence artificielle. Développé par OpenAI, une société basée à San Francisco, et lancé en novembre, il compte bientôt 200 millions d'utilisateurs. Capable de rédiger CV, lettres, dissertations ou scénarios en un temps record, il bouleverse notre rapport au travail, à la création ou même à la réalité. L'application Midjourney a aussi fait sensation. Elle fonctionne sur le même principe, mais appliqué au monde de la photographie. Vous avez certainement vu l'arrestation musclée de Donald Trump, Emmanuel Macron au milieu des manifestants en France ou le pape en icône de la mode dans sa doudoune immaculée. Ces images sont fausses et générées par intelligence artificielle (IA). Et ce n'est qu'une infime partie des domaines conquis par l'IA. Du monde de la surveillance, au monde de l’art, au service de la médecine ou du climat. Le marché s’est envolé ces dernières années. De 65 milliards de dollars en 2020, il pourrait même dépasser les 1500 milliards d'ici 2030, selon le dernier rapport des Nations unies. Et tout le monde veut sa part du gâteau. Microsoft a investi 10 milliards de dollars dans OpenAI et vient d'intégrer ChatGPT dans son moteur de recherche. Les autres géants numériques répliquent avec leurs propres logiciels: Bard pour Google, Ernie Bot pour Baidu, Tongyi Qianwen pour Alibaba. - Risques et dérives - L'intelligence artificielle fascine autant qu'elle inquiète. Le succès fulgurant de ChatGPT a ravivé les craintes de voir ces innovations se développer sans aucun contrôle. Sabine Süsstrunk, directrice du Laboratoire d'images et de représentation visuelle de la Faculté d'informatique et communications à l'EPFL, pointe les risques de la démocratisation de ces outils, désormais accessibles à large échelle: "Maintenant on voit qu'avec ces outils on peut tricher, truquer les visages, les sons, les e-mails. Je trouve cela dangereux." Dans le laboratoire qu'elle dirige à Lausanne, ses équipes travaillent notamment sur les deepfakes, ces vidéos truquées grâce à l'intelligence artificielle, qui permettent de faire dire quasiment tout à n'importe qui. Les chercheurs tentent de mettre au point une IA capable de détecter ces fausses images. Cet outil fonctionne bien pour identifier les fausses vidéos, mais n'est pas encore au point dans le cas de photographies, souligne Sabine Süsstrunk. Les avancées du domaine sont si rapides qu'elles pourraient rendre tout aussi rapidement inopérants ces logiciels de détection. L'outil de l'EPFL fonctionne bien "aujourd'hui. Demain, je ne suis pas sûre", précise la chercheuse. La régulation de l’intelligence artificielle n’en est qu'à ses balbutiements. L'Union européenne a lancé il y a deux ans un projet de règlement pour encadrer son usage et sa commercialisation. Il pourrait aboutir ces prochains mois. Aux Etats-Unis, Joe Biden s'est entretenu début mai avec les dirigeants de plusieurs entreprises actives dans l'IA, notamment Google et Microsoft. Le président américain a tenu à rappeler la nécessité d'innover de manière responsable. "L'intelligence artificielle est l'un des outils les plus puissants de notre époque, mais pour saisir ses opportunités, nous devons d'abord atténuer ses risques", a précisé la Maison blanche sur son compte Twitter. "Il faut agir très vite pour réguler l'intelligence artificielle", insiste Sabine Süsstrunk. Selon la chercheuse, seule une réglementation universelle pourra être efficace dans ce domaine. Elle propose notamment de contraindre les entreprises à apposer "une watermark" (un tatouage numérique), sur les images créés grâce à leur logiciel. "Même si ce n'est pas visible à l'oeil nu, la source serait détectable", dit-elle. "Il faut réguler les boîtes qui font ces outils. (...) C'est leur responsabilité de ne pas aller trop vite dans déploiement de leur technologie." Au sommaire : 00:00 IA, le défi du fake 02:26 A l'EPFL, l'intelligence artificielle au service de la recherche 05:18 Sabine Süsstrunk: "On est encore loin de créer des systèmes plus intelligents que nous" 09:32 L’intelligence artificielle, un développement fulgurant entre innovations et craintes 13:22 Sabine Süsstrunk: "Il faut agir très vite pour réguler l'intelligence artificielle" 20:31 En Corée du Sud, le nouveau président avait fait campagne avec un avatar créé par IA 23:31 En 1997, le robot Deep Blue bat le meilleur joueur d’échecs au monde Garry Kasparov Le site de Géopolitis : http://geopolitis.ch #intelligenceartificielle #chatgpt #midjourney