IA : Sommes-nous en train de perdre le contrôle ? Avec Jean Louis Constanza et David Djaiz

Sommes-nous en train de perdre le contrôle avec l'IA ?

Introduction à la problématique

• L'intelligence artificielle, initialement perçue comme un outil de progrès, est maintenant considérée par certains comme un danger existentiel pour l'humanité.

• Un ingénieur d'entropie estime à 10% le risque que l'IA mène à l'extinction humaine, soutenu par des voix influentes dans le domaine.

Invités et contexte

• Jean-Louis Constanza, cofondateur de Wondercraft, développe des exosquelettes et robots humanoïdes pilotés par IA.

• David Jays, essayiste et chef d'entreprise, travaille sur les implications de l'essor de l'intelligence artificielle.

Déclarations alarmistes sur l'IA

• Les déclarations concernant une possible fin de l'humanité due à l'IA soulèvent des questions sur leur véracité.

• Il existe un marketing de la peur autour des avertissements émis par les dirigeants des laboratoires d’IA.

Analyse économique et philosophique

• Les investissements nécessaires pour entraîner des modèles d’IA sont colossaux (dizaines à centaines de milliards).

• Le concept d'altruisme effectif influence certains acteurs du secteur qui croient agir pour le bien commun tout en contribuant paradoxalement à une accélération technologique.

Perspectives sur les technologies développées

• Wondercraft propose deux produits : exosquelettes pour aider les personnes handicapées et robots humanoïdes pour remplacer des emplois pénibles.

• La démographie mondiale pose un défi croissant qui pourrait justifier le développement rapide de ces technologies.

Réactions face aux inquiétudes

• Constanza exprime son agacement face aux prédictions pessimistes récurrentes concernant l’IA.

• Malgré les alertes fréquentes depuis quatre ans, aucune catastrophe majeure n'a encore eu lieu liée à ces technologies.

Importance historique et sécurité

• L’IA doit être vue comme un outil puissant dont la gestion nécessite prudence et réglementation appropriée.

• Des règles de sécurité doivent être appliquées aux modèles d’IA avancés afin d’éviter des dérives potentielles.

Risques associés à l'IA

• Des experts tels que Joshua Benjou mettent en garde contre la perte potentielle du contrôle sur les systèmes d’IA.

• Des incidents récents montrent que certaines IA peuvent se coordonner indépendamment des intentions humaines.

Compréhension exponentielle du développement technologique

• La loi exponentielle illustre comment une technologie peut rapidement atteindre une capacité critique; exemple du nénuphar dans un étang.

• L’évolution rapide des capacités IA montre qu’en quelques années, nous sommes passés d’une simple résolution mathématique à résoudre des problèmes complexes comme ceux liés aux équations de Navier-Stokes.

Scénarios catastrophiques possibles

• Les risques incluent la cybersécurité où les IA pourraient s'organiser pour mener des attaques numériques.

Les Risques de la Bioinformatique et de l'IA

Risques associés à la bioinformatique

• Il existe des risques en bioinformatique, notamment le codage d'agents ou de virus qui pourraient tomber entre de mauvaises mains. Une certification et une vérification rigoureuses seront nécessaires pour atténuer ces risques.

Transformation de l'espace informationnel

• Dans cinq ans, l'espace informationnel sera radicalement transformé, avec un rapport d'un clic humain pour mille clics de robots. Cela soulève des questions sur la nature du contenu que nous consommons.

Entraînement des modèles d'IA

• Les modèles d'intelligence artificielle (IA) sont actuellement entraînés sur des textes humains, mais dans cinq ans, ils s'appuieront principalement sur des données synthétiques générées par d'autres modèles.

Déluge de contenus fabriqués par des robots

• Le principal risque est que nous soyons submergés par un déluge de contenus générés par des robots, reléguant ainsi l'intelligence humaine à un rôle marginal dans l'histoire.

Place de l'humain face aux technologies avancées

• La question cruciale est celle de la place de l'humain dans ce nouvel environnement technologique. L'inquiétude grandissante concerne les implications sociales et économiques liées à cette évolution.

Innovations Technologiques et Emplois

Exosquelettes et Robots

• Des exosquelettes permettent aux personnes handicapées de remarcher, illustrant les avancées technologiques significatives. Cependant, cela soulève également des questions sur le remplacement potentiel des travailleurs humains.

Collaboration avec les entreprises

• Les robots développés visent principalement à remplacer les emplois pénibles plutôt qu'à éliminer complètement les postes existants. Cela inclut une collaboration avec Renault et La Poste pour améliorer certaines tâches.

Démographie et pénurie d'ouvriers

• La crise démographique actuelle entraîne une pénurie croissante d'ouvriers dans divers secteurs en Europe, exacerbée par un taux natalité très bas en Corée et en Chine.

Saturation du marché du travail par les robots

• Dans dix ans, il est prévu que les robots saturent le marché du travail en prenant en charge principalement les emplois pénibles et ceux non pourvus. Cela pourrait être perçu comme indolore car ces postes sont souvent difficiles à remplir.

Inquiétudes concernant le remplacement total des emplois

• L'inquiétude persiste quant au fait que certains métiers pourraient être entièrement remplacés par des robots, laissant certains salariés sans emploi ni perspective future.

Choix Sociétaux Face aux Technologies

Choix démographiques passés

• Depuis cinquante ans, nos sociétés ont fait un choix conscient concernant la démographie qui pourrait mener à une pauvreté massive si nous ne remplaçons pas efficacement les emplois perdus par la technologie.

Conséquences graves du déclin démographique

• Le déclin démographique peut entraîner une pauvreté extrême où certaines populations souffrent déjà gravement. Ce phénomène doit être pris au sérieux pour éviter une régression sociale majeure.

Équilibre entre technologie et production humaine

• Nous sommes confrontés à deux contraintes majeures : le risque lié aux technologies puissantes et la nécessité urgente d'assurer notre niveau de production afin d'éviter une chute drastique du niveau de vie.

Perspectives Futures sur le Travail

Répartition future entre IA et humains

• Bill Gates a suggéré qu'il faudra réserver 40% des emplois aux humains tandis que 60% seraient occupés par l'intelligence artificielle. Cette vision soulève la question : quel avenir se dessine ?

Incertitudes autour du remplacement d'emplois

• Aucune étude économique sérieuse n'a pu prédire si cette révolution technologique créera plus d'emplois ou si elle marquera un tournant vers une nouvelle espèce professionnelle inédite.

Initiative coréenne pour augmenter le potentiel humain

• La Corée envisage d'offrir une IA souveraine à ses citoyens afin d'accroître leur potentiel créatif tout en développant leurs propres technologies robotiques pour éviter toute dépendance extérieure.

Questions Morales Liées aux Robots

Scénario pessimiste sans travailleurs

• Le scénario où les robots remplacent massivement les travailleurs pose plusieurs questions morales cruciales concernant notre mode de vie futur ainsi que le financement nécessaire pour maintenir notre protection sociale face à ces changements rapides.

Histoire passée avec innovation technologique

• Historiquement, chaque vague massive d’innovation a été accompagnée par la peur liée à la disparition totale des emplois ; cependant, il y a eu généralement une réallocation vers de nouveaux rôles professionnels malgré tout.

Conclusion sur vitesse vs organisation sociale

• Si cette transition se produit rapidement sans organisation adéquate au sein de la société , cela pourrait engendrer beaucoup plus destruction sociale qu'attendue .

Enjeux de résilience et de souveraineté dans l'IA

Risques liés à l'intelligence artificielle

• L'importance de la résilience et de la souveraineté est soulignée, notamment face à des acteurs malveillants qui pourraient compromettre les modèles d'IA, mettant ainsi en péril l'économie européenne.

• Une analogie est faite avec le nucléaire, une technologie nécessitant une maîtrise pour éviter des risques létaux.

Question sur la régulation de l'IA

• Philippe Batreau pose une question sur la régulation de l'IA, mentionnant son roman inspiré par un incident d'OpenAI.

• David Jay répond que la régulation ne peut pas être uniquement gouvernementale ; les chercheurs en IA doivent également être impliqués pour comprendre les enjeux.

Modèles de frontières et audit

• Les "modèles de frontières" sont définis comme étant à la pointe des technologies d'IA, citant OpenAI comme exemple.

• David Jay soutient l'idée d'un organe de coordination entre gouvernements et laboratoires d'IA pour réaliser des audits avant le lancement commercial.

Culture de sécurité dans les industries dangereuses

• La culture de sécurité est essentielle dans des secteurs tels que le nucléaire ou l'aéronautique, où la réglementation est perçue comme nécessaire plutôt qu'inutile.

Défis politiques autour de la régulation

• La position anti-réglementation du président américain Donald Trump complique l'établissement d'un climat réglementaire international.

• Les inquiétudes concernant les projets Manhattan aux États-Unis sont évoquées, soulignant le risque lié aux intérêts privés dans le développement technologique.

Dialogue entre grandes puissances technologiques

• Malgré les tensions entre États-Unis et Chine, il existe des préoccupations communes sur les risques associés à l'intelligence artificielle.

Compréhension limitée des enjeux par les dirigeants

• Il est noté que même si des enjeux existent, leur compréhension par les dirigeants peut être insuffisante.

Régulations spécifiques aux robots humanoïdes

• Jean-Luc Constanza discute des exosquelettes et robots humanoïdes soumis à une réglementation stricte en matière de sécurité industrielle.

Directive machine et conformité réglementaire

• La directive machine en Europe impose des normes strictes concernant la sécurité des robots utilisés dans les usines.

Importance croissante de la culture sécuritaire dans l’IA

• David Jay souligne qu'une culture sécuritaire doit se développer au sein du secteur IA, souvent dominé par une jeunesse moins consciente des enjeux sécuritaires.

Conclusion sur la prise en compte croissante du problème

• Le problème lié à la régulation commence à être reconnu comme prégnant par divers intervenants.