FULL DISCUSSION: Google's Demis Hassabis, Anthropic's Dario Amodei Debate the World After AGI | AI1G

Introduction à la conversation

Accueil et contexte

• Bienvenue à tous, introduction de la discussion qui a été attendue avec impatience.

• Référence à une précédente conversation entre Darede et Deis Hassabos, comparée à un concert des Beatles et des Rolling Stones.

• Annonce du sujet principal : "le jour après l'AGI" (Intelligence Artificielle Générale).

Chronologie de l'AGI

• Dario mentionne que le modèle capable d'égaler un lauréat du prix Nobel pourrait être prêt d'ici 2026 ou 2027.

• Discussion sur les modèles qui écrivent du code, avec des ingénieurs utilisant ces modèles pour automatiser leur travail.

Perspectives sur le développement de l'AGI

Opinions divergentes

• Dario estime qu'il est difficile de prédire combien de temps cela prendra, mais il pense que cela ira plus vite que prévu.

• Demis exprime une opinion plus prudente, soulignant les défis dans certaines disciplines scientifiques par rapport au codage.

Capacité d'automatisation

• Demis souligne que certaines tâches comme le codage sont plus faciles à automatiser en raison de leur vérifiabilité.

• Il mentionne également les limitations actuelles concernant la créativité scientifique et l'élaboration de nouvelles théories.

Évolution du paysage technologique

Changements récents dans la compétition

• Discussion sur les changements dans la hiérarchie des entreprises travaillant sur l'IA depuis l'année dernière.

• Mention d'un moment clé pour DeepMind et comment cela a affecté leur position par rapport à OpenAI.

Progrès réalisés par DeepMind

• Affirmation de confiance quant au retour en tête des classements grâce aux recherches approfondies menées par DeepMind.

• Reconnaissance des progrès réalisés avec le modèle Gemini 3 et son application, tout en notant qu'il reste encore beaucoup à faire.

Développement des modèles d'IA et défis pour les créateurs indépendants

État actuel des créateurs de modèles d'IA

• Daria discute de la pression croissante sur les créateurs de modèles indépendants, soulignant une inquiétude quant à leur capacité à survivre jusqu'à ce que les revenus commencent à arriver.

• Il est mentionné qu'il existe une relation exponentielle entre la puissance de calcul investie dans un modèle et sa capacité cognitive, ainsi qu'entre cette capacité et le revenu généré.

Croissance des revenus

• Les revenus ont connu une croissance significative, passant de 0 à 100 millions en 2023, puis projetés à 1 milliard en 2024 et 10 milliards en 2025.

• Bien que ces chiffres soient impressionnants, il y a toujours une incertitude quant à leur continuité. La confiance réside dans la production des meilleurs modèles.

Comparaison avec Google et Anthropic

• Daria souligne que Google et Anthropic partagent un objectif commun : résoudre des problèmes scientifiques importants grâce à la recherche axée sur les modèles.

• Une question est soulevée concernant l'avenir des entreprises qui ne sont pas dirigées par des chercheurs.

Fermeture du cycle technologique dans l'IA

Perspectives sur l'AGI

• La discussion se tourne vers la possibilité d'obtenir des modèles capables de s'améliorer eux-mêmes, ce qui pourrait créer un seuil où "le gagnant prend tout".

• Bien que certains aspects soient déjà présents dans le codage et la recherche, la fermeture complète du cycle reste incertaine.

Limites techniques

• L'AGI pourrait être nécessaire pour atteindre cet objectif dans certains domaines complexes où il est difficile de vérifier rapidement les réponses.

• Des limitations peuvent également provenir du matériel utilisé pour intégrer ces systèmes d'amélioration autonome.

Réflexions sur l'avenir de l'IA

Essai "Machines of Love and Grace"

• Daria annonce qu'il travaille sur une mise à jour de son essai précédent, qui était optimiste quant au potentiel futur de l'IA.

Risques associés à l'IA

• Malgré son optimisme initial, il reconnaît également les risques graves liés au développement de l'IA.

• Il insiste sur le fait qu'il n'est pas pessimiste mais qu'il est crucial d'aborder ces risques avec un plan stratégique.

Approche positive face aux défis

• Même lorsqu'il aborde les risques, Daria cherche comment les surmonter plutôt que de céder au désespoir.

La Technologie et ses Défis Éthiques

Questions sur l'Humanité et la Technologie

• Un personnage dans un film pose une question aux extraterrestres : "Comment avez-vous réussi à traverser cette adolescence technologique sans vous détruire ?" Cette réflexion reste marquante pour le locuteur.

Capabilités Technologiques et Responsabilité

• Le locuteur souligne que nous approchons de capacités technologiques incroyables, comme construire des machines à partir de sable, mais la manière dont nous gérons ces technologies n'est pas inévitable.

Risques Associés aux Systèmes Autonomes

• Il exprime des préoccupations concernant le contrôle des systèmes autonomes plus intelligents que les humains, ainsi que les risques d'utilisation abusive par des individus ou des États-nations.

Impact Économique et Emploi

• Le locuteur aborde les impacts économiques, notamment le déplacement de la main-d'œuvre. Il s'interroge sur ce qui n'a pas encore été envisagé en matière de gestion des risques liés à l'IA.

Urgence d'une Réflexion Collective

• Il ressent une urgence à réfléchir collectivement sur ces enjeux, soulignant que chaque jour apporte son lot de défis en dehors du domaine de l'IA.

L'Avenir du Marché du Travail

Perspectives sur l'Emploi avec l'IA

• Une discussion s'engage sur l'avenir des emplois blancs : il est suggéré qu'une moitié pourrait disparaître dans les cinq prochaines années.

Observations Actuelles du Marché du Travail

• Bien qu'il y ait eu une augmentation du chômage aux États-Unis, cela semble être dû à un excès d'embauches post-pandémie plutôt qu'à une influence directe de l'IA.

Création de Nouveaux Emplois

• Les économistes soutiennent que même si certains emplois seront perturbés par la technologie, de nouveaux emplois plus significatifs pourraient émerger grâce à cette évolution.

Outils Créatifs Disponibles

• Des outils créatifs accessibles presque gratuitement pourraient compenser la perte d'opportunités traditionnelles comme les stages, permettant aux jeunes professionnels d'acquérir rapidement des compétences utiles.

Territoires Inexplorés après AGI

• Une fois que l'intelligence générale artificielle (AGI) sera atteinte, nous entrerons dans un territoire inconnu où les dynamiques professionnelles pourraient changer radicalement.

Impact de l'IA sur le marché du travail et la société

Adaptabilité du marché du travail

• Le marché du travail est adaptable, comme en témoigne l'évolution des emplois, passant de l'agriculture à l'industrie puis aux métiers de la connaissance.

• L'inquiétude réside dans le fait que les changements exponentiels pourraient dépasser notre capacité d'adaptation dans un délai de 1 à 5 ans.

Réponses politiques et économiques

• Il y a un manque d'efforts significatifs pour anticiper les impacts économiques liés à l'IA, même parmi les économistes.

• La question de la répartition équitable des nouvelles richesses générées par l'IA est cruciale, mais il existe des doutes quant à nos institutions actuelles pour gérer cela.

Questions existentielles et sens du travail

• Au-delà des préoccupations économiques, il y a des questions plus profondes concernant le sens et le but que nous tirons de nos emplois.

• Les activités humaines telles que les sports extrêmes ou l'art peuvent offrir un sens au-delà du gain économique.

Risques de réaction populaire contre l'IA

• Un risque croissant d'antipathie envers l'IA pourrait inciter les gouvernements à prendre des décisions imprudentes face aux craintes liées aux emplois.

• L'histoire montre qu'un manque d'action gouvernementale face aux pertes d'emploi peut mener à une réaction publique négative.

Compétition géopolitique et coopération internationale

• La compétition entre entreprises et nations (notamment entre les États-Unis et la Chine) complique la situation actuelle autour de l'IA.

• Une coopération internationale est nécessaire pour établir des normes minimales de sécurité lors du déploiement technologique afin d'assurer un impact positif sur toute l'humanité.

Discussion sur la technologie et les risques associés

Réflexions sur l'administration et la vente de puces

• L'intervenant souligne que malgré les recommandations politiques, l'administration semble agir à l'opposé, ce qui complique leur opération dans un environnement difficile.

• Il insiste sur le fait que ne pas vendre de puces est crucial pour avoir le temps nécessaire pour gérer les défis technologiques, préférant un délai de 5 à 10 ans.

Compétition géopolitique et ralentissement

• La difficulté d'établir des accords contraignants avec des adversaires géopolitiques est mise en avant; ralentir le développement technologique devient complexe.

• L'intervenant compare la situation actuelle à une compétition entre lui-même et Demis plutôt qu'une rivalité entre les États-Unis et la Chine.

Importance de la technologie

• Il aborde la question de l'importance stratégique des technologies vendues, comparant cela à des décisions éthiques comme vendre des armes nucléaires.

• Cette analogie vise à illustrer pourquoi certaines ventes de technologies peuvent être problématiques malgré leurs bénéfices économiques apparents.

Risques liés aux IA malveillantes

• Les inquiétudes concernant une IA malveillante sont discutées; bien que sceptiques face au catastrophisme, ils reconnaissent les comportements problématiques émergents des modèles d'IA.

• L'intervenant évoque leur recherche initiale sur l'interprétabilité mécaniste pour comprendre ces comportements indésirables.

Équilibre entre potentiel et risque

• Bien qu'il ait toujours été préoccupé par ces risques, il croit fermement en la capacité humaine à contrôler et diriger ces créations technologiques si elles sont développées correctement.

• En réfléchissant aux avancées récentes, il exprime sa confiance dans le potentiel positif de l'IA tout en restant conscient des dangers si elle n'est pas gérée avec prudence.

Discussion sur les Risques Techniques et l'Intelligence Artificielle

Collaboration pour résoudre les problèmes techniques

• L'intervenant souligne l'importance de la collaboration entre les esprits brillants pour résoudre les problèmes techniques liés à l'intelligence artificielle. Il mentionne que sans cette collaboration, il y a un risque de fragmentation des projets.

• La fragmentation pourrait rendre difficile la garantie de la sécurité technique des systèmes produits, car différents groupes pourraient travailler en compétition plutôt qu'en coopération.

Réflexion philosophique sur le paradoxe de Fermi

• Un participant, Philip, pose une question philosophique sur le paradoxe de Fermi, qui se demande pourquoi nous ne voyons pas d'autres formes de vie intelligente dans notre galaxie.

• L'intervenant répond que ce paradoxe ne peut pas être expliqué par l'absence d'intelligence extraterrestre due à leur propre technologie destructrice. Il suggère qu'il devrait y avoir des signes d'intelligences artificielles (IA) ou biologiques.

Théories sur le filtre grand

• L'intervenant partage sa théorie selon laquelle l'humanité aurait déjà passé un "grand filtre", probablement lié à l'évolution de la vie multicellulaire. Cela soulève des questions sur ce qui pourrait arriver ensuite pour l'humanité.

• Il exprime son sentiment que c'est à l'humanité d'écrire son propre avenir, indiquant une responsabilité collective face aux défis futurs.

Perspectives futures sur les systèmes IA

• Lors d'une prochaine rencontre prévue, il est suggéré que le développement des systèmes IA capables de créer d'autres systèmes IA sera crucial pour déterminer si nous avançons vers un avenir prometteur ou dangereux.

• En plus du développement des IA, il mentionne également d'autres recherches intéressantes comme les modèles mondiaux et l'apprentissage continu qui nécessitent encore des percées significatives.