AGI is Almost Here! What comes next? What's left to do? How do we adapt and prepare?

L'Intelligence Artificielle Générale est-elle à nos portes ?

État actuel de l'intelligence artificielle

• Avec la sortie de la version 01, nous sommes très proches de l'intelligence artificielle générale (AGI), mais il y a beaucoup de nuances à explorer.

• Les discussions sur les capacités d'01 rivalisent ou surpassent celles des humains dans plusieurs domaines, comme le montre un utilisateur ayant terminé sa thèse en une heure grâce à cette IA.

• Comparé à un bon étudiant diplômé, 01 est jugé utile, bien que ce ne soit pas encore le modèle complet qui sera disponible en octobre.

Perspectives sur l'AGI

• Le modèle complet d'01 et le projet Orion pourraient représenter la prochaine génération d'IA, potentiellement GPT-5.

• Bien que certains affirment que 01 n'est pas AGI car il manque d'incarnation physique, cela est contesté ; tout est question de données.

• La plupart des tâches précieuses pour l'AGI ne nécessitent pas nécessairement une présence physique mais peuvent être réalisées via des API.

Impact économique et scientifique

• Les impacts économiques et scientifiques sont les principaux critères pour évaluer si nous avons atteint l'AGI ; l'incarnation physique n'est pas essentielle selon certains experts.

• Pour réaliser les gains économiques souhaités, des robots seront nécessaires pour certaines tâches comme la construction.

Défis liés à la mise en œuvre

• La sécurité autour de l’AGI reste cruciale ; avoir AGI ne signifie pas qu'il peut se déployer sans contrôle depuis un centre de données.

• Environ 65% des emplois sont considérés comme des emplois de bureau, ce qui représente un risque important pour l'automatisation future.

Frictions réglementaires et adoption

• L'adoption de l'AGI sera freinée par des obstacles réglementaires et par le fait que beaucoup d’emplois n'ont pas été conçus pour être réalisés par des machines.

Défis de l'adoption de l'IA et des robots

Résistance à l'adoption de l'IA

• Il existe une résistance significative à la mise en œuvre de l'IA et des robots, avec des efforts potentiels de sabotage réglementaire pour freiner leur déploiement.

• La vigilance est nécessaire face aux tentatives de sabotage provenant non seulement des entreprises, mais aussi des niveaux supérieurs du gouvernement, où les réactions émotionnelles peuvent influencer les décisions.

• Le mouvement néolibéral pourrait ralentir le progrès technologique en créant des obstacles intentionnels.

Communauté Pathfinders

• Introduction d'une nouvelle communauté appelée "Pathfinders", visant à naviguer dans la transition vers la quatrième révolution industrielle.

• La communauté propose divers projets pratiques et un apprentissage structuré pour aider les membres à s'adapter aux changements induits par l'IA.

• Des webinaires réguliers sont organisés pour améliorer les compétences en communication, y compris des exercices pratiques comme le "Discovery diads".

Adoption par les entreprises

• L'adoption par les entreprises représente un défi majeur car elles sont souvent réticentes au risque et préfèrent attendre que des fournisseurs fiables proposent des solutions d'IA.

• Les dirigeants d'entreprise montrent une hésitation notable envers l'intelligence artificielle, avec seulement 13 à 25 % d'entre eux enthousiastes quant à son adoption immédiate.

• Cette attitude prudente est alimentée par une méfiance envers la technologie de la Silicon Valley, perçue comme ayant tendance à surpromettre sans livrer.

Sécurité de l'IA

• Une conférence locale sur la sécurité de l'IA a révélé que le paysage changeant nécessite une nouvelle approche face aux menaces potentielles liées à l'intelligence artificielle.

• Contrairement aux visions apocalyptiques passées, le développement actuel de l'IA est décentralisé et itératif, ce qui modifie notre compréhension du risque associé.

Approche itérative du développement

• Un débat entre Sam Altman et Ilia sur la rapidité du déploiement souligne que tester rapidement sur le marché peut fournir un retour précieux pour améliorer la sécurité.

Boucles de rétroaction pour la sécurité des robots

Boucles de rétroaction principales

• Cinq boucles de rétroaction essentielles guideront la sécurité à mesure que les robots évoluent vers l'AGI (Intelligence Artificielle Générale) et l'ASI (Intelligence Artificielle Super).

• Le retour du marché est crucial, illustré par le lancement de Gemini qui a suscité des réactions négatives en raison de ses refus d'aborder certains sujets, affectant ainsi l'image publique de Google.

Exigences des entreprises

• Les entreprises sont prudentes face aux nouvelles technologies; elles exigent transparence et explicabilité avant d'adopter l'AGI.

• Les exigences militaires sont strictes : fiabilité et mécanismes d'arrêt efficaces sont indispensables pour obtenir des contrats.

Rétroaction gouvernementale

• La rétroaction gouvernementale comprend deux aspects : la réglementation et la nécessité d'être un fournisseur approuvé pour vendre l'AGI au gouvernement.

• Ces boucles ralentiront le déploiement général de l'AGI, influençant également sa viabilité commerciale.

L'avenir de l'open source dans le développement technologique

Défis financiers et créativité

• L'échelle pourrait devenir un obstacle majeur, car les coûts pour former des modèles atteignent des centaines de millions ou même des milliards.

• Cependant, travailler avec des ressources limitées peut stimuler la créativité, comme observé dans divers projets innovants malgré les contraintes budgétaires.

Comparaison internationale

• Des pays comme la Russie et la Chine ont réussi à innover avec moins de ressources que les États-Unis, prouvant que les limitations peuvent engendrer une pensée créative efficace.

Progrès technologiques imminents

Annonces futures

• De nouveaux modèles (01), plus avancés que ceux actuellement disponibles, devraient être lancés en octobre.

• Sam Altman a également mentionné un projet Orion prévu pour Noël, promettant plusieurs avancées successives dans le domaine.

Évaluation du progrès

• Si le modèle 01 preview a déjà surpassé beaucoup d'humains dans diverses tâches, il est raisonnable d'attendre une continuité dans cette tendance.

Modèle "Tick Tock" dans l'industrie technologique

Stratégie d'évolution

• OpenAI semble suivre un modèle similaire à celui utilisé dans l'industrie des puces électroniques : changer d'abord l'architecture puis optimiser.

Optimisation et Coût des Modèles d'IA

Stratégies d'optimisation

• OpenAI adopte un modèle d'optimisation et de mise à l'échelle pour réduire les coûts, similaire aux pratiques établies dans l'industrie des puces depuis des décennies.

• Au cours des 6 à 24 mois suivants, la génération de modèles "strawberry" devrait voir une baisse continue des prix, bien que cela puisse entraîner une perte d'intelligence due aux optimisations.

Intelligence et Coût

• La réduction des coûts est essentielle; Sam Altman souligne que l'intelligence doit être "trop bon marché pour être mesurée", ce qui n'est pas le cas actuellement avec les tarifs élevés.

Arguments Contre l'AGI

Compréhension et Utilité

• Quatre arguments principaux sont avancés contre la notion que ces systèmes représentent une AGI :

• L'idée qu'ils ne comprennent pas vraiment leur fonctionnement est jugée non pertinente car leurs résultats sont économiquement et scientifiquement valables.

Expérience Subjective

• L'absence d'expérience subjective ou de conscience n'empêche pas un outil d'être utile; par exemple, un outil comme une clé anglaise n'a pas besoin d'expérience pour être efficace.

Argumentation sur l'Incorporation

• Les robots pourraient simplement agir comme des marionnettes pour l'IA, sans nécessiter de véritables expériences physiques.

Intelligence Collective

• L'idée que les humains collectivement surpassent les machines pourrait changer si nous avons bientôt des agents AGI avec un QI très élevé, remettant en question cette supériorité collective.

Réactions Humaines au Changement

Résistance au Changement

• Beaucoup réagissent par la peur face aux changements technologiques imminents, utilisant divers arguments pour défendre leur ego plutôt que de faire face à la réalité.

Annonces Personnelles

Publication du Roman

• Après plus de cinq ans de travail, le roman "Heavy Silver" a été soumis pour approbation finale. Il sera disponible sous forme de livre papier sans version numérique prévue.

Projets Futurs