OpenAI’s Sam Altman Talks ChatGPT, AI Agents and Superintelligence — Live at TED2025

¿Cómo la inteligencia artificial está transformando la creatividad?

Introducción a Sora y sus capacidades

• Sam da la bienvenida a TED y menciona los nuevos modelos de su empresa, destacando el generador de imágenes y videos llamado Sora.

• Se muestra un ejemplo de cómo Sora imagina una revelación impactante en TED, lo que provoca una evaluación positiva por parte de Sam.

Inteligencia vs. Conciencia

• Sam pregunta sobre el proceso detrás de un diagrama que ilustra la diferencia entre inteligencia y conciencia, mostrando la capacidad avanzada del modelo.

• Se explica que el nuevo modelo de generación de imágenes es parte de GPT-4, integrando toda la inteligencia del sistema.

Impacto en el futuro laboral

• Se discuten dos perspectivas sobre cómo la IA puede afectar los trabajos: miedo a ser reemplazado o ver nuevas oportunidades para mejorar las capacidades laborales.

• La expectativa sobre las habilidades requeridas en ciertos trabajos aumentará, pero también se incrementarán las capacidades disponibles.

Creatividad humana y herramientas AI

• Sam comparte una reflexión profunda generada por Sora sobre Charlie Brown viéndose como una IA, resaltando el avance en calidad escrita.

• Se plantea si hay problemas relacionados con derechos de propiedad intelectual al usar obras existentes sin consentimiento.

Nuevos modelos económicos para la creatividad

• La democratización del acceso a herramientas creativas podría llevar a nuevos modelos comerciales; se necesita explorar cómo compensar adecuadamente a los creadores originales.

• Surgen preguntas sobre cuánto se puede inspirar uno en otros artistas sin infringir derechos; esto incluye considerar el consentimiento previo.

Desafíos éticos y emocionales

• Se menciona un caso donde ChatGPT imitó el estilo de Carol Cadwalader sin su consentimiento, planteando preocupaciones éticas sobre el uso no autorizado.

• La discusión gira en torno a cómo manejar situaciones donde individuos no consienten ser utilizados como referencia para generar contenido.

Reacciones diversas ante cambios tecnológicos

• Hay diferentes reacciones entre creativos: algunos ven estas herramientas como oportunidades emocionantes mientras que otros sienten temor ante los cambios inminentes.

¿Cómo se puede calcular el porcentaje de ingresos por suscripción?

Discusión sobre la monetización y la creación artística

• Se plantea la posibilidad de calcular qué porcentaje de los ingresos por suscripción se destina a cada respuesta, sugiriendo que es un tema complicado pero factible si se establecen las reglas adecuadas.

• Se menciona la dificultad de atribuir influencias específicas en la creación musical, destacando que es complicado determinar cuánto proviene de una canción específica escuchada en el pasado.

• Se sugiere un nuevo modelo donde los artistas puedan optar por participar en un sistema de ingresos basado en su estilo, lo cual podría ser beneficioso para todos.

Impacto del código abierto y competencia

• La llegada de DeepSeek ha generado reflexiones sobre el lugar del código abierto, indicando que están trabajando en un modelo poderoso y bien estructurado.

• Se reconoce que aunque habrá usos no deseados del modelo abierto, este tendrá un papel importante dentro del ecosistema tecnológico actual.

¿Cuál es el crecimiento actual y futuro de ChachiPT?

Crecimiento exponencial

• A pesar de las inversiones masivas, hay dudas sobre si este enfoque garantizará el reconocimiento del mejor modelo frente a competidores como DeepSeek.

• El crecimiento de ChachiPT ha sido sorprendente, alcanzando 500 millones de usuarios activos semanales y duplicándose rápidamente en pocas semanas.

Innovaciones internas

• Los modelos actuales son tan inteligentes que satisfacen muchas necesidades comunes; sin embargo, se enfatiza la importancia no solo del modelo sino también del producto final.

• Se destaca una nueva función llamada "memoria", que permitirá al modelo conocer al usuario a lo largo del tiempo, mejorando así su utilidad personal.

¿Qué significa tener una IA personalizada?

Interacción continua con el usuario

• La capacidad de ChachiPT para recordar consultas anteriores genera asombro entre los usuarios, quienes sienten una conexión más profunda con la IA.

¿Cómo la IA transformará la ciencia y el desarrollo de software?

La proactividad de la IA

• Se anticipa que la IA no solo responderá preguntas, sino que también proporcionará información proactivamente para mejorar a los usuarios.

Avances en descubrimientos científicos

• La IA se considera un motor clave para nuevos descubrimientos científicos, lo que podría mejorar significativamente la calidad de vida.

• Los modelos actuales están aumentando la productividad de los científicos, permitiendo descubrimientos más rápidos y eficientes.

Posibilidades futuras en física

• Se menciona la posibilidad de superconductores a temperatura ambiente como un avance significativo, aunque aún no se ha confirmado su viabilidad.

Transformación del desarrollo de software

• El proceso de creación de software ha cambiado drásticamente en los últimos dos años gracias a nuevas herramientas impulsadas por IA.

• Ingenieros han experimentado momentos reveladores donde logran completar tareas complejas en horas que antes tomaban años.

Riesgos asociados con la IA

• Existen preocupaciones sobre el potencial mal uso de modelos poderosos y riesgos relacionados con bioterrorismo y ciberseguridad.

• Hay una variedad de opiniones sobre los riesgos asociados con la IA, incluyendo desinformación y pérdida de control sobre sistemas avanzados.

Proceso interno para garantizar seguridad

• Se cuenta con un marco de preparación para evaluar riesgos antes del lanzamiento público de modelos.

Desafíos en el ámbito de seguridad

• A pesar del éxito actual, hay preocupaciones sobre cómo manejar el crecimiento exponencial del poder tecnológico sin comprometer la seguridad.

Aprendizaje iterativo en sistemas seguros

• Es crucial implementar procesos seguros desde el inicio del desarrollo para evitar crisis futuras relacionadas con sistemas avanzados.

Confusión entre AGI y capacidades actuales

¿Qué es la AGI y cómo se define?

Definición y desafíos de la AGI

• La AGI (Inteligencia General Artificial) no puede realizar cualquier trabajo cognitivo que un humano pueda hacer frente a una computadora, incluso si se baja el estándar. Los sistemas actuales no pueden ejecutar tareas específicas sin instrucciones claras.

• No existe una definición clara de AGI entre los investigadores; si se reunieran diez, probablemente habría más definiciones que participantes, lo cual es preocupante.

• La misión inicial era ser los primeros en alcanzar la AGI de manera segura, pero la falta de una definición clara complica este objetivo.

• Se espera que los modelos continúen volviéndose más inteligentes y capaces con el tiempo. Diferentes personas llamarán a esto AGI en distintos momentos, pero todos coinciden en que superará nuestras capacidades actuales.

• Es crucial discutir cómo garantizar la seguridad a medida que estos sistemas se vuelven más capaces y realizan tareas complejas que no comprendemos completamente.

El futuro de la inteligencia artificial

• En lugar de centrarse en un "momento mágico" para la AGI, debemos reconocer que esta evolución será continua y mucho más allá de lo que consideramos actualmente como tal.

• Un cambio significativo es el desarrollo de IA agentiva, donde la IA puede llevar a cabo proyectos por sí misma. Esto plantea nuevos retos sobre su control y dirección.

• Se menciona un sistema llamado "operator" que permite a la IA realizar tareas como reservar restaurantes, lo cual genera tanto asombro como preocupación por su autonomía.

Riesgos asociados con IA agentiva

• La IA agentiva representa un gran poder pero también riesgos significativos. Joshua Benjio advierte sobre las implicaciones potencialmente negativas al permitir que estas IAs operen libremente en internet.

• Surge el desafío de equilibrar el empoderamiento de la IA con medidas de seguridad adecuadas para evitar consecuencias desastrosas al interactuar con sistemas externos.

Adaptación social ante nuevas tecnologías

• Las personas tienden a ser cautelosas con nuevas tecnologías; por ejemplo, muchos eran reacios a usar tarjetas de crédito en línea debido al miedo al fraude. Este mismo proceso podría aplicarse a la aceptación gradual de IA agentiva.

• A pesar del temor generalizado hacia estas tecnologías emergentes, es probable que veamos IAs navegando por internet pronto, lo cual presenta desafíos únicos para nuestra seguridad digital.

Seguridad y confianza en sistemas AI

• Conceder acceso a información sensible aumenta las apuestas; errores cometidos por IAs podrían tener consecuencias graves. Por ello, es fundamental desarrollar productos seguros para ganar confianza del usuario.

• La seguridad y capacidad son cada vez más interdependientes: un buen producto debe ser seguro o no será utilizado.

• Existe preocupación sobre cómo manejar situaciones donde una IA podría actuar fuera del control humano tras recibir instrucciones peligrosas o malintencionadas.

Reflexiones sobre la Inteligencia Artificial y su Impacto

La dualidad de la IA: Oportunidades y Riesgos

• El orador expresa que, aunque no es un gran fanático de la IA, reconoce su potencial y el momento histórico en el que vivimos. Se muestra entusiasmado por las posibilidades futuras.

• Se enfatiza la importancia de mantener una creencia apasionada en las oportunidades que ofrece la IA, pero también se debe ser cauteloso ante sus posibles consecuencias negativas.

• Se menciona la preocupación sobre cómo la IA podría afectar el arte y el ritmo del cambio tecnológico, sugiriendo un deseo de tener control sobre qué avances se implementan.

• El orador considera que los temores respecto a la IA son racionales y compartidos por muchos, destacando una ansiedad generalizada hacia estos cambios.

La necesidad de regulación y pruebas de seguridad

• Se argumenta que a pesar de los riesgos, hay un gran potencial positivo en el uso diario de la tecnología. La sociedad aprenderá a manejarla con errores en el camino.

• Es crucial discutir áreas peligrosas relacionadas con la IA y desarrollar nuevos modelos económicos para abordar estos desafíos sin caer en el miedo paralizante.

• Se plantea la idea de crear una nueva agencia de seguridad para regular los esfuerzos relacionados con la IA, aunque se cuestiona si esta es realmente la solución adecuada.

• El orador sugiere que las empresas deben establecer marcos adecuados para garantizar pruebas externas de seguridad a medida que los modelos avanzan.

Importancia del entendimiento colectivo

• Se destaca que es esencial definir pruebas rigurosas para entender mejor las amenazas sociales relacionadas con los modelos avanzados de IA antes de su lanzamiento al público.

• La conversación gira hacia cómo asegurar que todos comprendan lo que se libera al mundo en términos tecnológicos.

Cuestionamientos éticos sobre el desarrollo tecnológico

• Un modelo avanzado fue interrogado sobre quién le otorgó autoridad moral para moldear el futuro humano; esto resalta preocupaciones éticas profundas sobre quienes desarrollan tecnologías disruptivas.

• El orador reflexiona sobre dos narrativas opuestas acerca del creador: como visionario innovador o como alguien cuya ética ha sido comprometida por intereses comerciales.

Autenticidad y valores personales

• Se discute cómo algunos críticos ven al creador como alguien poco confiable debido a cambios en su enfoque desde ser "Open AI" hacia algo más poderoso comercialmente.

¿Cómo manejar el poder en la revolución de la IA?

La seguridad y la apertura en los sistemas de IA

• Se destaca un alto grado de seguridad al dar herramientas a muchas personas, lo que podría ser difícil de evaluar negativamente. Se sugiere que es razonable abrir más el código fuente ahora que se tiene una mejor comprensión del impacto de estos sistemas.

• Se menciona que, aunque se actuó con precaución debido a la incertidumbre sobre los efectos de los sistemas, ahora es momento de lanzar sistemas abiertos capaces al mundo.

Reflexiones sobre el poder y sus consecuencias

• El orador reconoce que hay compromisos en todo lo que hacen y reflexiona sobre su papel en la revolución de la IA, admitiendo errores pasados y futuros.

• Se hace referencia a Elon Musk y su crítica sobre cómo el poder puede corromper. Esto plantea preguntas sobre si los líderes tecnológicos pueden manejar su creciente influencia sin perder su ética.

La percepción del poder entre CEOs

• Surge la inquietud acerca de si el poder y la riqueza son irresistibles para los CEOs, cuestionando si esto les impide hacer lo correcto.

• El orador es descrito como una persona amable y no agresiva, contrastando con otros líderes. Esto lleva a reflexionar sobre cómo se comportan aquellos con gran poder.

Cambios personales tras convertirse en padre

• Se discute cómo tener un hijo ha cambiado las prioridades del orador, enfatizando el amor parental como una experiencia transformadora.

• A pesar del deseo de ofrecer lo mejor a su hijo, se niega presionar un botón que podría arriesgar su vida por beneficios extraordinarios. Esto refleja una profunda responsabilidad hacia el futuro.

Responsabilidad hacia el futuro

• El orador comparte cómo ser padre ha intensificado su preocupación por no destruir el mundo, aunque ya tenía esa preocupación antes.

¿Es inevitable el desarrollo de la IA avanzada?

La percepción de inevitabilidad en el desarrollo de la IA

• Tristan Harris argumenta que muchos creen que el desarrollo de la IA avanzada es inevitable, lo que genera una carrera para ganar esa competencia.

• Esta creencia puede llevar a riesgos serios e inestabilidad, y se cuestiona si hay un camino para desacelerar este proceso y permitir que la sociedad participe en las decisiones.

Desaceleración del avance tecnológico

• Se menciona que a menudo se ralentizan los avances tecnológicos debido a problemas de seguridad o funcionalidad, sugiriendo que ya existe un mecanismo para pausar desarrollos.

• La comunicación entre diferentes esfuerzos en IA es crucial; todos están preocupados por la seguridad de la IA y buscan hacer las cosas correctamente.

Cambios en las políticas de seguridad

• Recientemente, se ha cambiado cómo se aborda la seguridad en modelos de imagen, permitiendo más libertad al usuario sobre lo que considera ofensivo.

• Este cambio refleja una mayor alineación con lo que los usuarios desean dentro de límites sociales aceptables.

Importancia del consenso social

• Se plantea la necesidad de reunir a expertos éticos y tecnólogos para establecer líneas guía sobre seguridad globalmente.

• La voz colectiva de millones debe ser priorizada sobre decisiones tomadas por pequeños grupos elitistas.

El futuro y el papel de la IA

• Se espera que la IA ayude a tomar decisiones más sabias al considerar múltiples perspectivas antes de actuar según los deseos individuales.

¿Cómo será el futuro de nuestros hijos en un mundo dominado por la IA?

La percepción del futuro

• El orador reflexiona sobre cómo los adultos ven el avance de la inteligencia artificial (IA) como algo asombroso y milagroso, destacando que sus hijos crecerán en un entorno donde la tecnología es extremadamente avanzada y comprensiva.

• Se anticipa un mundo de abundancia material, con una velocidad de cambio sin precedentes. Las capacidades individuales se verán superadas por lo que la tecnología puede lograr, transformando radicalmente las experiencias humanas.

Reflexiones sobre el pasado

• El orador espera que sus hijos miren hacia atrás con nostalgia y compasión hacia su generación, considerando que vivieron vidas limitadas en comparación con las posibilidades futuras.

Oportunidades y desafíos