Is AI Progress Stuck? | Jennifer Golbeck | TED

¿Qué es la Inteligencia General Artificial y por qué nos preocupa?

Introducción a la IA Generativa

• La inteligencia artificial (IA) ha avanzado en tareas específicas, superando el rendimiento humano, como en el ajedrez.

• La conversación se ha centrado en la inteligencia general artificial (IGA), que implica que la IA podría igualar o superar a los humanos en diversas tareas.

Preocupaciones sobre la IGA

• Algunos líderes de la industria tecnológica advierten que su tecnología puede representar una amenaza existencial para la humanidad.

• Esta narrativa puede ser impulsada por intereses financieros, ya que advertir sobre peligros puede atraer inversiones.

Distracciones de Problemas Reales

• El enfoque en futuros distópicos distrae de problemas actuales causados por la IA, como los deepfakes y sesgos raciales en decisiones judiciales.

¿Estamos cerca de lograr la IGA?

• Hay opiniones divididas sobre si alcanzaremos pronto la IGA; Elon Musk predice un año para lograrlo, mientras que herramientas recientes de Google muestran limitaciones.

Desafíos Técnicos y Fiabilidad

• Para avanzar hacia la IGA, es crucial abordar el problema de fiabilidad; muchos algoritmos son propensos a errores.

• Ejemplos incluyen fallas en resultados de búsqueda y malentendidos frecuentes al usar herramientas como ChatGPT.

Alucinaciones de IA

• Un desafío significativo es el fenómeno conocido como "alucinación", donde las IA inventan información incorrecta.

• Este problema debe resolverse para cumplir con las expectativas sobre lo que puede hacer la IA generativa.

Aplicaciones Legales y Precauciones

• En el ámbito legal, hay entusiasmo por utilizar IA para redactar documentos; sin embargo, esto presenta riesgos significativos debido a posibles invenciones erróneas.

¿Cuál es el futuro de la IA generativa?

Desempeño y Limitaciones de la IA Generativa

• La herramienta más efectiva en términos de alucinaciones aún presenta un 17% de errores. Aunque se ha logrado un avance significativo, la fiabilidad sigue siendo un problema.

• Dependiendo de estas herramientas, su tasa de error del 20-30% plantea dudas sobre su utilidad real. Es crucial mejorar la fiabilidad para que sean efectivas.

• Se requieren más datos y mejoras tecnológicas. Sin embargo, ya se han utilizado muchas fuentes confiables en línea, lo que complica la obtención de nuevos datos.

• La IA generativa ha prosperado creando contenido de baja calidad, como desinformación y páginas web con SEO engañoso, lo que afecta negativamente los datos disponibles para entrenar modelos.

• La historia muestra que cuando la IA se entrena con sus propios resultados, puede deteriorarse progresivamente. Esto resalta la necesidad urgente de resolver problemas relacionados con los datos.

Inversión y Sostenibilidad en Tecnología

• A pesar de las inversiones masivas (USD 50 mil millones), los ingresos generados (USD 3 mil millones) no son sostenibles a largo plazo. Las empresas deben encontrar formas prácticas para utilizar esta tecnología.

• Existe preocupación sobre si la IA reemplazará trabajos humanos. Este temor puede ser infundado si consideramos cómo las empresas pueden beneficiarse sin despedir empleados.

Eficiencia vs Costo

• Si una empresa emplea dos ingenieros y utiliza IA para aumentar su eficiencia, podría optar por mantener ambos empleados en lugar de despedir a uno debido a los beneficios económicos adicionales.

• El costo elevado asociado a algunas soluciones de IA podría hacerlas poco atractivas frente a alternativas más económicas y accesibles que ya existen en el mercado.

Problemas Éticos y Sesgos en IA

• A pesar del potencial económico, hay preocupaciones sobre sesgos inherentes en los modelos entrenados con datos humanos. Estos sesgos siguen apareciendo sin solución efectiva hasta ahora.

• Intentos por mitigar sesgos mediante barreras han resultado contraproducentes; ejemplos incluyen fallas en sistemas como el generador de imágenes de Google que produce resultados incorrectos al intentar evitar sesgos.

Reflexiones Finales sobre Inteligencia Humana vs Artificial

• La incapacidad actual e futura de la inteligencia artificial para replicar aspectos fundamentales del ser humano—como conexión emocional y creatividad—plantea preguntas sobre su rol en decisiones críticas.

• Es esencial abordar estos problemas antes de adoptar ampliamente tecnologías basadas en IA solo por su atractivo superficial; nuestra humanidad no debe definirse únicamente por productividad laboral.