Desafíos éticos y regulatorios de la IA en el Periodismo

Introducción al Foro sobre Inteligencia Artificial en el Periodismo

Agradecimientos y Contexto

• El presentador agradece la presencia de los asistentes al foro, destacando su importancia en el ámbito de la inteligencia artificial aplicada al periodismo.

• Se menciona que este encuentro busca ser un espacio de reflexión y debate sobre los cambios en la comunicación y el periodismo debido a la tecnología.

• Se enfatiza la necesidad de tener una perspectiva polihédrica para entender el fenómeno multidimensional que representa la inteligencia artificial en diversos sectores.

Colaboraciones y Apoyos

• Se reconoce a colaboradores del máster "El Confidencial URJC" y a representantes de la cátedra OGJC por su apoyo en la realización del evento.

• El presentador destaca cómo se puede aprender de otros sectores sobre la incorporación de inteligencia artificial, lo cual es relevante para el periodismo.

Reflexiones Personales sobre Internet y Periodismo Digital

Primeras Experiencias con Internet

• Ángel Villarino comparte su primera experiencia conectándose a internet, recordando las dudas iniciales sobre su funcionamiento y utilidad.

• Relata sus primeras prácticas en un periódico digital que ya no existe, donde aprendió conceptos básicos como HTML sin comprender completamente qué significaba ser un periodista digital.

Desafíos Iniciales del Periodismo Digital

• Comenta las dificultades que enfrentaban los periodistas digitales para ser reconocidos como medios legítimos durante sus inicios.

• Menciona cómo muchos consideraron que internet era una moda pasajera tras el colapso de empresas digitales, reflejando escepticismo hacia esta nueva forma de comunicación.

Parallelos entre Internet e Inteligencia Artificial

• Villarino establece un paralelismo entre los desafíos actuales con la inteligencia artificial y aquellos vividos durante los primeros días del periodismo digital.

¿Cómo la inteligencia artificial transformará el periodismo?

La incertidumbre sobre el impacto de la IA en los medios

• Se reconoce que la inteligencia artificial (IA) tiene el potencial de cambiar radicalmente diversas industrias, incluida la de los medios de comunicación, aunque aún no se comprende completamente cómo sucederá.

• El orador utiliza IA diariamente para documentar artículos y redactar correos electrónicos, sugiriendo que su uso es beneficioso y alentando a otros periodistas a experimentar con estas herramientas.

Responsabilidad y ética en el uso de IA

• Se menciona que el periodismo escrito ya ha resuelto cuestiones éticas relacionadas con la responsabilidad mediante la firma del autor, lo cual asegura que cada periodista asuma responsabilidad por su trabajo.

• A pesar de las tentaciones de manipular información o inventar declaraciones, la firma actúa como un mecanismo de rendición de cuentas ante los lectores.

Desafíos en la producción y consumo de información

• Aunque hay preocupaciones sobre cómo se utilizará mal la IA, también se destaca que esta tecnología puede transformar tanto la producción como el consumo de información.

• Un ejemplo mencionado es una empresa donde todo el contenido se genera mediante IA, dejando al editor solo con tareas de selección y edición.

La evolución del periodismo en 25 años

• Se plantea que uno de los mayores retos es anticipar cómo cambiará la forma en que las personas consumen noticias más allá del proceso productivo.

• A pesar del avance tecnológico durante 25 años, los valores fundamentales del periodismo siguen siendo relevantes: informar sobre lo desconocido y auditar a quienes tienen poder.

Adaptación a nuevas tecnologías

• Se enfatiza que aunque las herramientas han cambiado, lo esencial del periodismo permanece igual; adaptarse a nuevas narrativas e integrar tecnologías como IA es crucial para seguir siendo efectivos.

Nuevas Tecnologías en el Periodismo

Importancia de la Colaboración y la Tecnología

• Se discute cómo las herramientas tecnológicas pueden enriquecer el periodismo, promoviendo un enfoque colaborativo.

• La conferencia sobre periodismo de investigación latinoamericano se realizó en Madrid, destacando la necesidad de adaptarse a nuevas formas de hacer periodismo.

• Se menciona un módulo sobre inteligencia artificial en el máster, enfatizando su relevancia para los trabajos de investigación.

Filosofía del Periodismo Actual

• La filosofía del máster incluye mirar hacia atrás para entender el contexto y dar profundidad a las historias.

• Se critica la figura del "lobo solitario" en el periodismo, abogando por un trabajo en equipo más efectivo.

• El concepto de "ni un día sin reporterismo" resalta la importancia del contacto directo con la realidad y las fuentes.

Desafíos Éticos y Regulatorios

• Se hace referencia a una cita de Pío Barojka que subraya la necesidad de salir a la calle para obtener información valiosa.

• La inteligencia artificial es bienvenida, pero no debe reemplazar el trabajo fundamental del reportero en terreno.

Evolución del Periodismo

• Se plantea que el ensayo "Las edades del periodismo" ha quedado obsoleto debido a la inclusión necesaria de la inteligencia artificial.

• El máster colabora con expertos técnicos para integrar adecuadamente estas nuevas herramientas en el aprendizaje.

Reconocimiento y Colaboraciones

• Se enumeran diversas organizaciones que apoyan al máster, resaltando su valor académico y económico.

• La combinación de elementos tecnológicos y periodísticos fortalece el programa educativo ofrecido por el máster.

Compromiso Continuo con el Aprendizaje

Curso de Verano sobre Responsabilidad Social y Cultura

Introducción al Curso

• Se presenta un curso de verano en la Universidad Rey Juan Carlos enfocado en la responsabilidad social, cultura, democracia y medios. La relevancia de estos temas se destaca en el contexto internacional actual.

Reflexiones sobre el Periodismo

• Se citan palabras de Nacho Cardero, director del Confidencial, quien enfatiza el compromiso del diario con un periodismo intencional que sirva a la sociedad y al lector.

Formación y Ética Periodística

• El máster busca trasladar enseñanzas prácticas para mejorar la calidad informativa. Agradecimientos a alumnos, profesores y entidades colaboradoras por su apoyo en la jornada sobre inteligencia artificial.

Panel sobre Inteligencia Artificial y Credibilidad

Presentación del Panel

• Se inicia el primer panel centrado en cómo la inteligencia artificial afecta la credibilidad y ética periodística. Agradecimiento a los asistentes y quienes siguen el evento online.

Composición del Panel

• Los miembros del panel incluyen a José Manuel González Huesa (Servimedia), Juan Carlos Rubio Sánchez (Oga), Marta Sánchez (URJC), y Manuel Ángel Méndez (El Confidencial).

Perfiles de los Ponentes

José Manuel González Huesa

• Director general de Servimedia con una amplia trayectoria en comunicación pública, incluyendo roles clave en prensa gubernamental.

Juan Carlos Rubio Sánchez

• CEO de Oga, enfocado en tecnología e inteligencia artificial. Destaca su filosofía sobre trabajo en equipo e innovación tecnológica.

Marta Sánchez

• Periodista especializada con experiencia académica significativa. Ha trabajado en proyectos relacionados con inteligencia artificial y desinformación.

Manuel Ángel Méndez

¿Cómo se trabaja con la inteligencia artificial en el periodismo?

Introducción a los participantes y contexto

• Se presenta a José Manuel González Huesa, director de Servimedia, quien comparte su experiencia en el uso de la inteligencia artificial (IA) en una agencia de noticias.

• Se plantea la pregunta sobre cómo las agencias de información están integrando la IA en sus dinámicas y redacciones.

Desafíos del uso de IA en periodismo

• Trabajar con IA es complicado para cualquier medio; se requiere un enfoque riguroso para mantener la objetividad y evitar sesgos ideológicos.

• La información generada debe ser pura y sin tendencias ideológicas, lo que representa un reto al utilizar herramientas automatizadas.

Ejemplos prácticos del uso de IA

• Un primer ejemplo muestra que al inicio, la IA no comprendía correctamente las comillas, alterando citas textuales importantes. Esto llevó a un proceso de entrenamiento para mejorar su precisión.

• Se desarrolló una variable que permitía crear diferentes versiones de una noticia adaptadas a diversas comunidades autónomas, reflejando enfoques locales distintos.

Consideraciones éticas y fuentes

• La revisión ética es crucial; hay preocupación sobre quiénes son las "fuentes" detrás de la información generada por IA.

• Se destaca que si las fuentes humanas pueden engañar, también lo pueden hacer las fuentes artificiales. Es fundamental cuestionar sus intenciones y tendencias.

Ejemplo adicional: cobertura deportiva

• En una prueba relacionada con un partido de fútbol entre Barça y Madrid, la IA inicialmente reportaba detalles irrelevantes. Fue necesario ajustar su enfoque para centrarse en los aspectos más relevantes del evento.

• Este caso ilustra cómo el trabajo con IA puede requerir ajustes significativos para alinearse con los estándares periodísticos tradicionales.

Reflexiones finales sobre el papel de la tecnología

¿Cuáles son los riesgos éticos de la inteligencia artificial?

Reflexiones sobre la IA como herramienta

• La conversación sobre la inteligencia artificial (IA) se ha vuelto común, pero es importante reconocer que no existe una única IA; cada sistema tiene características y capacidades diferentes.

• Comparar la IA con herramientas como una llave inglesa ayuda a entender que hay tanto herramientas efectivas como ineficaces en este campo. La experiencia con una IA puede variar significativamente de otra.

• Los titulares que afirman "la IA dice" pueden ser engañosos, ya que hay múltiples algoritmos y modelos, lo que significa que las experiencias pueden diferir ampliamente.

Riesgos éticos asociados a la IA

• Los riesgos éticos pueden dividirse en dos categorías: aquellos derivados de mala fe y aquellos por un uso incorrecto sin intención maliciosa.

• Al igual que otros avances tecnológicos, el uso indebido de la IA puede llevar a consecuencias negativas, como desinformación y manipulación. Esto no es un fallo inherente de la tecnología misma.

Aprendizaje y gestión de riesgos

• A medida que aprendemos a utilizar esta nueva tecnología, es probable que enfrentemos desafíos similares a los experimentados durante el desarrollo inicial de la electricidad.

• La falta de comprensión sobre cómo gestionar adecuadamente estas herramientas puede resultar en errores significativos e incluso peligrosos.

Egos algorítmicos y explicabilidad

• Existen "egos algorítmicos", donde diferentes modelos entrenados con distintos datos pueden llevar a resultados erróneos o inesperados.

• La explicabilidad es un gran desafío; muchas técnicas avanzadas son difíciles de interpretar, lo cual es problemático en campos sensibles como el periodismo o la salud.

Privacidad y ética en el manejo de datos

• Es crucial considerar qué datos se utilizan para entrenar los algoritmos. La procedencia y naturaleza de estos datos (privados vs públicos) impactan directamente en su ética.

• El debate sobre cómo se entrena a las IAs con grandes volúmenes de información plantea preocupaciones sobre privacidad y consentimiento.

¿Cómo afecta la IA al periodismo?

Impacto de los modelos de IA en el periodismo

• Se menciona que muchos diarios americanos han expresado su preocupación por los acuerdos comerciales rápidos, atribuyéndolos a la formación de modelos de IA con años de trabajo de redactores y periodistas.

• La hiperpersonalización generada por estos modelos puede crear burbujas informativas, donde los lectores solo reciben contenido que refuerza sus creencias y preferencias.

• Esta comodidad con el contenido personalizado puede disminuir el sentido crítico del lector, lo que representa un riesgo significativo para la calidad del periodismo.

• Se establece un paralelismo entre la percepción crítica en el periodismo y cómo los algoritmos pueden influir en las opiniones, resaltando que todo es relativo según quién lo diga.

Perspectivas sobre la inteligencia artificial en el periodismo

• Marta Sánchez, profesora y vicepresidenta de una asociación de periodistas, menciona un decálogo reciente sobre cómo trabajar con IA en el ámbito periodístico.

• Un estudio realizado revela que el 90% de los periodistas encuestados no temen ser reemplazados por IA, ya que consideran que su criterio no es fácilmente sustituible.

• Los profesionales destacan habilidades como intuición y empatía como elementos clave que la IA aún no puede replicar efectivamente.

• Se discute cómo la IA carece de capacidad para hacer juicios morales o distinguir entre verdad y mentira sin entrenamiento adecuado.

Uso práctico de la inteligencia artificial

• Los periodistas están utilizando herramientas de IA para tareas técnicas como transcripción y resumen, mejorando así su eficiencia laboral.

• Sin embargo, se advierte sobre el grado de aleatoriedad presente en estas herramientas, lo cual es inaceptable para investigaciones rigurosas debido a posibles "alucinaciones" generadas por la IA.

Análisis del Caso de Melody Cachar y el Uso de la IA en el Periodismo

Problemas con la Información Proporcionada por la IA

• Se solicitó a una IA que actuara como productor de un podcast sobre el caso de Melody Cachar, pero comenzó a proporcionar información incorrecta, como un rescate de 5 millones de dólares que nunca ocurrió.

• La IA mencionó un libro titulado "Melody, historia de un secuestro" y una entrevista en 2020 que son completamente inventados.

• Al cuestionar la veracidad de los datos, la IA admitió que algunos detalles no estaban documentados en fuentes verificables y sugirió buscar en periódicos.

• Se aclaró que no hubo pago de rescate ni libro sobre el caso; la policía sorprendió a los secuestradores sin necesidad de rescate.

• La interacción resaltó la inmediatez prometida por las herramientas de IA, pero también sus riesgos potenciales para la reputación profesional.

Riesgos y Desafíos del Uso Profesional de la IA

• Se enfatizó que no hay uso profesional ético sin supervisión humana al utilizar inteligencia artificial en periodismo.

• Se mencionaron casos donde abogados presentaron jurisprudencia inventada por ChatGPT, lo cual es problemático para el ámbito legal y periodístico.

• Es crucial mantener procesos editoriales sólidos dentro del periodismo para evitar errores graves derivados del uso inadecuado de tecnología.

Verificación y Credibilidad en el Periodismo Actual

• Manuel Ángel destacó cómo su medio enfrenta retos relacionados con la verificación y credibilidad ante los cambios traídos por la IA.

• La verificación se considera uno de los grandes retos diarios debido a las transformaciones tecnológicas rápidas en el sector mediático.

• Se identificaron dos grandes desafíos: cómo afecta la IA a los modelos comerciales externos e internamente cómo se adaptan los medios a nuevas formas informativas.

Adaptación Tecnológica en Procesos Noticiosos

• Los medios deben integrar métodos tradicionales con nuevas tecnologías para asegurar una verificación efectiva durante el proceso noticioso.

¿Cómo la IA está transformando nuestra percepción de la realidad?

La indistinguibilidad de la IA y la realidad

• Se menciona que los avances en IA han permitido crear vídeos que son prácticamente indistinguibles de la realidad, como el caso de Will Smith comiendo espaguetis.

• Se hace referencia a una imagen viral del Papa con un abrigo Valencia, destacando cómo estas creaciones pueden engañar a las personas sobre lo que es real.

Desafíos para los medios ante la desinformación

• Se discute el caso de fotos falsas de Taylor Swift que se volvieron virales, resaltando el reto que enfrentan los medios para verificar información en un entorno donde las imágenes pueden ser fácilmente manipuladas.

• La rapidez con la que evoluciona la tecnología y las expectativas del público complican aún más el trabajo periodístico.

Protocolo periodístico y verificación

• Se menciona un incidente relacionado con un intento de asesinato a Donald Trump, donde surgieron muchas imágenes falsas antes de confirmar hechos a través de fuentes oficiales.

• El protocolo periodístico exige confirmación antes de publicar, pero esto choca con la velocidad a la que se consume información hoy en día.

Presión por tiempos y consumo informativo

• Los medios enfrentan críticas por no publicar rápidamente noticias confirmadas, lo cual genera desconfianza entre el público.

• Un 55% de la generación Z consume hasta 18 tipos diferentes de fuentes en tiempo real, lo cual plantea preguntas sobre cómo verificar esta información sin cometer errores.

Reflexiones sobre credibilidad y metodología

• Se cita a Albert Camus: "Lo importante no es ser el primero, sino ser el mejor", sugiriendo que los medios deben priorizar calidad sobre velocidad.

¿Cómo se adapta la industria a la normativa en tecnología y periodismo?

La velocidad de la tecnología frente a la normativa

• La tecnología avanza más rápido que las normativas, lo que plantea un desafío para el sector periodístico. Se sugiere que esto podría ser una alternativa para dar mayor credibilidad.

• Aunque Europa es fuerte en términos de normativa, llega tarde a los cambios necesarios. Las empresas deben adaptarse rápidamente al mercado sin esperar por regulaciones.

Adaptación de la industria y autorregulación

• Las empresas privadas no esperan por normativas; ya hay iniciativas en marcha para establecer estándares éticos en el uso de inteligencia artificial (IA).

• Se anticipa que habrá requerimientos autoimpuestos por el mercado o asociaciones de periodismo, promoviendo una regulación proactiva antes de imposiciones externas.

Calidad y transparencia en el contenido

• Es necesario contar con un "sello" de calidad que garantice que las metodologías utilizadas cumplen con ciertas pautas éticas y normativas.

• Los consumidores buscan fuentes confiables; se menciona la importancia de citar bibliografía y fuentes claras para aumentar la transparencia en los contenidos.

Desafíos del clickbait y calidad informativa

• Existe una presión constante por ser el primero en publicar información, lo cual puede comprometer la calidad del contenido. Esto genera un dilema entre cantidad versus calidad.

• La falta de corrección ortográfica en artículos indica una precipitación por parte de los medios, reflejando un problema más amplio sobre cómo equilibrar objetivos competidores.

Regulación y autorregulación en medios

• El gobierno busca regular aspectos relacionados con la información, pero aún no está claro cómo se implementará esta regulación.

• La transparencia es fundamental; se destaca que algunos medios ya están comenzando a exigir claridad sobre las fuentes utilizadas para sus publicaciones.

Diferenciación ante el contenido masivo

• Los responsables de innovación destacan que algunos medios anglosajones evitan usar IA para escribir artículos, buscando mantener integridad y credibilidad.

Estrategia Editorial y Transparencia en la Era de la IA

Importancia de la Estrategia Editorial

• La estrategia editorial condiciona el uso interno de los medios. Conocer el rumbo permite una mejor utilización de las herramientas disponibles.

• Existe incertidumbre sobre cómo se verá afectada la desintermediación en los medios, a pesar del potencial aumento del tráfico que puede ofrecer.

Credibilidad y Transparencia

• La transparencia es fundamental para mantener la credibilidad, especialmente ante productos sintéticos que pueden confundirse con información real.

• Es crucial que los profesionales comprendan y comuniquen cómo funcionan los algoritmos utilizados en sus procesos informativos.

Uso Ético de la Inteligencia Artificial

• Hay un estigma asociado al uso de IA en el periodismo; es necesario ser transparentes sobre su integración en el trabajo diario.

• Un estudio indica que los lectores confían más en información producida por humanos que por IA, pero desconfían si no se les informa sobre su uso.

Formación y Regulaciones Futuras

• Se debe considerar cómo formar a los profesionales para adaptarse a nuevas regulaciones relacionadas con el uso de IA en medios.

• La necesidad de formadores especializados es evidente para preparar a los periodistas ante estos cambios inminentes.

Integración de IA en Medios

• Se plantea la posibilidad de integrar inteligencia artificial dentro de las plataformas mediáticas, lo cual podría beneficiar al consumidor final.

• Algunos medios están experimentando con equipos multidisciplinarios que combinan periodistas e ingenieros para crear herramientas innovadoras.

Ejemplos Prácticos y Futuro del Periodismo

• Ejemplos como chatbots entrenados con información específica pueden mejorar la fidelidad del lector al proporcionar respuestas precisas.

¿El futuro del periodismo y la inteligencia artificial?

Reflexiones sobre el miedo a ser reemplazados

• La profesora Sánchez menciona que el 90% de los encuestados no temen ser sustituidos por criterios periodísticos aún no desarrollados.

El papel de la inteligencia artificial en el periodismo

• Se plantea si, una vez que se enseñe un criterio periodístico a la IA, los profesionales podrán ser reemplazados. La esperanza es que esto no ocurra.

• Aunque la tecnología avanzará, siempre será necesaria la intervención humana para separar hechos y contar lo que realmente sucede.

Comparación con otras profesiones

• En medicina, aunque las máquinas pueden realizar diagnósticos mejor que los humanos, siempre se requerirá un médico para validar esos diagnósticos.

• Se argumenta que las IA actuales son "loros estocásticos" y carecen de creatividad e ingenio humano necesarios en el periodismo.

La importancia del sentido común

• Se discute cómo el sentido común, derivado de experiencias humanas, es crucial en situaciones críticas como las decisiones de un piloto o un periodista.

Herramientas del periodista moderno

• Se cita a Leila Slimani, quien afirma que sus herramientas son observación, lectura y experiencia en la calle; habilidades aún inalcanzables para las IA.

Aspectos éticos y regulatorios en el uso de IA

Conexión entre ética y regulación

• Se establece una conexión entre aspectos éticos y regulatorios en el contexto del uso de IA en periodismo.

Derechos fundamentales y transparencia algorítmica

• Es fundamental garantizar derechos ciudadanos mientras se interviene en la realidad social mediante el periodismo.

• Se menciona la necesidad de explicar al lector cómo funciona la IA detrás de las informaciones presentadas.

Desafíos sociales contemporáneos

Desafíos del Copyright y la Intimidad en la Era Digital

Problemas de Copyright y Protección de Datos

• Se discute la necesidad de reflexionar sobre el copyright, la protección de la intimidad y los datos personales, especialmente en relación con el perfilado de usuarios.

• La personalización del contenido puede crear "cámaras de eco", donde se entrega información que solo refleja los gustos del usuario, ignorando otras realidades importantes.

El Rol del Periodismo en un Entorno Automatizado

• Se plantea cómo el periodismo debe adaptarse a un entorno social cada vez más automatizado y qué procesos deben articularse para mantener su función como servicio público.

• Presentación de Carlos Perbel, director de Confil Legal, quien aporta experiencia en el análisis del impacto regulatorio sobre la libertad de información.

Ética y Tecnología en el Periodismo

• Alfredo García Hernández Díaz representa a Oga, una empresa tecnológica comprometida con un desarrollo ético e innovador de inteligencia artificial.

• Álvaro Medina destaca por su enfoque creativo en comunicación y tecnología, contribuyendo al desarrollo narrativo utilizando entornos algorítmicos.

Desinformación y Verificación

• Patricia es mencionada como referente en temas de verificación dentro del contexto mediático actual. Su trabajo implica contrarrestar desinformación mediante inteligencia artificial.

Retos Legales ante las Inteligencias Artificiales

• Se abordan los desafíos legales que surgen con el uso creciente de inteligencias artificiales en medios. Carlos menciona que la responsabilidad recae sobre los editores cuando se utiliza IA para generar contenido.

• A pesar del avance tecnológico, las leyes relacionadas con calumnias e injurias siguen vigentes; no ha cambiado el terreno legal fundamentalmente.

Revolución Digital y Poder Político

• La llegada del iPhone marcó una revolución que devolvió a las personas el control sobre su voz política, cambiando así la dinámica entre medios tradicionales e interacciones sociales directas.

Derechos de Información y su Regresión

La lucha por el derecho a la información

• El orador menciona que, en su experiencia diaria, observa una regresión en torno al derecho de información, especialmente en contextos legales.

• Se plantea la confusión sobre si se pueden publicar nombres en sentencias judiciales, destacando que muchos creen que no es posible hacerlo.

• Se discute un caso donde un abogado fue demandado por proporcionar información veraz sobre un robo millonario, lo cual sorprende al orador.

• La Agencia Española de Protección de Datos afirma que el derecho a la información prevalece sobre el derecho a la intimidad cuando la información es veraz y de interés general.

• El orador expresa preocupación por cómo se está perdiendo este equilibrio entre derechos y menciona discusiones con colegas sobre las limitaciones actuales en la divulgación de información.

Desafíos tecnológicos y mediáticos

• Se hace referencia a los retos que enfrentan los periodistas para reproducir información relevante debido a restricciones legales crecientes.

• Se introduce el tema del uso de inteligencia artificial para mejorar la transparencia y trazabilidad en medios con menos recursos.

• El orador menciona recomendaciones del informe Draghi para flexibilizar modelos mediáticos y adaptarse mejor al mercado global actual.

Reflexiones sobre inteligencia artificial

• Un nuevo participante se presenta como matemático y profesor universitario, aportando su perspectiva sobre la evolución de la inteligencia artificial durante los últimos 75 años.

• Se destaca que muchas técnicas actuales fueron desarrolladas hace décadas, pero ahora están siendo utilizadas con mayor potencia gracias a avances tecnológicos recientes.

• Se discute cómo ha cambiado el enfoque desde buscar precisión hasta abordar problemas de explicabilidad en modelos predictivos modernos.

¿Cómo equilibrar explicabilidad y calidad en modelos de IA?

Desafíos en la relación entre variables y modelos complejos

• Se observa que el sentido común indica que las variables están interrelacionadas, pero los modelos complejos como LLMs y redes neuronales pueden perder esta coherencia.

• Surge un problema biobjetivo: balancear la explicabilidad y trazabilidad de los modelos con la calidad de las predicciones.

• La elección del modelo depende del cliente, sector y objetivo; se puede optar por árboles de decisión o LLMs según sea necesario.

Importancia de la explicabilidad en diferentes sectores

• La explicabilidad es crucial no solo en el periodismo, sino también en otros ámbitos. Por ejemplo, al solicitar un crédito, es importante entender por qué fue rechazado.

• En algunos casos, como el pronóstico de demanda para Coca-Cola, la precisión es más relevante que conocer el razonamiento detrás del modelo.

Preocupaciones sobre la regulación y competitividad

• OpenAI y Microsoft están trabajando para mejorar sus modelos y reducir problemas como "alucinaciones" en las respuestas generadas por IA.

• El informe Dragi destaca la pérdida de competitividad europea frente a EE.UU. y China debido a una excesiva regulación.

Necesidad de un marco regulatorio unificado

• Se menciona que hay 27 normativas diferentes dentro de Europa que dificultan la escalabilidad empresarial.

• El reglamento europeo busca establecer criterios mínimos para desarrollar IAs trazables, auditables, explicables y confiables.

Impacto de la inteligencia artificial generativa en el contenido editorial

• Se plantea cómo Prodicioso Volcán utiliza IA generativa no para crear contenido directamente, sino como herramienta para pensar enfoques creativos.

Uso de la Inteligencia Artificial en el Periodismo

Herramienta para Generar Preguntas

• La inteligencia artificial se utiliza más como una herramienta para formular preguntas que para buscar respuestas directas. Se menciona su aplicación en tareas repetitivas como la transcripción de audio.

Impacto en el Periodismo de Investigación

• En 2024, cinco finalistas del premio Pulitzer afirmaron haber utilizado inteligencia artificial en sus investigaciones, destacando a Chicago Tribune y The New York Times como ganadores por un reportaje sobre Gaza.

Desafíos en las Redacciones Españolas

• A pesar del uso creciente de IA fuera de España, las redacciones españolas tienen escasa implementación y pocos especialistas dedicados al desarrollo interno de estas herramientas.

Normativas y Formación Necesaria

• La falta de normativas internas sobre el uso de IA es evidente; solo algunos medios han comenzado a abordar este tema. La formación obligatoria según la legislación actual no se está implementando adecuadamente.

• Las empresas deben demostrar que están formando a sus empleados sobre IA, pero actualmente hay una falta generalizada de criterios comunes entre los equipos periodísticos.

Innovación y Miedo al Error

• Existe un desnivel generacional respecto al uso de IA; los jóvenes no dudan en usarla, mientras que otros temen equivocarse. Es crucial crear espacios seguros para experimentar con estas tecnologías.

Derechos de Autor y Acuerdos Económicos

• Los modelos de IA han sido entrenados con grandes volúmenes de contenido periodístico, lo que ha llevado a demandas como la presentada por The New York Times contra OpenAI.

• Se están estableciendo acuerdos económicos entre grandes medios y OpenAI, aunque estos son opacos y generan desigualdades entre grandes grupos mediáticos y pequeños medios locales.

Negociaciones Colectivas

• Un porcentaje significativo (más del 70%) prefiere acuerdos colectivos con OpenAI para mejorar su poder negociador frente a esta tecnología emergente.

Innovación Tecnológica Continua

Desafíos de la Hiperpersonalización y la Desinformación

Hiperpersonalización de Contenidos

• La hiperpersonalización es un reto legislativo importante, donde las normativas están comenzando a surgir, pero aún se improvisa en su implementación.

• Se mencionan asimetrías y brechas crecientes que generan un caldo de cultivo para la desinformación, lo cual es preocupante en el contexto actual.

Impacto de los Dispositivos Digitales

• Los hábitos de consumo han cambiado drásticamente debido a dispositivos digitales, creando una forma de consumir información que puede ser peligrosa si se utiliza incorrectamente.

• Se discute la necesidad de formación y concienciación para que los ciudadanos puedan entender mejor el discurso público y participar activamente.

Rol de la Inteligencia Artificial

• Se plantea cómo integrar herramientas de inteligencia artificial (IA) en el diálogo con la ciudadanía para combatir la desinformación.

• La Fundación busca no solo luchar contra la desinformación, sino también contribuir a un ecosistema informativo más transparente.

Estrategias Contra la Desinformación

• Utilizan IA para identificar narrativas detrás de bulos, ayudando a comprender cómo funciona la desinformación y reaccionar adecuadamente.

• Implementan chatbots en WhatsApp para interactuar directamente con el público sobre posibles bulos o falta de contexto.

Supervisión Humana en Procesos Automatizados

• A pesar del uso extensivo de IA, enfatizan que siempre debe haber supervisión humana en los procesos relacionados con información y periodismo.

Transparencia y Edición en la Era de la Inteligencia Artificial

Proceso de Edición y Transparencia

• Se lanzó una agencia de contenido que proporciona resúmenes adaptados a medios y periodistas, utilizando un formato personalizado con revisión humana.

• La edición se considera crucial; hay hasta cuatro editores para piezas con alto riesgo de desinformación, asegurando un proceso riguroso.

• La inteligencia artificial se utiliza para generar resúmenes iniciales, seguido por un proceso humano de supervisión y edición.

Retos en la Producción de Información

• Se discuten los retos en la producción y gestión de información, destacando el papel clave de la inteligencia artificial en la entrega del contenido.

• La automatización y personalización del contenido pueden afectar nuestra percepción sobre lo que consumimos, resaltando la importancia de la alfabetización mediática.

Normativa y Desafíos Legales

• Existe una normativa rígida sobre el uso de inteligencia artificial; se cuestiona si todos pueden cumplirla o si es comprensible para los usuarios.

• Se recomienda desarrollar sistemas modulares para asegurar que las inteligencias artificiales sean auditables y transparentes.

Auditabilidad e Inteligencias Artificiales

• Es importante distinguir entre inteligencias artificiales deterministas (resultados consistentes con el mismo input) y aleatorias (resultados variables).

• El anteproyecto de ley en España obligará a etiquetar contenido generado por IA, aunque esto no garantice su uso ético o responsable.

Problemas con Contenido Masivo

• Hay un problema creciente relacionado con la producción masiva de contenido; desde modelos como Open AI se han generado más imágenes en un año que en toda la historia anterior.

¿Cómo afecta la inteligencia artificial al contenido mediático?

La parodia y el contenido generado por IA

• Se discute el uso de la parodia para resaltar problemas actuales relacionados con el contenido generado por inteligencia artificial (IA), especialmente en plataformas como Instagram y TikTok.

Prejuicios sobre la IA en los medios

• A medida que aumenta el contenido generado por IA, se anticipa un problema donde los medios etiquetan su contenido como creado por IA, lo que podría generar desconfianza entre los consumidores.

• Se menciona que no es viable para todos los medios especificar porcentajes de creación de contenido por IA, ya que esto podría afectar la percepción de calidad del periodismo.

Ejemplos de desinformación

• Un ejemplo se presenta sobre una pieza informativa relacionada con Santander, donde se utiliza voz generada por IA, lo cual plantea dudas sobre la autenticidad del contenido.

• Se señala que las defensas contra este tipo de desinformación son complicadas y que hay un riesgo significativo debido a la falta de criterio crítico en el público general.

Impacto en la percepción histórica

• El peligro radica en cómo los contenidos generados pueden alterar nuestra percepción del mundo y reescribir historias. Ejemplos incluyen imágenes manipuladas o creadas sin contexto adecuado.

• Se mencionan casos específicos donde imágenes falsas fueron utilizadas en publicaciones reconocidas, lo cual puede llevar a una alteración grave de la memoria histórica.

Desafíos educativos y mediáticos

• La dificultad para informarse correctamente está aumentando debido a la proliferación de información errónea. Los estudiantes utilizan herramientas como ChatGPT para realizar trabajos académicos, lo cual complica aún más el ecosistema del conocimiento.

• Se plantea cómo devolver a una situación democrática donde no se inventen hechos falsos. La capacidad actual para generar información ha crecido exponencialmente gracias a internet y redes sociales.

Necesidad de alfabetización mediática

• Es crucial encontrar mecanismos adicionales para abordar estos desafíos desde diferentes sectores sociales. La alfabetización mediática es fundamental pero debe ser complementada con acciones concretas ante la saturación informativa actual.

¿Cómo afecta la IA a los modelos de negocio?

Reentrenamiento de Modelos y Etiquetado

• La clasificación de información generada por IA debe ser precisa; imágenes etiquetadas como generadas por IA no deben usarse para reentrenar futuros modelos.

• Se plantea la incertidumbre sobre el futuro de la inteligencia artificial y su impacto en las generaciones venideras, sugiriendo que podría haber un "techo de cristal" que se rompa al alcanzar un nivel avanzado.

Modelos de Negocio Emergentes

• Se discute cómo empresas como Yeminai están monetizando servicios de IA, ofreciendo resúmenes instantáneos a bajo costo, lo que representa una parte significativa del modelo de negocio actual.

• La broma sobre Skynet y Terminator ilustra preocupaciones sobre el control que la tecnología puede ejercer sobre nuestras vidas, destacando el potencial peligro del avance tecnológico.

Impacto Económico y Transformación Laboral

• La mayoría de los proyectos actuales en inteligencia artificial están orientados a mejorar la productividad empresarial sin fines maliciosos.

• Se menciona un informe encargado por Google que predice un crecimiento del PIB del 8% en España debido a la IA Generativa, transformando el 58% de los empleos.

Privacidad y Uso de Datos Personales

• Aunque algunos servicios son gratuitos, los usuarios contribuyen con sus datos personales al ecosistema digital; esto es fundamental para entrenar modelos de IA.

• Meta anunció que utilizará publicaciones públicas para entrenar sus modelos, subrayando cómo incluso sin pago directo, los usuarios ayudan a construir estos sistemas económicos.

Reflexiones Finales y Futuro

• El modelo económico actual se basa en el pasado del usuario; esto implica una reflexión crítica sobre cómo se utilizan nuestros datos.

Reflexiones sobre el uso de la IA en el periodismo

Agradecimientos y contexto

• Se agradece a los compañeros que han participado en la organización del evento, destacando la importancia del trabajo en equipo para el éxito de estas iniciativas.

• Se menciona que hay muchas personas detrás del proceso organizativo, enfatizando su papel crucial.

Perspectivas sobre la inteligencia artificial (IA)

• Álvaro Medina afirma: "No utilizamos la IA para crear, pero sí para pensar", sugiriendo un enfoque reflexivo hacia su uso.

• Patricia Ruiz destaca que luchan contra la desinformación con IA, pero siempre bajo supervisión humana, subrayando la necesidad de control humano.

• Alfredo García Hernández aboga por desarrollar sistemas modulares auditablemente, resaltando su importancia técnica.

Nuevas realidades y desafíos

• Manuel Ángel Méndez menciona que se está creando una nueva realidad cambiante que requiere estudio constante.

• Juan Carlos Rubio Sánchez compara la IA con herramientas como una llave inglesa o electricidad, indicando que su uso depende de cómo se aplique.

Ejemplos prácticos y ética en el periodismo

• Un ejemplo mencionado es el partido Barça-Madrid donde se criticó a una agencia de noticias por no relatar adecuadamente los hechos.

• Villarino del Confidencial explica que utiliza IA diariamente como apoyo y enfatiza que los periodistas son responsables éticamente de lo publicado.

Formación y evolución del periodismo

• Nacho Cardero resalta el compromiso del diario con un periodismo intencional al servicio de la sociedad y lectores.

• Se hace referencia a cómo ha evolucionado el periodismo desde 2012 hasta hoy, incluyendo nuevas narrativas e inteligencia artificial.

¿Cómo afecta la inteligencia artificial al periodismo?

La revolución digital y el papel del periodismo

• La inteligencia artificial representa un reto y una oportunidad para el periodismo, siendo una forma de entender la vida y contribuir a su desarrollo.

Adaptabilidad en un entorno cambiante

• Es crucial que los nuevos periodistas sean lo suficientemente flexibles para adaptarse a contextos desconocidos, ya que el futuro es incierto.

Crisis en los medios de comunicación

• El periodismo enfrenta una crisis debido a la desafección ciudadana hacia los medios y la competencia tecnológica, especialmente por las grandes plataformas que han canibalizado audiencias.

Uso diario de la inteligencia artificial

• Se menciona el temor hacia la inteligencia artificial, aunque se utiliza diariamente como herramienta para mejorar productividad y procesos en lugar de destruir empleos.

Impacto positivo de la IA en el periodismo

• La inteligencia artificial debe ser vista como una herramienta que ayuda a ser más productivos y generar riqueza, no como un enemigo que amenaza puestos de trabajo.

Desigualdades generadas por la IA

• A pesar de sus beneficios, hay preocupaciones sobre cómo la transición hacia la IA puede aumentar las desigualdades sociales.

Tareas automatizables en redacción

• Se estima que entre 7 y 8 de las 10 tareas actuales en redacción podrían ser realizadas por inteligencia artificial, lo cual plantea desafíos pero también oportunidades para mejorar procesos.

Formación necesaria para futuros periodistas

• Los nuevos periodistas deben especializarse en contenido no replicable por IA, como investigación profunda y análisis crítico, para diferenciarse en un mercado laboral transformado.

Oportunidades doradas del periodismo moderno

• A pesar de los retos actuales, se argumenta que estamos ante una nueva "edad dorada" del periodismo gracias a las nuevas tecnologías e innovaciones impulsadas por IA.

Colaboración con instituciones educativas

¿Cuál es el propósito de la inteligencia artificial en el periodismo?

Reflexiones sobre el uso de la IA

• El orador comparte una anécdota personal sobre su hija que pidió una máquina Olivetti antigua para su cumpleaños, lo que refleja un interés por las herramientas tradicionales y su conexión con la tecnología moderna.

• Se menciona cómo la interacción entre la Olivetti y el ChatGPT 4 sorprende al orador, destacando la ubicuidad de estas tecnologías en la vida cotidiana.

• Se plantea la pregunta del propósito en el uso de herramientas como la inteligencia artificial (IA), enfatizando que debe ser utilizada con un objetivo claro y no forzada en todos los procesos.

• La IA se describe como una herramienta valiosa que puede aumentar eficiencia y productividad, pero no debe ser aplicada indiscriminadamente a todos los aspectos del negocio.

• Se discute cómo diferentes procesos dentro de una organización pueden beneficiarse de distintas aplicaciones de IA, sugiriendo que hay valor diferencial en saber dónde utilizarla efectivamente.

El papel del criterio editorial

• Se subraya que lo que nunca podrá sustituir la IA es un criterio editorial humano, esencial para mantener estándares en el periodismo.

• El orador reflexiona sobre los retos que enfrentan las empresas al decidir qué papel quieren jugar dentro del ecosistema mediático actual.

• La importancia de entender cómo gestionar incertidumbres y miedos asociados con nuevas tecnologías se destaca como crucial para cualquier industria, incluyendo el periodismo.

Oportunidades futuras con datos

• Se menciona que los datos son un activo valioso; a diferencia del dinero, pueden ser utilizados múltiples veces, lo cual resalta su importancia en el contexto empresarial moderno.

• La capacidad de trabajar con documentos y palabras se considera uno de los mayores activos para aplicar inteligencia artificial eficazmente en periodismo.

Innovación con propósito

• El orador concluye enfatizando la necesidad de innovar siempre con un propósito claro y no dejarse llevar por presiones externas o tendencias sin considerar las necesidades específicas del negocio.

• Resalta también cómo una educación sólida y crítica es fundamental para preparar a futuros profesionales capaces de utilizar herramientas tecnológicas adecuadamente.

Cierre e invitación a colaborar

¿Cómo abordar la gobernanza y soberanía del dato?

Reflexiones sobre la misión y visión en el contexto de datos

• Se destaca la importancia de la gobernanza y soberanía del dato, temas que han cobrado relevancia antes de que se tomara plena conciencia de su necesidad.

• Se menciona que hay preguntas relevantes que merecen ser exploradas más a fondo, sugiriendo un interés por profundizar en estos conceptos críticos.

• Se expresa gratitud hacia los participantes del evento, resaltando el esfuerzo realizado para asistir y contribuir al diálogo sobre estos temas importantes.

• La intención de replicar el evento en forma de serie indica un compromiso continuo con la discusión sobre gobernanza y colaboración entre diferentes sectores.