Individual skills to address harmful practices and concluding initiatives

Introducción al Curso

Resumen de la Sección: En esta sección introductoria, se da la bienvenida a los participantes al curso sobre libertad de expresión, inteligencia artificial y elecciones, organizado por el Centro Knight para el Periodismo en las Américas junto con la UNESCO y el PNUD.

Bienvenida e Introducción al Curso

• Albertina Piterbarg, experta electoral de la UNESCO, se presenta como la instructora principal del curso.

• Se destaca la importancia de aprender técnicas para verificar y detectar contenido generado por IA en este último módulo.

Detección Manual de Contenido Generado por IA

Resumen de la Sección: Se aborda cómo distinguir entre contenido creado por humanos y contenido generado por IA mediante técnicas manuales.

Técnicas para Detectar Contenido Generado por IA

• Analizar metadatos para identificar pistas que indiquen si el contenido fue generado por IA.

• Verificar fechas y marcas de tiempo en los metadatos como posibles indicadores de manipulación o generación artificial.

• Buscar fallas evidentes en textos, imágenes y vídeos que puedan revelar su origen artificial.

Análisis Manual de Fotos, Vídeos y Audios Generados por IA

Resumen de la Sección: Se exploran las características distintivas que pueden revelar si una imagen, video o audio ha sido creado mediante inteligencia artificial.

Identificación Manual de Contenido Sintético

• Observar detalles anómalos en fotos y videos generados por IA como partes del cuerpo incorrectas o aspecto brillante.

• Buscar errores visuales en imágenes y videos que denoten su origen sintético.

• Analizar patrones vocales inusuales en audios generados por IA como voces robóticas o pausas extrañas.

Importancia del Contexto en la Detección Automática

Resumen de la Sección: Destaca cómo considerar el contexto general puede ser crucial para identificar contenido generado por IA.

Consideraciones Clave para Detectar Contenido Artificial

• La detección automática mediante herramientas especializadas puede complementar eficazmente la detección manual.

• Menciona diversas herramientas como GptZero, AI Image Detector y Microsoft AI speech classifier para detectar diferentes tipos de contenido sintético.

Utilización Combinada de Métodos de Detección

Resumen de la Sección: Subraya la importancia de emplear múltiples métodos para verificar con precisión información generada por IA.

Estrategias Integradas para Verificación Precisa

Alfabetización Mediática e Informacional

Resumen de la Sección: En esta sección, se explora la importancia de la alfabetización mediática e informacional en el contexto de las elecciones y la democracia.

¿Qué es la Alfabetización Mediática e Informacional?

• La AMI abarca habilidades que permiten a los usuarios pensar críticamente sobre la información online.

• Su objetivo principal es empoderar al público para evaluar críticamente el contenido de los medios y detectar desinformación.

• Beneficiarios incluyen jóvenes, educadores, periodistas, políticos, votantes y sociedad en general.

Tipos de Intervenciones

• Intervenciones a largo plazo: integración en planes educativos y políticas para promover resiliencia ante desinformación.

• Intervenciones durante infancia y juventud integradas en sistemas educativos.

Beneficios y Componentes

• Proporciona conocimientos sobre inteligencia artificial, habilidades para encontrar información fiable y actitudes para pensar críticamente.

• Fomenta valores como apoyar los derechos humanos durante procesos electorales.

Desafíos de la Alfabetización Mediática e Informacional

Resumen de la Sección: Aquí se discuten los principales desafíos que enfrenta la alfabetización mediática e informacional en el contexto electoral.

Evolución Rápida de Tecnología

• Desafío con métodos sofisticados de contaminación informativa por IA.

Implementación Efectiva

• Desafío relacionado con aplicar conocimientos adquiridos efectivamente.

Agencia Cívica

Claves para la Participación en Redes Sociales

Resumen de la Sección: La participación en redes sociales se vincula con la libertad de expresión y los derechos humanos, destacando la importancia del uso ético y la promoción de la igualdad de género.

Participación en Redes Sociales

• Las respuestas de AMI fomentan el uso ético y la protección de los derechos humanos, incluyendo la libertad de expresión y la igualdad de género.

Medios Científicos y Ética

Resumen de la Sección: La creación de medios científicos implica creatividad e innovación, mientras que las respuestas de AMI promueven la conciencia crítica y el uso ético, especialmente en temas como accesibilidad para personas con discapacidad.

Medios Científicos y Ética

• AMI estimula la conciencia crítica y el uso ético en ámbitos como reconocimiento de voz, visión por computador y accesibilidad para personas con discapacidad.

Brechas entre Humanos y Tecnología Digital

Resumen de la Sección: Las respuestas de AMI ayudan a comprender las brechas entre humanos y tecnología digital, abordando aspectos como traducción automática, inclusión e interacción cultural.

Brechas Tecnológicas

• Las respuestas de AMI facilitan entender las pérdidas y ganancias en la interacción humano-tecnología digital, incluyendo traducción automática, accesibilidad para discapacitados, etc.

Inclusión Cultural y Traducción

Resumen de la Sección: La inclusión cultural es clave en política pública; las respuestas de AMI fomentan apreciar cómo las traducciones textuales pueden afectar mensajes e identidades culturales.

Inclusión Cultural

Inteligencia Artificial en la Gestión Electoral

Resumen de la Sección: En esta sección, se exploran ejemplos de aplicaciones de inteligencia artificial en la gestión electoral, como la creación de contenido para concienciar a los votantes y detectar fraudes.

Ejemplos de Aplicaciones de IA en la Gestión Electoral

• La inteligencia artificial se utiliza para crear contenido multilingüe que mejora la concienciación entre los votantes.

• Se emplea para analizar imágenes de video de colegios electorales y declaraciones juradas de candidatos para detectar anomalías e irregularidades.

• Las plataformas de redes sociales utilizan IA para detectar incitación al odio y eliminarla, mostrando cómo la tecnología puede ser aplicada en diferentes contextos electorales.

Herramienta de Evaluación del Impacto Ético en Sistemas de IA

Resumen de la Sección: Se introduce una herramienta ética desarrollada por la UNESCO para evaluar sistemas de inteligencia artificial desde una perspectiva ética.

Aspectos Clave sobre Evaluación del Impacto Ético

• La herramienta aborda preguntas sobre el alcance del sistema, su gobernanza asociada y si cumple con principios éticos fundamentales.

• Evalúa si el sistema está alineado con principios éticos como seguridad, equidad, privacidad y transparencia, promoviendo un uso responsable de la IA.

• Plantea cuestiones sobre seguridad, protección, equidad y transparencia para garantizar un impacto positivo y ético en el desarrollo y aplicación de sistemas AI.

Importancia de las Coaliciones en el Uso Responsable de IA

Resumen de la Sección: Las coaliciones desempeñan un papel crucial en abordar los riesgos asociados con el uso irresponsable o perjudicial de inteligencia artificial en diversos contextos.

Rol Significativo de las Coaliciones

• Las coaliciones especializadas pueden coordinarse eficazmente para mitigar riesgos relacionados con el uso inapropiado o dañino de tecnologías AI.

• Destacan por su capacidad para responder rápidamente a desafíos emergentes y fomentar un ecosistema informacional saludable mediante regulaciones efectivas.

Regulación y Mitigación de Riesgos en Inteligencia Artificial (IA)

Resumen de la Sección: En esta sección se aborda la importancia de las coaliciones para guiar el equilibrio entre el acceso a la IA y la protección contra sus riesgos. Estas coaliciones pueden influir en los esfuerzos regulatorios, promover procesos legislativos transparentes y anticipar riesgos para abordarlos con medidas preventivas.

Coaliciones para Regular la IA

• Las coaliciones pueden informar decisiones regulatorias con evidencia y conocimiento.

• Ayudan a adoptar medidas preventivas, como programas de alfabetización mediática e informacional.

• Ventajas de programas educativos para ciudadanos sobre desinformación en línea.

• Herramientas para detectar contenido generado por IA manual o automáticamente.

Herramientas para Monitoreo y Mitigación de Riesgos

Resumen de la Sección: Se discuten actividades efectivas para abordar problemas como contenido polarizador, falta de moderación y violencia hacia grupos vulnerables. Además, se presentan herramientas del PNUD para analizar tendencias en línea y verificar contenido.

Actividades Efectivas

• Abordaje de contenido polarizador y falta de moderación que aumenta riesgo de violencia.

• Herramientas del PNUD para analizar tendencias en línea y monitorear redes sociales.

• Uso de escucha social para prevenir violencia, especialmente contra género.

Comunicación Estratégica y Compromisos Responsables

Resumen de la Sección: La comunicación estratégica puede mejorar transparencia electoral. Los compromisos voluntarios son clave, junto con capacitaciones sobre medios, elecciones e IA. Es esencial establecer protocolos claros para evitar mal uso de datos.

Mejora mediante Comunicación

• Asistencia electoral mejora confianza en procesos electorales mediante comunicación estratégica.

• Compromisos voluntarios contribuyen a un ecosistema saludable y procesos electorales críticos.

Recomendaciones Finales sobre Introducción Responsable de IA

Resumen de la Sección: Recomendaciones finales incluyen pruebas éticas en proyectos relacionados con IA, cumplimiento con principios digitales del PNUD y garantizar intercambio entre actores electorales.

Recomendaciones Clave

• Pruebas éticas necesarias en proyectos relacionados con IA.

Agradecimientos Finales

Resumen de la Sección: En esta sección final del curso, se expresan agradecimientos a todas las personas que contribuyeron al desarrollo y éxito del MOOC.

Colaboradores Destacados

• Agradece a más de 20 personas que trabajaron arduamente en el curso.

• Reconocimiento especial a Prateek Sibal de la UNESCO, Tatiana Monney y Osama Aljaber del PNUD por sus valiosas contribuciones.

Instructores Asistentes

• Agradecimiento a Julie Godignon, Cristina Pérez Claeys, Lucas Novaes Ferreira y Anass Bendrif por su dedicación en la realización del MOOC en diferentes idiomas.

Agradecimiento General