MUADP- Prof. Criado I

Introducción al Módulo de Innovación Pública y Gobierno Abierto

Agradecimientos y Contextualización

• El profesor agradece a Silvia y al Instituto Ortega por la oportunidad de contribuir al programa de máster.

• Se destaca la importancia de la interacción en sesiones online, tanto para los participantes presentes como para aquellos que verán la grabación posteriormente.

Temas del Módulo

• El módulo se centra en "innovación pública" y "gobierno abierto", temas relevantes para la transformación del sector público.

• Se menciona el debate actual sobre cómo incorporar innovaciones y tecnologías en el sector público, enfatizando su relevancia.

Estructura de las Sesiones

• La sesión actual se enfocará en innovación en el sector público, con énfasis en tecnología.

• Las próximas sesiones abordarán gobierno abierto y permitirán un espacio para preguntas sobre los contenidos del módulo.

Evaluación del Módulo

• Se enfatiza la elaboración de un proyecto final que refleje el conocimiento adquirido, aplicable a la actividad profesional actual o futura.

• Los participantes sin organización pueden elegir trabajar sobre una organización diferente relacionada con el contenido del módulo.

Contenido Específico de la Sesión Actual

Enfoque Principal: Innovación Pública

• La primera sesión se centrará exclusivamente en innovación pública; las siguientes explorarán gobierno abierto.

Duración y Formato

• La presentación durará entre 40 a 50 minutos, seguida por un tiempo destinado a preguntas e intercambio de ideas.

Temas Clave a Tratar

1. Gobernanza de Internet:

• Evolución tecnológica dentro del sector público y sus cambios actuales.

2. Cuarta Revolución Industrial:

• Impacto directo de esta revolución en diversos ámbitos, especialmente en el sector público.

3. Administración Pública 4.0:

• Relacionada con cambios recientes debido a inteligencia artificial y sistemas asociados; se buscará establecer bases comunes sobre sus implicaciones.

Próxima Sesión

• La siguiente sesión tratará sobre gobierno abierto, gobernanza transparente y participativa.

Innovación y Gestión Pública en la Universidad Autónoma de Madrid

Actividad Académica y Proyectos

• El ponente es profesor en el departamento de Ciencia Política y Relaciones Internacionales de la Universidad Autónoma de Madrid, donde dirige un laboratorio llamado Innovación, Tecnología y Gestión Pública.

• Su trabajo incluye docencia e investigación, así como colaboración con administraciones públicas en proyectos de transferencia orientados a mejorar instituciones tanto en España como internacionalmente.

• Se enfoca en desarrollar innovación pública mediante la colaboración con actores externos, abordando diferentes tipos de proyectos que combinan investigación y práctica.

Inteligencia Artificial y Transparencia

• Menciona una estancia de investigación en China relacionada con inteligencia artificial, destacando el concepto de "caja negra" para referirse a los desafíos de transparencia en el sector público.

• La evolución tecnológica es fundamental para la innovación; se enfatiza que no toda innovación depende exclusivamente de tecnología, aunque muchas iniciativas sí tienen una base tecnológica importante.

Perspectiva Sociotécnica sobre Tecnología

• El ponente aclara que no es un tecnólogo ni informático; su enfoque es sociotécnico, integrando aspectos humanos y organizativos al analizar tecnologías.

• Utiliza ejemplos históricos para ilustrar cómo las tecnologías han evolucionado desde sus inicios hasta su impacto actual en la sociedad.

Historia del Internet

• Pregunta a los asistentes sobre sus primeros recuerdos utilizando internet, contrastando experiencias generacionales entre quienes lo usaron por primera vez a finales del siglo XX.

• Explica que internet surgió a finales de los años 60 como un proyecto militar estadounidense (DARPA), diseñado para asegurar comunicaciones durante la Guerra Fría.

Evolución hacia la World Wide Web

• Destaca que aunque internet existía desde hace décadas, su uso generalizado comenzó mucho después; Tim Berners-Lee fue clave al crear la World Wide Web en 1993.

• Comenta sobre las limitaciones iniciales del acceso a internet y cómo estas fueron superadas gracias a innovaciones que facilitaron su uso masivo.

¿Cómo la tecnología transforma nuestra sociedad?

La naturaleza de Internet y su impacto

• Internet se describe como una "red de redes", similar a una autopista que transporta diversos servicios, incluyendo páginas web y el intercambio de archivos.

• Se enfatiza que la tecnología por sí sola no genera resultados; es la interacción humana con esta tecnología lo que produce cambios significativos.

• Antes de su democratización, Internet era utilizado principalmente en contextos militares y académicos. La innovación clave fue hacerla accesible a través de las páginas web.

Innovación y apropiación tecnológica

• La adopción masiva de Internet permitió el surgimiento de empresas online, destacando la crisis.com del año 2000 como un punto crucial en este proceso.

• Las organizaciones pueden obtener resultados diferentes al aplicar la misma tecnología, dependiendo de cómo interactúan con ella.

Cambios culturales y sociales

• La generalización del uso de Internet ha transformado aspectos culturales y sociales, como el paso de la "galaxia Gutenberg" a la "galaxia Internet".

• Ejemplos incluyen cómo se crea música hoy en día comparado con épocas anteriores, donde cualquier persona puede compartir su trabajo globalmente.

Relaciones interpersonales en la era digital

• Las relaciones sociales han cambiado drásticamente; los jóvenes utilizan redes sociales para conocer gente, contrastando con métodos tradicionales.

• El prestigio social ahora puede ser ganado a través de redes digitales, desafiando las jerarquías tradicionales.

Impacto económico y político

• Se vive un momento histórico de globalización económica sin precedentes; aunque hay tendencias hacia la desglobalización, los eventos globales impactan instantáneamente en economías locales.

• Un ejemplo notable es Obama en 2008, quien utilizó plataformas sociales emergentes para ganar elecciones. Su Blackberry simbolizaba una innovación comunicativa significativa para esa época.

Transformaciones en las administraciones públicas

• La evolución tecnológica ha permitido que las administraciones públicas operen 24/7, facilitando trámites administrativos desde cualquier lugar.

¿Hacia el final de la burocracia tradicional?

La relación entre tecnología y poder

• Se plantea que la creciente interacción de la ciudadanía con el sector público a través de internet podría estar llevando al final de la burocracia tradicional, donde el poder del funcionario se ve afectado.

• La frase "la tecnología es poder" resume una idea central: quién utiliza y cómo se utiliza la tecnología determina quién tiene el poder en las instituciones políticas y organizaciones.

• Las decisiones sobre el uso de tecnologías en organizaciones públicas son cada vez más relevantes, reflejando un cambio en la dinámica del poder.

Innovación tecnológica y su impacto

• Se menciona una nueva fase de innovación tecnológica impulsada por la inteligencia artificial, que ha captado atención significativa en los últimos cinco años.

• Los algoritmos están empezando a evaluar aspectos como la creatividad y crear arte, lo que abre debates sobre su aplicación para resolver problemas sociales.

Ejemplos prácticos de innovación

• En Madrid, se está desarrollando un itinerario estratégico de inteligencia artificial que aborda temas clave como calidad del aire y movilidad.

• La viabilidad técnica de los vehículos autónomos se discute, pero existen barreras sociotécnicas debido a posibles pérdidas masivas de empleo.

Implicaciones sociales y éticas

• La eliminación potencial del 50% de delitos relacionados con tráfico si se implementaran vehículos autónomos plantea preguntas sobre innovaciones disruptivas.

• A pesar de ser tecnológicamente posible, algo puede no ser social o políticamente deseable; esto es crucial al considerar innovaciones tecnológicas.

Referencias clave en inteligencia artificial

• Se mencionan a Susana Zuboff y Mark Zuckerberg como figuras importantes para entender el impacto social del capitalismo digital y la vigilancia a través de datos.

• Zuboff destaca cómo las grandes corporaciones transforman nuestro ecosistema mediante vigilancia, mientras que Kelber analiza cómo la IA afecta conceptos fundamentales como democracia e igualdad.

Dilemas tecnológicos en contextos diferentes

• Un mismo tipo de tecnología puede tener resultados muy distintos dependiendo del contexto; por ejemplo, los drones pueden transformar tanto estrategias militares como aplicaciones civiles.

Impacto de los Drones en la Sociedad

Uso de Drones en Diversos Contextos

• La utilización de drones está aumentando, con aplicaciones que mejoran la agricultura y el control de plagas.

• Sin embargo, también surgen desafíos como el desempleo masivo y la vigilancia, así como problemas relacionados con sesgos y discriminación social.

Evolución del Rol de los Directivos Públicos

• Los directivos públicos han evolucionado desde un enfoque burocrático hacia uno más centrado en el emprendimiento y la eficiencia económica.

• Actualmente, se espera que los directivos sean innovadores capaces de detectar oportunidades para crear valor público mediante la cocreación con la ciudadanía.

La Cuarta Revolución Industrial y Datos

Importancia de los Datos

• La disponibilidad de datos ha aumentado significativamente en los últimos años, lo que plantea preguntas sobre su gobernanza dentro de las administraciones públicas.

• Se ha pasado de una lógica centrada en digitalizar a una enfocada en cómo utilizar y visualizar datos efectivamente.

Redes Sociales como Herramienta Innovadora

• Las redes sociales son vistas como espacios innovadores donde el sector público puede interactuar con ciudadanos; un ejemplo es la Policía Nacional en España.

• Sin embargo, también hay casos negativos como Cambridge Analytica, donde las redes sociales influyeron en resultados electorales mediante segmentación algorítmica.

Interoperabilidad y Diseño de Servicios Públicos

Innovación a través de Datos Abiertos

• Es crucial que viajen los datos y no las personas para lograr interoperabilidad e innovación en servicios públicos.

• Un ejemplo práctico sería publicar datos sobre precios de gasolina para que los ciudadanos puedan acceder a información útil en tiempo real.

¿Cómo transformar datos en soluciones?

La importancia de los datos en la movilidad y contratación pública

• Se plantea la necesidad de convertir datos sobre movilidad urbana en soluciones para reducir tiempos de conmutación.

• Se sugiere utilizar datos de contratación pública para alertar sobre posibles fraudes, especialmente en contratos menores que son más vulnerables a prácticas inadecuadas.

Definición y alcance de la Inteligencia Artificial (IA)

Conceptos clave sobre IA

• La Comisión Europea define IA como un sistema diseñado por humanos para abordar objetivos complejos, actuando tanto en el ámbito físico como digital.

• La IA se basa en la adquisición y procesamiento de datos estructurados y no estructurados para razonar y decidir el mejor curso de acción.

Innovación pública y definiciones contemporáneas

Enfoques actuales sobre IA en el sector público

• La Carta Iberoamericana de Inteligencia Artificial establece principios para desarrollar IA en la administración pública, incluyendo dimensiones clave como gobernanza.

• Se destaca que los sistemas de IA buscan resolver objetivos específicos mediante la sustitución de capacidades humanas como percepción o razonamiento.

Niveles y debates sobre la inteligencia artificial

Diferenciación entre tipos de IA

• Existen diferentes niveles de IA según el tipo de problemas que pueden resolver y los datos que utilizan.

• El debate sobre si las máquinas superarán a los humanos (IA singularidad) sigue abierto, especialmente respecto a habilidades emocionales complejas.

Algoritmos: diferencias con normas jurídicas

Características distintivas de los algoritmos

• Los algoritmos son sistemas autoejecutables basados en reglas, comparables a normas jurídicas pero con características únicas.

• Muchos algoritmos son considerados "cajas negras", lo que dificulta conocer su contenido debido a derechos de propiedad intelectual.

¿Cómo se materializa la inteligencia artificial en el sector público?

La importancia de la rendición de cuentas en IA

• En el sector público, es crítico poder identificar y trazar cómo un sistema ha llegado a una solución específica para garantizar la rendición de cuentas sobre decisiones públicas.

• Este desafío resalta la necesidad de relacionar datos, algoritmos, sistemas de IA y seres humanos, componentes esenciales que conforman la inteligencia artificial.

Componentes fundamentales de la inteligencia artificial

• Los datos son el fundamento de la IA; los algoritmos actúan como sus reglas operativas, mientras que los humanos proporcionan el contexto físico y digital necesario para su materialización.

• La interacción entre sistemas de IA, algoritmos y humanos es crucial para entender cómo funcionan estos sistemas en conjunto.

Hacia una administración 4.0

• Se está transitando hacia una nueva realidad denominada administración 4.0, donde se anticipan transformaciones e innovaciones significativas en el ámbito público.

• Es importante explorar qué sistemas de IA ya están siendo aplicados en el sector público para comprender mejor esta transición.

Ejemplos prácticos de sistemas de IA en el sector público

• Se utilizan diversos sistemas como reconocimiento y procesamiento de voz, chatbots o asistentes digitales inteligentes, robótica cognitiva y vehículos autónomos.

• Los chatbots son uno de los tipos más implementados dentro del sector público debido a su capacidad para mejorar la atención al ciudadano.

Casos específicos: Aplicaciones efectivas

• Un ejemplo notable es Corti, un sistema que durante la pandemia ayudó a identificar ataques al corazón mediante reconocimiento vocal en servicios de emergencia.

• Los asistentes virtuales han demostrado ser efectivos; por ejemplo, el Ayuntamiento de Madrid integra chatbots con otros canales para optimizar la atención al ciudadano.

Sesgos de género en herramientas de IA

Sesgos en el diseño de chatbots

• Guevara analiza cómo los sesgos de género se han incorporado en el diseño de herramientas de IA, asociando labores de atención y asistencia con mujeres, lo que llevó a la creación de chatbots predominantemente con nombres femeninos.

• Se está tomando conciencia sobre estos sesgos, y se están implementando nombres genéricos para los chatbots en administraciones públicas, reflejando un cambio hacia una mayor neutralidad.

Implicaciones del uso de asistentes personales

• La utilización de asistentes personales y robots cuidadores plantea importantes implicaciones. Estos dispositivos pueden mejorar la capacidad cognitiva pero también pueden contribuir al aislamiento social.

• Estudios internacionales sugieren que el uso excesivo de estas herramientas puede llevar a un mayor aislamiento, impidiendo que las personas interactúen con su entorno social.

Automatización en el sector público

• En el ámbito escandinavo, se están automatizando procesos decisionales en políticas sociales. Esto mejora la eficiencia y precisión en la asignación de ayudas públicas.

• Sin embargo, surgen desafíos relacionados con la percepción que tienen los empleados públicos sobre estos sistemas automatizados, incluyendo problemas de confianza y dudas sobre su precisión comparativa con humanos.

Vehículos autónomos y su implementación

• Se menciona un autobús autónomo operando en la Universidad Autónoma de Madrid como ejemplo práctico del uso actual de vehículos autónomos y sus implicaciones para los usuarios.

Aplicaciones avanzadas: Drones y diagnóstico por imagen

• El satélite Copérnicus es utilizado para prevenir fraudes agrícolas mediante visión computerizada, mejorando así la precisión en la detección del tipo correcto de cultivos.

• Un sistema implementado por la Generalitat de Cataluña ayuda a dermatólogos a diagnosticar melanomas más eficazmente al procesar millones de imágenes, permitiendo a médicos concentrarse en casos más complejos.

• En España, drones son utilizados no solo para vigilancia costera sino también para intervenciones rápidas durante emergencias acuáticas, mostrando una aplicación práctica significativa.

Reconocimiento Facial y Control Social

Sistemas de Reconocimiento Facial en Ciudades

• Se presenta un ejemplo de un semáforo en Shanghai que utiliza reconocimiento facial para identificar a peatones que cruzan incorrectamente.

• Los infractores reciben un mensaje en su teléfono móvil advirtiendo sobre posibles multas si repiten la infracción, lo que plantea preocupaciones sobre el control social.

• Las cámaras de videovigilancia están presentes en muchas ciudades del mundo, y se utilizan sistemas de IA para analizar imágenes con fines policiales.

Clasificación de Riesgos y Denuncias

• En España, existe un mecanismo que clasifica el riesgo de mujeres al denunciar agresiones mediante cuestionarios, utilizando sistemas expertos para decisiones informadas.

• El sistema Veripol fue diseñado para detectar denuncias falsas relacionadas con pequeños hurtos a través del procesamiento de lenguaje natural.

Innovaciones Tecnológicas en la Gestión Urbana

• Se discuten los gemelos digitales como herramientas para simular eventos urbanos mediante análisis predictivo y datos recopilados por sensores.

• La sensorizar las aceras podría permitir una mejor planificación urbana al conocer patrones de movimiento ciudadano.

Procesamiento del Lenguaje Natural

• Se menciona el sistema Clara, que ayuda a las administraciones públicas a mejorar la claridad y accesibilidad del contenido comunicativo.

Casos Controversiales de IA

• Un caso notable es el sistema Siri en Holanda, declarado inconstitucional por sesgo étnico racista al evaluar riesgos sociales.

• En España, Bosco es una herramienta algorítmica criticada por denegar ayudas a personas elegibles para subsidios eléctricos.

Impacto de la Inteligencia Artificial en el Sector Público

Sentencia del Tribunal Supremo sobre IA

• El Tribunal Supremo ha ordenado la publicación del código de una aplicación de inteligencia artificial, marcando un avance significativo en su uso en el sector público.

Regulación y Límites en el Desarrollo de IA

• Se están estableciendo límites al desarrollo tecnológico, enfatizando la necesidad de considerar regulaciones sociales, políticas y administrativas junto con lo que es técnicamente viable.

Preocupaciones sobre IA Generativa

• La utilización creciente de IA generativa genera preocupaciones en el sector público, especialmente respecto a cómo los empleados públicos la emplean para análisis y gestión.

Evolución Tecnológica en Administraciones Públicas

• Las tecnologías han evolucionado desde la automatización hacia una lógica centrada en la digitalización e innovación disruptiva dentro del sector público desde 2010.

Nuevos Paradigmas para la Innovación

• Se está transformando el paradigma sobre cómo se debe orientar la innovación dentro del sector público, buscando nuevas formas de abordar problemas administrativos.

Desafíos y Oportunidades en Implementación

Comentarios sobre Movilidad Urbana

• Ofelia, directora de movilidad, destaca que las nuevas tecnologías representan un gran salto para gestionar movilidad urbana, pero requieren inversiones previas significativas.

Limitaciones Financieras y Técnicas

• Los ayuntamientos pequeños enfrentan dificultades debido a limitaciones financieras y falta de personal técnico capacitado para manejar grandes volúmenes de datos generados por tecnologías avanzadas.

Necesidad de Perfiles Híbridos

• Es crucial contar con perfiles híbridos que puedan gestionar tanto tecnología como problemas sociales dentro del sector público para maximizar el uso efectivo de los datos.

Integración Humana con Tecnología

• Reina plantea inquietudes sobre cómo integrar adecuadamente componentes humanos con soluciones tecnológicas, subrayando la importancia del manejo ético y sostenible de los datos generados.

Sostenibilidad en Avances Tecnológicos

• Se cuestiona la sostenibilidad de los avances tecnológicos en República Dominicana sin un enfoque adecuado hacia quién maneja estos sistemas y cómo se implementan.

Avances y Desafíos de la IA en la Administración Pública

Principios y Regulación de la IA

• La implementación de sistemas públicos mediante inteligencia artificial (IA) plantea inquietudes sobre su sostenibilidad a largo plazo. Es crucial establecer principios filosóficos que guíen su desarrollo.

• Se debe considerar una dimensión geográfica al desarrollar estos principios, así como un marco regulatorio que traduzca los principios en normas efectivas para la adopción de tecnologías en el sector público.

• La regulación europea sobre IA establece pautas importantes que deben ser consideradas para guiar la adopción responsable de estas tecnologías tanto en la administración pública como en la sociedad.

Estrategias Organizativas y Sectoriales

• Cada vez más municipios están adoptando estrategias específicas para implementar IA, lo cual es fundamental para abordar las particularidades de cada sector, como movilidad, salud y educación.

• Es necesario ajustar el uso de IA a diferentes ámbitos dentro de la administración pública, estableciendo pautas concretas que faciliten su integración efectiva.

Retos y Oportunidades en el Uso de IA

• Los gestores públicos deben ser conscientes de los desafíos que presenta el uso de herramientas basadas en IA, especialmente a nivel directivo. Esto incluye reconocer los riesgos asociados con datos sensibles.

• Un participante menciona las reticencias dentro del ámbito administrativo respecto al uso de IA debido a preocupaciones sobre fugas de datos confidenciales y seguridad informática.

Reflexiones sobre el Uso Responsable

• Existe una contradicción entre fomentar nuevas herramientas tecnológicas y la desconfianza hacia su uso efectivo por parte del personal administrativo debido a preocupaciones sobre privacidad y control de datos.

• La necesidad urgente es crear protocolos seguros para utilizar IA dentro del ámbito administrativo o establecer convenios con empresas tecnológicas confiables para proteger información sensible.

Análisis desde la Agencia Española de Protección de Datos

• Se propone un análisis reflexivo por parte de la Agencia Española de Protección de Datos sobre cómo puede ayudar la IA generativa y qué riesgos implica su implementación.

Guía sobre la IA y Protección de Datos

Introducción a la Guía

• Se menciona un documento interesante que refleja inquietudes sobre la contratación y pliegos de condiciones, sugiriendo su revisión para entender mejor el contexto actual.

Uso de Herramientas Generativas

• Se plantea la posibilidad de subir documentos a herramientas generativas para redactar pliegos futuros, cuestionando si estos documentos están anonimizados.

Normativa de Protección de Datos

• La importancia del reglamento europeo de IA y la ley de protección de datos se destaca como crucial para cualquier organización al incorporar sistemas de IA.

• Se enfatiza que los datos utilizados por la IA deben ser manejados con cuidado, siguiendo pautas establecidas por la Agencia de Protección de Datos.

Preocupaciones sobre el Uso de IA

• Se expresa preocupación por el uso inadecuado de datos privados en procesos como la valoración de ofertas públicas mediante IA, subrayando la necesidad de pautas claras.

Reflexiones Finales y Futuras Sesiones

• Se invita a debatir sobre la guía en un foro, resaltando su utilidad. También se reconoce una frustración común respecto a recursos limitados disponibles.

• La adopción gradual e inevitable de tecnologías como IA generativa y agéntica es discutida, mencionando su potencial para automatizar tareas cotidianas.

Cierre y Agradecimientos

• El presentador agradece a los participantes por su atención y participación activa durante la sesión, destacando el valor del contacto visual en las interacciones virtuales.

• Se anticipa una próxima sesión centrada en gobierno abierto, sugiriendo que ambos temas (innovación y gobierno abierto) son complementarios.