Transparencia2

Transparencia en la Inteligencia Artificial

Introducción a la Transparencia

• La transparencia es fundamental para fortalecer la legitimidad, confianza pública y ética en el desarrollo de sistemas de inteligencia artificial.

• Se busca que las personas comprendan cómo se toman las decisiones dentro de estos sistemas.

Importancia de la Comprensibilidad

• No solo se trata de revelar información técnica, sino hacerlo de manera comprensible, verificable y ética.

• La transparencia genera confianza y permite rendición de cuentas, esenciales en una sociedad digital responsable.

Caso del Sistema Compas

• El sistema Compas fue diseñado por North Point (ahora Equiban) para predecir reincidencias en tribunales de EE.UU.

• En 2016, Pro Publica reveló sesgos raciales en las puntuaciones asignadas por Compas, afectando desproporcionadamente a afroamericanos.

Implicaciones del Algoritmo Opaco

• El algoritmo era privado y no podía ser auditado, lo que generó un debate sobre la "caja negra" algorítmica.

• Este caso impulsó el desarrollo de enfoques como IA explicable y el derecho a la explicación.

Derechos y Responsabilidades

• Las personas tienen derecho a entender cómo se generan los resultados cuando las decisiones algorítmicas afectan sus vidas (justicia, salud, empleo).

• La ética exige que los desarrolladores expliquen no solo el qué sino también el por qué detrás de cada decisión del sistema.

Comunicación Clara sobre Limitaciones

• Es crucial comunicar los límites del modelo, posibles sesgos en los datos e incertidumbres en las predicciones.

• Promueve responsabilidad compartida entre científicos, empresas y gobiernos para evitar que la tecnología sea una "caja negra".