Adela Cortina - "Ética de la Inteligencia Artificial"

Introducción al Seminario sobre Ética y Inteligencia Artificial

Presentación del Ponente

• Se inicia el seminario con una breve introducción, mencionando la cortesía de esperar 10 minutos para los asistentes.

• El moderador presenta a Adela Cortina, destacando su relevancia en el campo de la ética relacionada con la inteligencia artificial.

Reflexiones Iniciales de Adela Cortina

• Adela agradece la invitación y menciona que ha disfrutado las ponencias anteriores del seminario.

• Introduce el tema central: la ética de la inteligencia artificial, señalando el recelo inicial hacia esta tecnología debido a temores como el desempleo y desigualdades.

Beneficios de la Inteligencia Artificial

• A medida que avanza el tiempo, se reconocen los beneficios económicos, políticos y personales que ofrece la inteligencia artificial.

• Se discute un enfrentamiento geopolítico entre dos tipos de capitalismo: el neoliberal (Silicon Valley) y el chino, ambos centrados en plataformas digitales.

La Posición de Europa

• Se destaca la importancia de que la Unión Europea tome medidas en relación con los derechos humanos y sociales frente a estos desafíos tecnológicos.

• Adela enfatiza que no se puede escapar del mundo actual dominado por la inteligencia artificial; sin embargo, es posible orientarlo éticamente.

Libertad y Ética en el Uso de IA

• Se plantea que aunque hay preocupaciones sobre cómo las plataformas afectan nuestra libertad, siempre existe un espacio para ejercerla.

• La libertad debe ser utilizada éticamente; todos aquellos afectados por la inteligencia artificial deben ser beneficiarios también.

Justicia Social y Gestión Ética

• La justicia es clave: los grandes avances tecnológicos deben beneficiar a quienes son afectados por ellos.

Ética Aplicada y su Interdisciplinariedad

La importancia de la ética aplicada

• Se destaca la necesidad de aplicar lo aprendido en el proceso de fundación a diversas dimensiones de la vida cotidiana, enfatizando que no es un proceso sencillo.

• Las éticas aplicadas surgen para abordar problemas morales en diferentes esferas sociales, requiriendo respuestas desde múltiples teorías éticas y la colaboración de especialistas en cada área.

• Este seminario se presenta como un ejemplo ideal de ética aplicada, con participación interdisciplinaria que incluye a filósofos morales y expertos de diversas especialidades.

Colaboración interdisciplinaria

• La resolución de problemas actuales no puede depender únicamente de una disciplina; todas deben trabajar juntas para abordar los desafíos contemporáneos.

• Se menciona la ética de la inteligencia artificial y la robótica como áreas emergentes que requieren colaboración entre informáticos, ingenieros, filósofos morales y economistas.

Niveles de ética en inteligencia artificial

Primer nivel: Ética hacia sistemas inteligentes

• Se plantea si la ética debe ser adoptada por humanos al tratar con sistemas inteligentes o si estos sistemas deben actuar éticamente según sus propios principios.

• El primer nivel implica que los humanos deben utilizar una ética específica al interactuar con sistemas inteligentes, involucrando a investigadores, diseñadores y usuarios.

Consideraciones sobre dignidad e instrumentalización

• Los seres humanos son considerados fines en sí mismos con dignidad; sin embargo, los sistemas inteligentes son instrumentos al servicio humano y pueden ser instrumentalizados.

• Es crucial establecer marcos éticos claros para guiar el uso responsable de estos sistemas inteligentes, reconociendo su naturaleza como herramientas.

Orientaciones éticas globales

• Existen numerosas orientaciones éticas alrededor del mundo que buscan regular el uso adecuado de tecnologías emergentes.

Marco Ético de la Inteligencia Artificial

Principios Fundamentales de la Bioética

• La Unión Europea establece un marco ético en 2019 que incluye principios fundamentales para la inteligencia artificial, añadiendo un quinto principio: explicabilidad y trazabilidad.

• Los cuatro principios tradicionales de la bioética son: no maleficencia, beneficencia, autonomía y justicia. Estos principios han sido relevantes desde los años 70 del siglo XX.

• El principio de beneficencia implica que las prácticas deben ser beneficiosas para la sociedad; si no lo son, deberían ser eliminadas. La inteligencia artificial es vista como productiva y beneficiosa en muchos niveles.

• No maleficencia se refiere a no causar daño, especialmente protegiendo a las personas en términos de privacidad y evitando el mal uso de datos por máquinas sin supervisión humana.

Autonomía y Justicia

• La autonomía es clave en el contexto europeo; implica que las personas deben tener capacidad para tomar decisiones que humanicen su vida.

• El principio de justicia enfatiza que todos deben beneficiarse equitativamente de los avances tecnológicos, evitando discriminaciones y desigualdades exacerbadas por situaciones como la pandemia.

• Se destaca que el principio de justicia debe considerar a los más desfavorecidos; con los recursos actuales, aún persisten problemas básicos sin resolver.

Implicaciones Prácticas

• Las decisiones sobre vidas humanas no pueden depender únicamente de algoritmos; siempre debe haber supervisión humana para evitar sesgos dañinos.

• La responsabilidad moral nunca puede atribuirse a tecnologías autónomas; siempre debe recaer en seres humanos quienes toman decisiones finales basadas en algoritmos.

Trazabilidad y Ética de las Máquinas

• Es esencial garantizar que los usuarios tengan control sobre sus datos y conozcan cómo se utilizan los algoritmos relacionados con ellos.

• En el segundo nivel ético, se discute cómo las máquinas deben incorporar principios éticos en su programación mediante Deep Learning, aunque inicialmente estas programaciones son responsabilidad humana.

¿Qué desafíos éticos plantea la inteligencia artificial?

Problemas éticos en sistemas autónomos

• Se discuten los problemas éticos relacionados con la creatividad y capacidad de innovación de las máquinas, más allá de los programas introducidos por sus creadores.

• La necesidad de encontrar valores comunes transnacionales para que los sistemas inteligentes sean respetuosos con todos los seres humanos se destaca como un desafío importante.

Teorías éticas aplicables a las máquinas

• Se plantea la cuestión sobre qué teorías éticas (aristotélicas, ontológicas, utilitaristas) deberían ser incorporadas en el diseño de máquinas inteligentes.

• La discusión sobre cómo conformar una ética para las máquinas es compleja y requiere un análisis profundo.

Autonomía vs. Automatismo

• Se debate si las máquinas son realmente autónomas o simplemente automatismos dependientes de sus creadores.

• La idea de agentes morales artificiales que podrían tomar decisiones conscientes y responsables se presenta como un concepto intrigante pero aún no alcanzado.

Desafíos futuros en ética y tecnología

• Aunque hay consenso en que la autoconciencia plena en robots no es posible actualmente, se enfatiza la importancia de abordar los primeros niveles éticos.

• Es crucial establecer principios compartidos mediante un amplio debate público entre sectores políticos, económicos y ciudadanos.

Importancia del diálogo intersectorial

• La colaboración sinérgica entre el sector político, económico y ciudadano es esencial para construir una inteligencia artificial alineada con principios éticos universales.

• Se subraya la necesidad de educación e involucramiento activo de universidades y escuelas en este proceso.

Reflexiones finales sobre brechas digitales

• Se plantea si la digitalización y la inteligencia artificial aumentarán la brecha entre países desarrollados y no desarrollados; se concluye que depende del enfoque adoptado.

¿Cómo abordar la brecha digital y la ética en la inteligencia artificial?

La brecha digital y el diálogo entre culturas

• Se menciona que los países desarrollados deben abrirse a la brecha digital, enfatizando la importancia del diálogo y acuerdo entre diferentes naciones y culturas para avanzar en una dirección común.

• Se destaca que es fundamental que todos los beneficios de la digitalización lleguen a todos, sugiriendo un marco de justicia que debe ser enseñado entre los distintos países y sectores.

Ética en la inteligencia artificial

• Se recomienda un libro sobre cómo los humanos interactúan con las máquinas, centrándose en la ética de la inteligencia artificial. Este texto se considera relevante para entender argumentos sobre intencionalidad.

• Se plantea una pregunta crítica: ¿podemos juzgar a las máquinas con nuestra ética o debemos reconsiderar nuestra perspectiva sobre su intencionalidad?

Niveles de inteligencia artificial

• Se discute el primer nivel donde no existe problema de intencionalidad; se entiende que los sistemas inteligentes son herramientas al servicio humano.

• En el segundo nivel, se introduce el concepto de "inteligencia general", lo cual implica una serie de elementos como intencionalidad y consciencia.

Consciencia e intencionalidad

• Para considerar a un sistema como auténticamente inteligente, debe poseer consciencia, capacidad de reflexión y un amplio rango emocional.