Do you know AI or AI knows you better? Thinking Ethics of AI (version with multilingual subtitles)

¿Qué es la Inteligencia Artificial y cómo nos afecta?

Definición y enfoques de la Inteligencia Artificial

• La inteligencia artificial (IA) permite a las computadoras realizar tareas cognitivas que antes solo podían hacer los humanos, como trabajar con datos y darles sentido.

• Existen dos enfoques principales en IA: uno basado en datos, que utiliza algoritmos para interpretar información; y otro basado en conocimiento, que requiere contexto y categorías para entender los datos.

• El enfoque basado en el conocimiento se orienta hacia sistemas expertos, mientras que el enfoque basado en datos es útil para el reconocimiento de patrones e imágenes.

Implicaciones de la IA en la sociedad

• La IA está cambiando nuestra interacción con el mundo, planteando preguntas sobre la singularidad humana si las máquinas pueden realizar trabajos humanos.

• Las implicaciones éticas deben ser consideradas desde el inicio del desarrollo de sistemas de IA debido a su rápida evolución. Esto incluye reflexionar sobre las consecuencias potenciales.

• Aunque habrá pérdida de empleos por la automatización, también surgirán nuevos tipos de empleo, especialmente en educación y adaptación a nuevas tecnologías.

Nuevas dinámicas laborales

• La nueva división social se basará en la flexibilidad y capacidad de adaptación al cambio tecnológico, no simplemente entre trabajos reemplazables o no por robots.

• Se debe aspirar a una IA que apoye a la humanidad, centrando su desarrollo en valores humanos fundamentales.

Dilemas éticos en la IA

• Un ejemplo común es el dilema del tranvía: ¿debería desviarse un tranvía hacia una persona para salvar a cinco? Este tipo de decisiones plantea interrogantes sobre cómo programar moralmente a las máquinas.

• Ser moral implica más que elegir entre opciones; requiere motivación para actuar éticamente, lo cual es complejo al "educar" a sistemas de IA con marcos éticos diversos.

Pluralidad ética y vulnerabilidad humana

• No existe un marco ético único aplicable universalmente; vivir bajo un solo estándar sería totalitario y contrario a la pluralidad deseada por UNESCO.

La Vulnerabilidad Humana y la Inteligencia Artificial

La Naturaleza de la Vulnerabilidad

• La vulnerabilidad se define como nuestra capacidad de ser lastimados, tanto física como socialmente. Esta característica nos une como seres humanos.

• Al comprender nuestra vulnerabilidad humana, especialmente en el contexto social, podemos diseñar tecnologías de IA que no solo eviten efectos negativos en nuestras relaciones, sino que potencialmente las mejoren.

Impacto de las Redes Sociales

• Las redes sociales explotan la vulnerabilidad humana al incentivar la búsqueda constante de "likes", lo que puede afectar negativamente nuestro bienestar emocional.

• Se propone trabajar en tecnologías que fomenten una reflexión activa sobre nuestras vulnerabilidades y cómo estas influyen en nuestras acciones.

Sesgos en la Inteligencia Artificial

• La IA interpreta el mundo a través de marcos referenciales específicos que pueden contener sesgos. Esto es preocupante ya que puede influir en decisiones críticas.

• Un ejemplo claro es un dispensador de jabón que solo funciona para manos blancas, evidenciando un sesgo racial. Es crucial evitar estos errores en sistemas autónomos de IA.

Inclusión y Diversidad

• Existe un riesgo genuino para poblaciones minoritarias debido a la falta de datos representativos. Los ingenieros deben incluir a estas comunidades para reflejar su diversidad en las tecnologías.

• Equipos diversos son esenciales para identificar sesgos; sin representación directa, es difícil reconocer problemas que no afectan personalmente.

Igualdad de Género y Estereotipos

• La IA puede ayudar a visibilizar sesgos de género al exponer patrones existentes, como los resultados sesgados al buscar "profesor" en Google.

• El diseño actual de IA tiende a favorecer a hombres debido a su predominancia en el campo tecnológico, perpetuando un ciclo vicioso.

Promoción Cultural y Localización

• Es vital abrir el campo de la IA a mujeres y diversificar cómo se codifica esta tecnología para reflejar múltiples perspectivas culturales.

• Ejemplos como asistentes vocales muestran estereotipos arraigados; se necesita una representación más equitativa entre géneros.

Conclusiones sobre Cultura Local

• La IA tiene el potencial de fortalecer culturas locales respetando su diversidad, como se ejemplifica con conceptos japoneses como "wabi-sabi".

La Inteligencia Artificial y la Creatividad Humana

Uso de la IA en la comunidad

• Se utilizó la Inteligencia Artificial para fomentar las capacidades creativas de los ancianos en un centro comunitario, ayudándoles a escribir poemas sobre sus recuerdos.

• La IA proporcionó opciones de vocabulario que facilitaron la expresión de sus memorias, mostrando cómo puede ser una herramienta para el arte y la creatividad.

Responsabilidad Ética en el Desarrollo de IA

• Un tema ético crucial es determinar quién es responsable cuando la IA toma decisiones o sugiere acciones.

• Se plantea que, aunque los ingenieros crean tecnología, deben asumir responsabilidad por su impacto social y no desentenderse del resultado de su trabajo.

Transparencia y Comprensión

• Es fundamental investigar cómo hacer que la IA sea más transparente; si se convierte en una "caja negra", los usuarios no pueden responsabilizarse ni influir en ella.

• Si no se abordan cuestiones éticas desde perspectivas científicas o filosóficas, solo las empresas con fines de lucro lo harán, lo cual podría llevar a intereses económicos predominantes sobre el bienestar social.

Regulaciones y Diversidad Cultural

• Es necesario establecer regulaciones que guíen el desarrollo tecnológico para evitar monopolios culturales que impongan visiones sesgadas a través de la IA.

• La diversidad humana debe ser considerada al desarrollar tecnologías; ignorarla puede resultar en sistemas que perpetúan prejuicios o errores culturales.

Lecciones del Monstruo de Frankenstein

• La historia de Frankenstein ilustra cómo el creador debe asumir responsabilidad por su creación; dejar a las tecnologías sin supervisión puede tener consecuencias negativas.

• Debemos educar y entrenar a las IAs para asegurar que actúen responsablemente. Si se les deja solas, podríamos enfrentar problemas similares a los del relato clásico.

Preparación ante el Futuro Tecnológico