Qué es la ética de la tecnología y por qué debería importarte | Gemma Galdón-Clavell | TEDxZaragoza

¿Qué es la ética de la tecnología?

Introducción a la ética de la tecnología

• Julieta Albarracín introduce el tema de la ética de la tecnología, destacando su relevancia actual.

• Se menciona el caso de Mark Zuckerberg y cómo Facebook ha manipulado nuestra percepción sobre la privacidad en sus plataformas.

La realidad del uso de datos

• Se explica que cuando un producto tecnológico no se paga con dinero, los usuarios son en realidad el producto, alimentando un modelo comercial basado en datos personales.

• Albarracín invita a reflexionar sobre las implicaciones de tener dispositivos "inteligentes" que pueden espiar nuestras conversaciones privadas.

Más allá de la privacidad

• La oradora enfatiza que la ética tecnológica abarca más que solo cuestiones de privacidad; hay un universo más amplio por explorar.

• Relata su experiencia personal al investigar sobre videovigilancia y cómo esta afecta nuestra interacción con el espacio público.

Impacto social y expectativas

• Las cámaras no solo capturan imágenes, sino que también influyen en las dinámicas sociales y en nuestras expectativas sobre seguridad.

• Cita a Richard Sennett y plantea preguntas sobre cómo las ciudades vigiladas afectan las relaciones humanas, como el amor entre Romeo y Julieta.

Reflexiones críticas sobre el futuro

• Albarracín comparte su "Aha moment", cuestionando si lo que estamos creando tecnológicamente es realmente deseable para nuestra sociedad.

• Destaca cómo los jóvenes son particularmente vulnerables a ser maltratados por prácticas invasivas relacionadas con la recolección de datos.

Consecuencias del registro digital

• Se discute cómo, debido a los avances tecnológicos, olvidar se ha vuelto más difícil que recordar; esto tiene implicaciones significativas para las generaciones actuales.

• Los jóvenes enfrentan una vida llena de miedo debido a su huella digital, lo cual puede afectar negativamente sus oportunidades futuras.

Conclusión: Necesidad de nuevas preguntas

Ética de la Tecnología y Automatización en Fronteras

Introducción a la automatización del cruce de fronteras

• La automatización en el control de pasaportes ha reemplazado a los policías por máquinas, que utilizan reconocimiento biométrico para decidir si se permite el paso.

• El Parlamento Europeo consideró la automatización del cruce de fronteras como una "enmienda técnica", sin un debate profundo sobre sus implicaciones éticas y sociales.

Consecuencias de la automatización

• La percepción errónea de que cambiar procesos humanos por automáticos no afecta la conceptualización de las fronteras ha llevado a una falta de control público.

• La frontera ha evolucionado hacia un espacio continuo de control, donde el proceso comienza al comprar un billete o solicitar una visa, y no termina al cruzar físicamente.

Impacto en los derechos fundamentales

• La introducción de datos y automatización ha transformado lo que significa una frontera, convirtiéndola en un espacio extenso y vigilado.

• Los migrantes enfrentan nuevas formas extremas para evitar ser identificados, como mutilarse para escapar del control biométrico.

Percepción pública sobre el control automático

• A pesar de las preocupaciones sobre errores en sistemas automáticos, muchos migrantes prefieren este tipo de control por su aparente eficiencia.

• Sin embargo, existe un temor generalizado ante posibles "falsos positivos" donde los errores tecnológicos pueden llevar a situaciones críticas sin mecanismos claros para resolverlas.

Ciencia Ciudadana: Ética y Desafíos

Definición y aplicación

• Se explora cómo la ciencia ciudadana utiliza tecnología para recopilar datos mediante la participación activa del público en investigaciones científicas.

Problemas éticos encontrados

• Un caso paradigmático muestra cómo se puede caer en el "despotismo de los datos", donde se recogen datos personales sin precauciones adecuadas ni consentimiento informado.

Evolución hacia prácticas responsables

• Se han implementado mecanismos para asegurar que la ciencia ciudadana beneficie realmente a las personas involucradas, evitando abusos.

Futuro del Trabajo e Inteligencia Artificial

Temores sobre robots y empleo

¿Por qué tomamos malas decisiones tecnológicas?

Decisiones erróneas en la adopción de tecnología

• Los directores y CEOs tienden a gastar más en tecnología que en procesos no tecnológicos, lo que puede llevar a decisiones inadecuadas.

• Se observa la adquisición de tecnologías innecesarias, como exoesqueletos y sensores, sin evaluar su impacto real en la eficacia o rentabilidad.

• La falta de conocimiento sobre alternativas menos invasivas y el enfoque comercial de los vendedores contribuyen a entornos laborales insatisfactorios.

Empoderamiento y ética tecnológica

• Es crucial desarrollar mecanismos para ayudar a las personas a discernir cuándo una tecnología es realmente útil.

• La ética de la tecnología se centra en este empoderamiento, buscando mejorar la toma de decisiones.

Desafíos con algoritmos de seguridad

Vigilancia inteligente y sesgos algorítmicos

• Se auditaban algoritmos para cámaras inteligentes destinadas a detectar comportamientos criminales en lugares sensibles como bancos y aeropuertos.

• Estas cámaras pueden alertar sobre comportamientos peligrosos sin intervención humana inicial, pero presentan problemas inherentes.

Normalidad codificada por ingenieros

• Los ingenieros definen su propia normalidad al programar algoritmos, lo que puede resultar en discriminación hacia ciertos grupos demográficos.

• Las personas mayores o aquellas que utilizan espacios públicos de manera diferente son clasificadas erróneamente como sospechosas debido a esta programación sesgada.

Limitaciones de los algoritmos predictivos

Imposibilidad de predecir el futuro

• No se puede predecir el futuro; los algoritmos solo pueden identificar patrones basados en datos pasados. Llamar esto "predicción" es arriesgado.

• La insistencia policial en utilizar algoritmos para prevenir crímenes es problemática; todos tienen derecho a la presunción de inocencia hasta demostrar lo contrario.

Retos del coche autónomo

Percepción social versus realidad técnica

• A pesar de ser más seguros, los coches autónomos enfrentan un desafío significativo: cada incidente se convierte en noticia mundial, afectando su aceptación pública.

Ética de la Tecnología y su Impacto Social

La necesidad de control en la tecnología

• La ética de la tecnología abarca más que solo dispositivos personales; implica una infraestructura de datos que requiere control y responsabilidad.

• La forma actual de desarrollar tecnología es considerada profundamente irresponsable por el ponente.

• Se compara el lanzamiento de medicamentos no testados con la falta de pruebas en ingeniería informática, lo cual es inaceptable socialmente.

Cambios positivos en la ética tecnológica

• Hay señales de cambio hacia una mayor responsabilidad en el desarrollo tecnológico.

• El surgimiento de perfiles interdisciplinarios muestra un creciente interés por los impactos sociales y éticos de las tecnologías.

• Se están formando grupos que trabajan para mejorar la transparencia y el control sobre algoritmos.

Justificación del impacto tecnológico

• Los estudios de impacto se están volviendo comunes, similar a cómo se evalúa el impacto ambiental antes de construir infraestructuras.

• No deberíamos lanzar productos tecnológicos sin considerar su impacto social y si este es deseable o no.

Innovación responsable frente a resistencia

• Muchos profesionales están comprometidos con crear una innovación responsable, aunque hay voces que argumentan que la regulación frena la creatividad.

• Se rechaza la idea de que límites éticos y regulaciones son contrarios a la innovación; históricamente hemos domesticado tecnologías para asegurar su uso seguro.

Debates necesarios sobre nuevas tecnologías

• Es esencial establecer consensos sociales sobre nuevas innovaciones tecnológicas, como se hizo con los coches (cinturones, semáforos).

• La ética tecnológica debe fomentar debates sobre cómo regular nuevas innovaciones para garantizar su deseabilidad social.