How I'm fighting bias in algorithms | Joy Buolamwini
Introducción
Resumen de la sección: En esta sección, Joy Buolamwini introduce el concepto de sesgo algorítmico y su impacto en la sociedad. Explica cómo los algoritmos pueden propagar sesgos a gran escala y generar experiencias de exclusión y discriminación.
Sesgo algorítmico y mirada codificada
- El sesgo algorítmico es similar al sesgo humano y puede resultar en injusticia.
- Los algoritmos pueden propagar sesgos a gran escala.
- El sesgo algorítmico puede generar experiencias de exclusión y prácticas discriminatorias.
La experiencia personal de Joy Buolamwini
Resumen de la sección: Joy Buolamwini comparte su experiencia personal con el sesgo algorítmico y cómo afecta su detección facial.
Detección facial fallida
- Joy muestra ejemplos de detección facial fallida debido a un software con sesgo.
- Explica que incluso una cámara barata no puede detectar su rostro sin lentes o con una máscara blanca.
Experiencia previa con robots sociales
- Joy relata una experiencia previa en la que trabajaba con robots sociales y tuvo dificultades para lograr que un robot detectara su rostro cubierto.
- Utilizó el rostro de otra persona para completar el proyecto, pero esto no solucionó el problema subyacente del sesgo algorítmico.
El alcance del sesgo algorítmico
Resumen de la sección: Joy destaca cómo el sesgo algorítmico puede tener un impacto más amplio en la sociedad.
Uso del reconocimiento facial por parte de los departamentos de policía
- Los departamentos de policía en EE.UU. utilizan software de reconocimiento facial para combatir el crimen.
- Esto ha llevado a que millones de personas tengan sus rostros en redes de reconocimiento facial no reguladas.
- La exactitud del reconocimiento facial y la falta de regulación pueden llevar a errores y violaciones de derechos civiles.
El aprendizaje automático y la toma de decisiones
- El aprendizaje automático se utiliza cada vez más para tomar decisiones que afectan diversos aspectos de nuestras vidas, como contratación, préstamos y seguros.
- También se está utilizando en la aplicación de la ley, donde algunos jueces utilizan puntajes generados por máquinas para determinar riesgos.
Soluciones al sesgo algorítmico
Resumen de la sección: Joy propone soluciones para abordar el sesgo algorítmico.
Creación de conjuntos de datos más diversos
- Joy sugiere crear conjuntos de datos más diversos que reflejen mejor la diversidad humana.
- Esto ayudaría a reducir el sesgo algorítmico y mejorar la precisión del reconocimiento facial.
Regulación y transparencia
- Es necesario regular el uso del reconocimiento facial y garantizar una mayor transparencia en los algoritmos utilizados.
- Esto ayudaría a evitar prácticas discriminatorias y proteger los derechos civiles.
Conclusiones finales
Resumen de la sección: Joy destaca la importancia de abordar el sesgo algorítmico y trabajar hacia sistemas más justos y equitativos.
Impacto del sesgo algorítmico
- El sesgo algorítmico puede tener un impacto significativo en la sociedad, generando exclusión y discriminación.
- Es fundamental abordar este problema para garantizar sistemas más justos y equitativos.
Acciones necesarias
- Se deben tomar medidas como crear conjuntos de datos más diversos, regular el uso del reconocimiento facial y promover la transparencia en los algoritmos utilizados.
Importancia de la codificación inclusiva
Resumen de la sección: En esta sección, la oradora destaca la importancia de emplear prácticas de codificación inclusivas y comparte ejemplos personales en los que experimentó problemas debido al sesgo algorítmico.
Problemas con el reconocimiento facial
- La oradora trabajó en un proyecto donde un robot debía jugar a esconderse, pero el robot no podía detectar su rostro.
- En una competencia en Hong Kong, también tuvo problemas con el reconocimiento facial en otro robot social.
- Estos ejemplos demuestran cómo el sesgo algorítmico puede llevar a exclusiones y discriminación.
Cómo las máquinas ven
- La visión por computadora utiliza técnicas de aprendizaje de máquina para el reconocimiento facial.
- Se crean series de prueba con ejemplos de rostros para enseñar a las computadoras a reconocerlos.
- Si las series de prueba no son diversas, los rostros que se desvían mucho de la norma establecida son más difíciles de detectar.
El sesgo algorítmico y sus consecuencias
- El sesgo algorítmico puede generar prácticas discriminatorias.
- Los departamentos de policía en EE.UU. utilizan software de reconocimiento facial sin regulación adecuada, lo que puede llevar a errores y violaciones a la libertad civil.
- El aprendizaje automático también se utiliza en decisiones como contratación, préstamos y cobertura de seguros, lo que plantea preocupaciones sobre justicia y equidad.
Hacia una codificación inclusiva
- Es importante crear equipos de desarrollo con diversidad para evitar puntos ciegos y sesgos.
- La forma en que se codifica y se desarrollan los sistemas también es relevante.
- Se deben construir plataformas que identifiquen sesgos y se deben realizar auditorías del software existente.
- Se propone la creación de grupos de formación más inclusivos para fomentar la diversidad en el campo de la codificación.
El movimiento "codificador"
Resumen de la sección: En esta sección, la oradora presenta los tres principios del movimiento "codificador" y destaca la importancia de generar igualdad a través del cambio social.
Los tres principios del movimiento "codificador"
- Quién codifica importa.
- Cómo codificamos importa.
- Por qué codificamos importa.
Construyendo plataformas inclusivas
- Se sugiere construir plataformas que puedan identificar sesgos al reunir experiencias diversas.
- También se propone auditar el software existente para detectar posibles sesgos.
- La formación más inclusiva puede lograrse mediante campañas como "Selfies por la inclusión".
Generando igualdad a través del cambio social
- Las herramientas informáticas han generado una gran riqueza, pero ahora es necesario utilizarlas para generar igualdad.
- El cambio social debe ser una prioridad en lugar de un simple pensamiento.
Solicitar auditorías y unirse a la conversación en curso
Resumen de la sección: En esta parte del discurso, se invita a los espectadores a solicitar auditorías y unirse a la conversación en curso sobre el tema #codedgaze.
Un mundo donde la tecnología trabaje para todos nosotros
- La oradora invita a crear un mundo donde la tecnología trabaje para todos, no solo para algunos.
- Se destaca la importancia de valorar la inclusión y centrar el cambio social.
Pregunta planteada
Resumen de la sección: En esta parte del discurso, se plantea una pregunta al público.
Pregunta sobre el cambio social
- La oradora plantea una pregunta relacionada con el cambio social.