Seminario Práctica del Derecho e IA

Introducción al Seminario sobre Derecho e Inteligencia Artificial

Bienvenida y Presentación de los Ponentes

• Se da la bienvenida a los asistentes al seminario en la Pontificia Universidad Católica de Chile, organizado por el Programa de Derecho Ciencia y Tecnología.

• Participan destacados ponentes como Lozar de Terman, profesor en universidades de California y Berlín, autor del libro "Termans Field Guide to Artificial Intelligence".

• También están presentes Daniel Villanueva Placencia del Tecnológico de Monterrey y José Ignacio Mercado, director del Grupo de Protección de Datos y Tecnología.

Expectativas del Seminario

• Se menciona que habrá un espacio para preguntas al final de las presentaciones.

• La discusión inicial se centrará en definir qué es la inteligencia artificial, un tema crucial para abordar problemas legislativos actuales.

Definición y Regulación de la Inteligencia Artificial

Perspectivas sobre la IA

• Lozar destaca que hay confusión sobre el término "inteligencia artificial", ya que cada persona puede tener una interpretación diferente.

• Propone una definición práctica: "artificial" implica algo creado por humanos, mientras que "inteligente" se refiere a resolver problemas sin violencia.

Desafíos Regulatorios

• Se discute el marco regulatorio europeo (EUAI act), que abarca sistemas basados en máquinas con diferentes niveles de autonomía.

• El acto establece criterios amplios; incluso calculadoras pueden ser consideradas sistemas AI si influyen en decisiones significativas.

Críticas a las Definiciones Actuales

Inteligencia Artificial y Legislación en México

Consideraciones sobre la Inteligencia Artificial

• Los legisladores en México han comenzado a considerar la inteligencia artificial, siguiendo un camino similar al de Europa, pero con influencias de Estados Unidos.

• Se discute una definición de inteligencia artificial que menciona la "apariencia de inteligencia humana", lo cual plantea complicaciones sobre qué se considera humano o no.

• La atribución de características antropomórficas a las máquinas podría generar problemas legales, como definir si el apagado de una máquina equivale a un homicidio.

• La regulación futura implicará responsabilidades y requisitos legales; es crucial definir correctamente qué constituye la inteligencia artificial para evitar malentendidos.

• Hay que tener cuidado con el uso del término "inteligencia artificial" ya que puede ser utilizado como herramienta de marketing por empresas que buscan innovar sin cumplir con los estándares reales.

Definiciones y Diferenciación

• Se sugiere utilizar definiciones más estrechas para la inteligencia artificial hasta que exista una ley clara que defina el término adecuadamente.

• Se propone diferenciar entre sistemas programados determinísticamente (que no son IA) y verdaderos sistemas de inteligencia artificial, los cuales operan con un alto nivel de autonomía.

• Los sistemas verdaderamente novedosos presentan problemas legales complejos relacionados con la propiedad intelectual y secretos comerciales debido a su naturaleza impredecible.

Desarrollo y Aprendizaje Automático

• El desarrollo tradicional del software implica programación determinística, donde el humano define las acciones; esto contrasta con cómo se entrenan los vehículos autónomos.

• En lugar de programación determinística, se enseña a los coches autónomos mediante aprendizaje práctico, permitiéndoles tomar decisiones basadas en experiencias previas.

¿Cómo se entrenan los sistemas de IA para reconocer objetos?

Métodos de entrenamiento y reconocimiento

• Los conductores humanos son entrenados para tomar el volante, lo que se compara con la autonomía de los sistemas de IA. Se discute cómo estos sistemas pueden tener un alto o bajo grado de autonomía.

• Se menciona el desafío que enfrentan las máquinas al identificar objetos en imágenes, como hidrantes o bicicletas, y la dificultad que tendría un programador humano para describir estas variaciones.

• Los desarrolladores decidieron enseñar a las máquinas a reconocer objetos mediante la exposición a numerosas fotos, permitiendo que la máquina identifique un hidrante sin una descripción previa.

• La identificación se basa en patrones aprendidos por la máquina a través de múltiples nodos GPU, similar al funcionamiento del cerebro humano. Esto permite ajustar el "peso" de cada nodo según su precisión.

• Las máquinas ahora pueden reconocer rostros en multitudes desde grandes distancias, aunque cometen errores. Este método probabilístico es diferente del enfoque tradicional "si esto entonces aquello".

¿Qué implicaciones legales surgen del uso de IA generativa?

Cuestiones sobre responsabilidad y derechos

• La IA generativa puede predecir palabras en mensajes instantáneos basándose en métodos probabilísticos. Esto plantea preguntas sobre quién es responsable si hay errores en sus respuestas.

• Se discute la propiedad intelectual relacionada con el contenido generado por IA y si existe algún derecho autoral sobre este tipo de salida.

• La falta de conexión entre las decisiones humanas y los resultados producidos por la IA genera nuevos problemas legales que deben abordarse mediante leyes existentes o nuevas regulaciones.

• Las regulaciones actuales son demasiado amplias e incluyen software trivial como calculadoras o relojes inteligentes, lo cual podría obstaculizar el progreso y atención hacia sistemas problemáticos reales.

• Se propone una definición más estrecha para identificar los sistemas realmente problemáticos (2% - 3% del total), sugiriendo que muchos otros problemas pueden resolverse con leyes existentes sin necesidad de nuevas regulaciones complejas.

¿Cómo afecta la explicabilidad a los algoritmos futuros?

Futuro del control algorítmico

• Se plantea si será posible controlar algoritmos avanzados en el futuro debido a su nivel actual limitado de explicabilidad; se trabaja activamente en mejorar esta área dentro del campo informático.

• Existe optimismo sobre poder entender mejor los sistemas actuales dentro de diez años, lo cual podría permitir decisiones humanas más informadas respecto a ellos.

¿Cómo definimos la inteligencia artificial?

La evolución de la IA y su autonomía

• Se plantea que en 10 años podríamos entender la inteligencia artificial (IA) como un sistema determinista, lo que permitiría enfocarnos en los problemas más críticos relacionados con su uso.

• Es crucial concentrarse en las tecnologías que representan un verdadero riesgo, ya que a mayor autonomía de una máquina, mayor es el potencial riesgo asociado.

Definición de inteligencia y sus implicaciones

• Se cuestiona cómo definimos la inteligencia al basarla en estándares humanos, especialmente cuando las máquinas pueden razonar o comunicarse en lenguajes propios.

• La dificultad radica en establecer límites claros sobre qué constituye la inteligencia desde una perspectiva humana versus una máquina.

Propiedad intelectual y derechos de autor

• Se discute la falta de regulación clara sobre propiedad intelectual relacionada con IA, especialmente respecto a obras generadas por estas tecnologías.

• Dar características humanas a las máquinas puede ser problemático; se advierte sobre los riesgos éticos y técnicos involucrados.

Autonomía y control del usuario

• La definición de IA debe centrarse en el término "autonomía", permitiendo medir hasta qué punto una máquina opera sin intervención humana.

• Si un usuario puede controlar cómo se entrega un resultado generado por IA, entonces no debería estar regulado; si no puede hacerlo, sí debería ser objeto de regulación.

Cuestiones éticas y legales sobre la creatividad

• Se debate si incluir componentes de inteligencia humana en la definición de IA podría acarrear diferentes riesgos éticos.

• Allan Turing propuso definir IA comparándola con la inteligencia humana; sin embargo, esto podría llevar a optimizar máquinas para engañar a los humanos, lo cual no es deseable.

Desafíos en el Uso de Imágenes Generadas por IA

Problemas en el uso y desarrollo de imágenes generadas

• Se discute la falta de comprensión del público sobre el consumo energético y los peligros asociados con el uso de imágenes generadas por IA.

• La obtención de imágenes para entrenar modelos plantea interrogantes sobre regalías y derechos, sugiriendo que un modelo jurídico es necesario para proteger estos aspectos.

• Existen juicios en Estados Unidos relacionados con estos temas, aunque aún no se han resuelto.

Toma de decisiones automatizadas

• Se menciona que la toma de decisiones automatizadas ha sido objeto de legislación desde 1976, destacando la preocupación por el control humano frente a las máquinas.

• Francia incluyó en su ley nacional un derecho humano a no ser sometido a decisiones automatizadas basadas únicamente en máquinas.

Implicaciones del puntaje crediticio

• En 2023, el Tribunal Europeo decidió que el puntaje crediticio es una forma de decisión automatizada, lo cual cambia la perspectiva sobre cómo se toman estas decisiones.

• Los bancos utilizan puntajes crediticios para decidir préstamos sin entender completamente cómo se calculan esos puntajes.

Riesgos asociados con la IA

• Si las máquinas son entrenadas con datos históricos sesgados, pueden perpetuar discriminación racial o de género al otorgar créditos.

• Ejemplos muestran cómo las personas históricamente desfavorecidas podrían seguir siendo discriminadas si las máquinas emiten puntuaciones basadas en patrones sesgados.

Regulaciones y consideraciones futuras

• Es crucial distinguir entre decisiones automatizadas y la implementación de decisiones humanas mediante tecnología; esto tiene implicaciones significativas en contextos laborales y educativos.

¿Cómo afecta la automatización a las decisiones en Europa?

Regulaciones y decisiones automatizadas

• En Europa, hay una tendencia a prohibir la automatización en ciertos contextos, como el uso de máquinas para acceder a los telesillas, lo que se considera una toma de decisiones automatizada. Esto puede ser visto como un enfoque demasiado amplio que ignora decisiones humanas simples.

• La confusión sobre qué constituye realmente la inteligencia artificial (IA) es un problema actual. Ejemplos problemáticos incluyen el scoring crediticio y el escaneo de currículos por parte de empleadores, que son áreas donde se necesita más claridad regulatoria.

• Un estudio en EE.UU. reveló que existe una discrepancia entre los departamentos legales y de recursos humanos sobre el uso de IA para reclutamiento; mientras que solo el 15% de los abogados afirmaron usarla, el 85% del departamento de recursos humanos sí lo hizo.

• Esta falta de entendimiento sobre cómo funcionan estos sistemas puede tener un impacto profundo en la sociedad. Es crucial definir claramente qué es IA y qué queremos regular o prohibir en términos de toma de decisiones automatizadas.

Desafíos regulatorios en América Latina

• En México, la nueva ley sobre protección de datos personales incluye regulaciones sobre decisiones automatizadas, reflejando preocupaciones similares a las observadas en Europa. Esto implica derechos para que las personas puedan optar por no ser sujetas a estas decisiones.

• Las empresas enfrentarán desafíos significativos al implementar mecanismos para permitir a los usuarios retirar su consentimiento respecto al tratamiento automático de sus datos personales, lo cual requerirá inversión y esfuerzo considerable.

Errores comunes con sistemas automáticos

• Se presentan errores cuando profesionales del derecho utilizan herramientas como ChatGPT sin comprender su funcionamiento. Un abogado envió una moción basada en información fabricada por esta herramienta sin verificar su veracidad.

• Este tipo de errores pueden resultar en sanciones legales graves si se presentan casos incorrectos ante un tribunal. La falta de comprensión tecnológica entre algunos abogados resalta la necesidad urgente de educación sobre estos sistemas.

Reflexiones finales sobre IA

Chatbots: ¿Son fuentes de verdad?

Función y Limitaciones de los Chatbots

• Los chatbots están diseñados para generar texto basado en métodos probabilísticos, no son fuentes de verdad. Se advierte a los usuarios que su salida es solo un borrador.

• Un abogado puede usar un borrador como base para un documento, pero siempre debe ser consciente de que no es un hecho exacto. La responsabilidad recae en el usuario para verificar la precisión.

• Si un chatbot proporciona información incorrecta, esto no se considera un defecto del sistema; es parte de su funcionamiento. Los usuarios deben comprobar la veracidad de la información.

• Max Schrems ha presentado quejas sobre datos personales inexactos generados por chatbots, argumentando que esto va en contra de la integridad. Sin embargo, se debe entender que estos sistemas generan textos borradores y no datos precisos.

• Es crucial ser cuidadoso con el lenguaje utilizado al describir estas máquinas en contratos y formaciones para evitar malentendidos sobre sus capacidades.

Impacto de la Inteligencia Artificial en el Derecho

Perspectiva Personal del Abogado

• José Ignacio introduce su presentación, mencionando que inicialmente iba a hablar en inglés pero opta por su idioma nativo para mayor claridad.

• Se plantea como un abogado impactado por consultas relacionadas con inteligencia artificial sin ser experto en el tema.

• Reflexiona sobre su formación académica donde nunca escuchó sobre inteligencia artificial ni como amenaza ni como oportunidad durante sus estudios universitarios.

Evolución Profesional y Tecnológica

• Durante sus años universitarios, solo tuvo una breve exposición a herramientas básicas informáticas aplicadas al derecho, lo cual era muy limitado.

• A partir del 2000, comenzó a trabajar con tecnologías disruptivas y ha dedicado su carrera a ayudar a clientes con escalamiento tecnológico y regulatorio.

Desafíos Regulatorios desde 2020

Cambios Normativos Recientes

• Desde 2020, el entorno legal se ha vuelto más complejo debido a nuevas leyes como la ley Fintech y la ley de protección de datos personales.

• Antes había una amplia libertad regulatoria; sin embargo, ahora hay más exigencias normativas que complican el proceso comercial y requieren adaptaciones constantes.

Desafíos de la Regulación de la Inteligencia Artificial en Chile

Contexto de la Regulación

• Antes de la Ley de Protección de Datos Personales, se discutía sobre una ley que regulaba el uso de sistemas de inteligencia artificial, donde Latinoamérica fue pionera.

• Se observa un desorden normativo al copiar regulaciones europeas sin adaptarlas a la realidad chilena, creando políticas públicas poco realistas.

Dificultades en la Aplicación Legal

• La tradición jurídica y las prácticas establecidas dificultan la implementación efectiva de nuevas normativas relacionadas con inteligencia artificial.

• Las preguntas legales han evolucionado; ahora son más complejas y difíciles de abordar para los abogados.

Paradojas Normativas

• Existe una paradoja donde las regulaciones actuales permiten abordar ciertos problemas, pero las nuevas propuestas generan confusión y falta de certeza jurídica.

• Ejemplos prácticos incluyen dudas sobre derechos personales relacionados con el uso de datos para crear avatares o voces artificiales.

Impacto en Proyectos Reales

• El entrenamiento de inteligencias artificiales plantea interrogantes sobre el manejo adecuado de datos personales sensibles.

• Normativas recientes pueden no alinearse con lo que se regula en materia de datos personales e inteligencia artificial, afectando proyectos como sistemas de reconocimiento facial.

Necesidad de un Sistema Ordenado

• La pregunta clave es cómo establecer un sistema normativo ordenado que permita innovación sin inhibir el desarrollo legítimo.

Desarrollo de la Persona Humana y Regulación Tecnológica

Enfoque en la Persona

• La importancia de centrar el desarrollo en la persona humana, promoviendo la innovación sin caer en una regulación excesiva.

• Se sugiere resolver problemas jurídicos con las reglas existentes, reservando nuevas regulaciones solo para casos donde las soluciones actuales no sean suficientes.

Innovación Responsable

• Crítica a la innovación por el mero hecho de ser pioneros; se enfatiza que es más importante hacer bien las cosas que ser los primeros.

• Un sistema mal implementado puede generar barreras significativas y aumentar costos transaccionales en el ámbito jurídico.

Evolución de la Regulación

• Reflexión sobre cómo ha evolucionado la regulación tecnológica y el estado actual del marco normativo.

• Se menciona que tradicionalmente, el derecho se basaba en reglas claras y lógicas directas, asumiendo que las personas actúan racionalmente.

Crisis Financiera y Cambio Normativo

• La crisis del 2008 reveló que las personas no siempre actúan de manera lógica, lo que llevó a un cambio hacia una regulación basada en riesgos.

• Esta nueva perspectiva busca proteger al consumidor mediante información adecuada, aunque también ha generado una carga administrativa significativa.

Barreras Regulatorias Actuales

• La ley europea sobre inteligencia artificial impone numerosos controles informativos, creando barreras para quienes deben cumplir con estas exigencias.

• Se discute cómo esta reportería puede influir en el comportamiento racional esperado de los actores involucrados.

Principios Abstractos en Regulación

• Actualmente se observa un enfoque basado en principios más abstractos, como los mencionados en la regulación fintech chilena.

Regulación de Datos Personales y Responsabilidad Objetiva

Conceptos Clave sobre la Regulación

• La regulación establece que las empresas pueden ser sancionadas incluso sin daño, basándose en la sola conducta que afecta un principio. Esto implica una responsabilidad objetiva.

• Se discute la complejidad de determinar qué acciones podrían evitar sanciones, lo que plantea problemas en el ámbito del derecho procesal.

• El tipo jurídico se describe como un marco normativo claro, pero con la regulación por riesgo, los tipos no siempre están definidos, lo que complica su cumplimiento.

Desafíos de la Regulación Basada en Riesgo

• La transición a una regulación basada en riesgos ha revelado que muchos hechos quedan fuera de la reportería debido a su imprevisibilidad.

• La falta de claridad sobre qué conductas son sancionables dificulta al regulador tomar decisiones consistentes y justas.

• Se menciona cómo las métricas proporcionadas para evaluar conductas pueden ser insuficientes para establecer responsabilidades claras.

Ejemplos y Comparaciones Internacionales

• Se hace referencia a una sentencia alemana sobre decisiones automatizadas basadas en datos personales, destacando diferencias con regulaciones mexicanas.

• En Europa, existe una prohibición general sobre decisiones automatizadas sin intervención humana, mientras que México permite estas decisiones bajo ciertas condiciones.

Dificultades en la Interpretación de Principios Regulatorios

• La dificultad radica en definir qué conductas son consideradas responsables dentro del marco regulatorio basado en principios.

• Las reglas tradicionales permiten prever comportamientos; sin embargo, los marcos regulatorios actuales parecen más vagos e ineficaces.

Efectividad y Poder Político

• Los estudios post-crisis financiera han mostrado que el nivel de riesgo no ha disminuido a pesar del aumento de costos regulatorios para las empresas.

• Se argumenta que el objetivo central de toda regulación es aumentar el poder político o beneficiar a ciertos grupos cercanos al poder político.

Reflexiones sobre Inteligencia Artificial y Regulación

• La discusión se centra en si los principios regulatorios relacionados con inteligencia artificial son transferibles entre jurisdicciones diferentes.

La Regulación de la Inteligencia Artificial y sus Desafíos

Problemas en la Regulación de la IA

• Se plantea que la regulación de la inteligencia artificial (IA) enfrenta problemas debido a su aplicación generalizada, lo que genera confusión sobre cómo aplicar regulaciones específicas.

• La indignación social por discriminaciones percibidas lleva a una presión para regular la IA, aunque no se pertenezca al grupo afectado. Esto complica el enfoque regulatorio.

• Un profesor sugiere que debería existir una ley especial para proteger el medio ambiente en relación con la IA, pero se argumenta que ya hay regulaciones ambientales adecuadas sin necesidad de crear nuevas leyes específicas para cada área.

Conceptos Clave en la Regulación

• La noción de "IA responsable" o "ética" es discutida como un concepto amplio y no jurídico, dificultando su implementación efectiva en tribunales.

• Se menciona el fenómeno de "alucinación" en modelos generativos, donde se espera que los resultados sean precisos y adecuados a la realidad, lo cual es problemático.

Culpabilidad y Tecnología

• La IA se convierte en un chivo expiatorio para todos los problemas tecnológicos, mientras otras tecnologías similares no reciben el mismo escrutinio.

• Se utiliza una metáfora humorística sobre un robot aspiradora como símbolo de cómo se busca culpar a la tecnología por fallas humanas.

Estándares Técnicos vs. Principios Éticos

• Se discute sobre los estándares técnicos necesarios para regular tecnologías como la IA, comparando esto con las múltiples conexiones USB disponibles hoy en día.

• Los estándares técnicos proporcionan certeza operativa pero pueden ser costosos y complicados; además, existen principios éticos que carecen de claridad sobre cómo implementarlos efectivamente.

Confusión entre Estándares y Derechos

• Hay una distinción importante entre estándares (instrucciones prácticas) y derechos (conceptos abstractos), lo cual crea incertidumbre legal para quienes deben cumplir con estas regulaciones.

• Ambos enfoques presentan desafíos: los estándares ofrecen cierta seguridad pero no garantizan protección total contra daños; mientras que los principios son vagos e insuficientes para generar obligaciones claras.

Elección de Estándares y Poderes Influyentes

• En el ámbito de los estándares existe una proliferación significativa; elegir cuál seguir depende del apoyo institucional detrás del estándar elegido.

Caos y Orden en las Interacciones Jurídicas

La Dualidad de los Mundos Racional y Artístico

• Se discute la interacción entre dos mundos: uno racional y otro artístico, sugiriendo que del caos puede surgir un orden.

• Las interacciones jurídicas son cruciales para resolver controversias a través de tribunales, destacando la tendencia en EE. UU. hacia conciliaciones en lugar de juicios.

Efecto de las Decisiones Judiciales

• La falta de decisiones judiciales claras lleva a una preferencia por acuerdos informales, ya que estos evitan el costo y la certeza de una sentencia formal.

• Se argumenta que la regulación por riesgo no es efectiva, especialmente en el contexto europeo sobre inteligencia artificial; se sugiere unificación de criterios mediante decisiones judiciales.

Preguntas sobre Sistemas Legales Diferentes

• Se abre el espacio para preguntas al final del evento, donde se plantea cómo los diferentes sistemas legales (common law vs civil law) impactan definiciones y predictibilidad.

• Un participante pregunta sobre el impacto práctico de tener diferentes definiciones legales en transacciones comerciales.

Enfoques Distintos en Definiciones Legales

• Se menciona que las definiciones pueden variar significativamente entre países como Chile, México y EE. UU., lo cual afecta la claridad legal.

• En Chile, las definiciones podrían estar reguladas por agencias específicas, lo que podría ofrecer más certezas a través de dictámenes.

Importancia de las Definiciones en Transacciones

• La discusión gira en torno a cómo las nuevas técnicas regulatorias están revolucionando conceptos tradicionales del derecho.

• Un abogado señala que no hay diferencias significativas entre common law y civil law hoy en día debido a la regulación exhaustiva existente.

• Resalta que una definición clara de inteligencia artificial es crucial para redactar documentos transaccionales efectivos; confusiones pueden llevar a problemas legales serios.

Consecuencias Prácticas de Definiciones Ambiguas

Regulación de la Inteligencia Artificial: Desafíos y Oportunidades

Consideraciones sobre la divulgación de problemas en transacciones

• Un abogado demandante puede forzar la producción de documentos confidenciales, lo que sugiere que es mejor no incluir representaciones amplias en un acuerdo. Si un comprador desea adquirir una empresa, no debería ser necesario listar todos los problemas en un cronograma de divulgación.

Definiciones y regulaciones en el contexto europeo y estadounidense

• Es crucial definir con precisión las legislaciones para evitar sofocar a las empresas. La amplia definición utilizada por la UE podría tener efectos negativos sobre el desarrollo empresarial.

• En California, se rechazó una ley general sobre inteligencia artificial debido a su amplitud. El gobernador consideró que las definiciones eran demasiado vagas y podrían perjudicar a las empresas tecnológicas locales.

Comparativa entre regulaciones en diferentes regiones

• Alemania ha perdido muchas empresas líderes en tecnología debido a regulaciones restrictivas. A pesar de ser un pionero en ingeniería y software, estas normativas han llevado al estancamiento del progreso tecnológico.

• Macron destacó que aunque la UE pueda regular más rápido, se corre el riesgo de regular sectores donde ya no se tiene presencia industrial significativa.

Cambios en la percepción sobre regulación por parte de ejecutivos

• Por primera vez, los directores ejecutivos están pidiendo regulación para la inteligencia artificial, preocupados por los riesgos asociados con sistemas autónomos mal definidos.

• Aunque históricamente se oponían a la regulación (como ocurrió con Internet), ahora reconocen la necesidad de establecer normas claras sin ahogar el sector.

Análisis crítico de nuevas leyes propuestas

• Muchas leyes firmadas son redundantes porque prohíben acciones ya ilegales (como fraudes o deep fakes). Esto puede confundir al público respecto al uso responsable de IA.

• La creación innecesaria de leyes puede distraer y generar confusión entre los ciudadanos sobre lo que realmente está permitido o prohibido.

Balance entre poderes legislativos y judiciales

• Es fundamental mantener un equilibrio entre el poder ejecutivo, legislativo y judicial para asegurar que ninguna rama del gobierno tenga demasiado control.

• Las decisiones rápidas pueden ser necesarias ante situaciones urgentes; sin embargo, es esencial que el Congreso tenga tiempo suficiente para deliberar adecuadamente sobre nuevas leyes.

Reflexiones sobre el futuro de la regulación legal

• Se plantea una pregunta importante acerca del futuro del ejercicio profesional legal relacionado con IA: ¿habrá esperanza para una práctica más equilibrada?

¿Hacia un futuro con más regulación o menos?

La trayectoria de la regulación

• Se observa una tendencia creciente hacia más regulaciones y leyes específicas, donde cada político busca dejar su huella mediante nuevas legislaciones, sin desear derogar las existentes.

• En EE. UU., Elon Musk lidera una iniciativa para reducir regulaciones que considera obstructivas para sus objetivos, como el viaje a Marte, enfrentándose a restricciones impuestas por entidades gubernamentales.

• Musk se involucra en política al adquirir Twitter para comunicarse directamente sobre sus proyectos, ya que los medios no reflejaban adecuadamente sus intenciones.

Opiniones sobre la regulación

• Existe un consenso entre muchos estadounidenses, independientemente de su afiliación política, sobre la necesidad de reducir el déficit presupuestario y las regulaciones excesivas que consideran contraproducentes.

• El orador expresa su apoyo a la reducción de regulaciones y menciona que el uso de inteligencia artificial (IA) podría ayudar a manejar la complejidad del marco legal actual.

¿Cómo cambiará la práctica del derecho?

Uso de IA en el ámbito legal

• La IA y los sistemas de procesamiento de grandes datos podrían facilitar el manejo de las crecientes regulaciones legales que son difíciles de seguir para los profesionales del derecho.

• La dificultad para mantenerse al día con las leyes en Europa y EE. UU. es notable; se requiere mucho tiempo solo para leer y entender las nuevas normativas.

Mejora en decisiones judiciales

• Se plantea que la IA puede ayudar a los jueces a comprender mejor las leyes vigentes, lo cual podría acelerar los procesos judiciales y reducir tiempos de espera prolongados en decisiones críticas.

• Aunque hay preocupaciones sobre la toma automatizada de decisiones por parte de máquinas, se argumenta que los jueces deberían usar IA como herramienta complementaria para verificar su propio razonamiento.

Desafíos éticos del uso de IA en justicia

Riesgos asociados con AI

• Existen temores sobre el uso exclusivo de IA en decisiones judiciales debido al riesgo percibido; sin embargo, se cuestiona si es más seguro confiar completamente en humanos cuyas motivaciones pueden ser opacas.

• Se enfatiza la necesidad tanto del "equipo humano" como del "equipo AI", sugiriendo un enfoque colaborativo donde ambas partes trabajen juntas para mejorar el sistema legal.

El caso Compass: ¿un modelo adecuado?

Implementación correcta de herramientas AI

• Se menciona el caso Compass como un ejemplo problemático donde se utilizó software AI para evaluar riesgos criminales; esto generó preocupaciones sobre cómo influye esta información en las decisiones judiciales.

¿Cómo afecta la historia en las predicciones de criminalidad?

Impacto de la Historia en el Comportamiento Criminal

• Se discute cómo la información histórica sobre crímenes cometidos por estadounidenses, especialmente aquellos descendientes de personas esclavizadas, puede influir en las estadísticas actuales sobre criminalidad.

• La idea de que un sistema de IA pueda predecir comportamientos delictivos basándose en raza es problemática, a pesar de que las estadísticas puedan ser precisas.

• Existe un consenso social en EE. UU. para no discriminar más por raza, reconociendo el daño histórico causado por esta práctica.

Desafíos y Consideraciones Éticas

• Es crucial examinar cómo los sistemas de IA pueden perpetuar injusticias históricas si se basan únicamente en datos históricos sin considerar su contexto.

• Se propone entrenar sistemas con datos recientes y establecer salvaguardias para evitar que factores como raza o código postal influyan en las decisiones.

Regulaciones y Auditorías

• Nueva York ha implementado leyes que exigen auditorías imparciales para herramientas automatizadas de decisión laboral, buscando prevenir sesgos raciales o de género.

• A lo largo del tiempo, se espera aprender y mejorar los sistemas para que sean menos sesgados que los humanos.

Comparación con Pseudociencias Históricas

• Se menciona la similitud entre el uso actual de ciertos criterios empíricos y prácticas pseudocientíficas del pasado, como la frenología.

• La dependencia excesiva en modelos empíricos puede debilitar la confianza pública en las instituciones.

Educación y Conciencia Social

• Se invita a participar en un diplomado sobre inteligencia artificial y derecho, donde se discutirán estos temas profundamente.