Conferencia: "Desafíos y riesgos de la inteligencia artificial para la DJE"

Desafíos y riesgos de la inteligencia artificial para la defensa jurídica del Estado

Introducción a la conferencia

• La moderadora, Jimena Sánchez, da la bienvenida a los asistentes y destaca la importancia del evento para quienes ejercen la defensa jurídica del Estado.

• La Dra. Delí Valencia Vargas, directora del Centro de Formación y Capacitación de la Procuraduría General del Estado, ofrece palabras de bienvenida y agradece a los participantes.

Contexto y objetivos

• Se menciona que el evento es parte de una serie llamada "jueves de innovación jurídica", diseñada para fortalecer las capacidades legales en el ámbito jurídico estatal.

• El enfoque principal es discutir los desafíos y riesgos que presenta la inteligencia artificial en el contexto legal actual.

Presentación del ponente

• El Dr. Renzo Cavani es presentado como experto en derecho procesal e inteligencia artificial, con experiencia académica relevante.

• Su presentación se basa en su tesis doctoral, donde abordará los principales riesgos asociados con el uso de inteligencia artificial en el ámbito jurídico.

Temas a tratar

• Se anticipa que se discutirán amenazas emergentes relevantes para la práctica jurídica y consideraciones sobre seguridad y confidencialidad al interactuar con tecnologías avanzadas.

• La Dra. Valencia también menciona iniciativas futuras relacionadas con cursos sobre inteligencia artificial dirigidos a procuradores.

Cierre de introducción

• Se invita a todos los participantes a unirse a una comunidad colaborativa enfocada en compartir experiencias sobre inteligencia artificial aplicada al derecho.

• Agradecimiento especial por parte de la Dra. Valencia hacia los más de 500 inscritos por su interés en continuar su formación profesional.

Indicaciones finales antes de iniciar

• Jimena Sánchez proporciona instrucciones sobre cómo obtener certificados por asistencia y participar en encuestas durante el evento.

Inicio de la conferencia

• El Dr. Cavani inicia su intervención agradeciendo a la Procuraduría General del Estado por permitirle abordar este tema crucial relacionado con su investigación doctoral.

Desafíos y Riesgos de la Inteligencia Artificial en la Defensa Jurídica del Estado

Introducción a la Conferencia

• El presentador agradece a la profesora Arelí Valencia por su invitación y menciona su estrecha amistad con ella.

• Se asegura que su pantalla se ve bien antes de comenzar, mostrando un enfoque profesional hacia la presentación.

Estructura de la Presentación

• La conferencia abordará los desafíos y riesgos de la inteligencia artificial (IA) en el contexto jurídico, destacando que son numerosos y complejos.

• Se menciona que el uso de IA trasciende el ámbito judicial, sugiriendo una amplia gama de aplicaciones e implicaciones.

Panorama sobre Inteligencia Artificial

• El presentador planea ofrecer un panorama sucinto sobre IA, incluyendo aspectos técnicos y su aplicación en Perú, especialmente en el sistema judicial.

• Se enfatiza que el Poder Judicial está liderando políticas innovadoras relacionadas con IA.

Objetivos de la Inteligencia Artificial

• Para entender IA como disciplina, es crucial identificar dos objetivos: uno tecnológico y otro científico.

• Objetivo Científico: Comprender principios del comportamiento inteligente mediante análisis de agentes naturales y artificiales. Cita a Margaret Boden para respaldar esta idea.

• Objetivo Tecnológico: Utilizar computadoras para realizar tareas útiles que requieren inteligencia humana.

Evolución e Interdisciplinaridad

• La evolución de IA ha sido impulsada por mejoras tecnológicas significativas desde las décadas del 60 y 70, incluyendo supercomputadores.

• La aparición de Internet ha permitido procesar grandes volúmenes de datos (Big Data), facilitando avances interdisciplinarios en áreas como matemáticas, neurociencia y psicología cognitiva.

Definición de Sistemas de Inteligencia Artificial

• Los sistemas de IA son software (y posiblemente hardware) diseñados por humanos para actuar ante objetivos complejos. Esta definición establece un marco claro para entender cómo funcionan estos sistemas dentro del contexto legal.

Definición y Conceptos Clave de la Inteligencia Artificial

Definición de Inteligencia Artificial

• La inteligencia artificial se define como un sistema que percibe su entorno mediante la adquisición de datos, interpretando información estructurada o no estructurada, razonando sobre el conocimiento y tomando decisiones para alcanzar objetivos específicos.

• Los sistemas pueden utilizar reglas simbólicas o aprender a través de modelos numéricos, adaptando su comportamiento según cómo sus acciones afectan al entorno.

Concepto de Agente en IA

• Se puede distinguir entre inteligencia artificial como sistema y como disciplina; además, es crucial entender el concepto de "agente" desde diferentes perspectivas: filosofía de la mente, psicología y ciencias computacionales.

• Según Luchano Floridi, un agente debe cumplir tres condiciones: recibir datos del ambiente, tomar acciones autónomas basadas en esos datos y mejorar su rendimiento aprendiendo de interacciones previas.

Tipos de Agentes

• Existen agentes biológicos (como humanos o animales), sociales (empresas o gobiernos) y artificiales (robots). La IA se considera un nuevo tipo de agente más que una nueva forma de inteligencia. Esto tiene implicaciones éticas significativas debido a su impacto transformador en la sociedad.

Predicción en Sistemas de Inteligencia Artificial

Naturaleza Anticipatoria

• La predicción es clave en la inteligencia artificial; implica anticipar eventos futuros basándose en datos pasados o presentes. Los sistemas trabajan con predicciones probabilísticas para mejorar su precisión.

Aprendizaje Automático y Big Data

• El avance fundamental en IA proviene del aprendizaje automático, que permite optimizar algoritmos para tareas específicas mediante el procesamiento masivo de datos (big data). Esto incluye manejar grandes volúmenes complejos que no pueden ser procesados por métodos tradicionales.

Analítica Big Data

Técnicas Analíticas

• La analítica Big Data busca extraer información útil para influir en decisiones utilizando diversas técnicas:

• Descriptive Analytics: Describe patrones existentes.

• Diagnostic Analytics: Identifica causas subyacentes.

• Predictive Analytics: Estima probabilidades futuras.

• Prescriptive Analytics: Crea escenarios futuros.

• Cognitive Analytics: Desarrolla tecnologías basadas en inteligencia humana para tareas específicas.

Características del Big Data

• El big data se caracteriza por las cinco V's: volumen, valor, variedad, velocidad y veracidad; estas características son esenciales para comprender cómo se integra con la inteligencia artificial para diseñar algoritmos efectivos.

Introducción al Machine Learning y sus Aplicaciones

Conceptos Fundamentales de Machine Learning

• El machine learning se define como la capacidad de identificar patrones en la información, anticipar resultados y adaptarse a condiciones cambiantes. Es una técnica popular dentro de la inteligencia artificial.

• Según Russell y Norvig, el machine learning implica que una computadora observa datos, construye un modelo basado en ellos y utiliza este modelo tanto como hipótesis sobre el mundo como para resolver problemas.

Tipos de Aprendizaje en Machine Learning

• Existen tres orientaciones principales en machine learning: aprendizaje supervisado, aprendizaje no supervisado y aprendizaje por refuerzo. Cada uno tiene características distintas que no se explicarán en detalle aquí.

• El deep learning es una ramificación del machine learning que utiliza algoritmos para trabajar con datos no estructurados y de alta dimensión, permitiendo extraer características complejas.

Redes Neuronales y su Importancia

• Las redes neuronales son fundamentales en el deep learning; permiten descubrir dependencias sutiles e interacciones complicadas que los modelos estadísticos convencionales pueden tener dificultades para identificar.

• Estas redes son entrenadas con grandes bases de datos y buscan optimizar las conexiones entre nodos (input/output), minimizando el peso de estas conexiones para mejorar la eficiencia del programa.

Desafíos de las Redes Neuronales

• Las redes neuronales operan con múltiples capas, incluidas capas ocultas (hidden layers), lo que mejora la precisión pero puede dificultar la comprensión del proceso predictivo.

• La complejidad añadida por las hidden layers hace que las predicciones sean más precisas pero menos comprensibles, lo cual es un aspecto crítico a considerar al utilizar estas tecnologías.

IA Generativa: Una Revolución Histórica

• La IA generativa representa una revolución significativa en el desarrollo histórico de la inteligencia artificial. Henry Praken destaca su accesibilidad y facilidad de uso para diversas tareas.

• Este tipo de inteligencia artificial permite crear contenido nuevo (texto, imágenes, audio, etc.) en lugar de solo analizar o interpretar datos existentes.

Ejemplo Práctico de IA Generativa

• Se menciona cómo se han generado imágenes mediante inteligencia artificial utilizando instrucciones textuales dadas a programas específicos como Gama e App. Esto ilustra un uso práctico real del concepto discutido.

Modelos Detrás de la IA Generativa

• Los modelos detrás de la IA generativa son redes neuronales profundas entrenadas con vastas cantidades de datos. Estos modelos generan nuevos resultados basados en patrones aprendidos a partir del input proporcionado por los usuarios (prompts).

• Los Large Language Models (LLM), como GPT (Generative Pretrained Transformer), son subcampos importantes dentro del ámbito generativo utilizados para crear textos interactivos o traducir entre lenguajes.

Herramientas Populares Basadas en LLM

• ChatGPT es uno de los sistemas más conocidos que utiliza esta tecnología; sin embargo, también existen otras herramientas populares como Copilot asociado al buscador Bing.

Uso de Gemini y la Inteligencia Artificial en la Comunicación

Introducción a Gemini

• El orador menciona el uso de Gemini de Google Chrome, un sistema de inteligencia artificial que utiliza frecuentemente en su trabajo.

• Utiliza la versión Pro 2.5 del programa, que forma parte de su suscripción a Google Suite, que incluye herramientas como Google Meet y Google Drive.

Aplicaciones Prácticas

• Describe cómo usa Gemini para redactar correos electrónicos en varios idiomas (inglés, italiano, portugués), solicitando correcciones específicas según el contexto.

• Resalta la importancia del tiempo al escribir correos; cuando está apurado, prefiere pedir ayuda a Gemini para obtener resultados rápidos y adecuados.

Valor Generado por IA

• El orador enfatiza la generación de valor al utilizar inteligencia artificial, un tema central en su exposición.

• Menciona otros programas como B3 y R1 de Deepsit, destacando la variedad de aplicaciones disponibles en inteligencia artificial generativa.

Comprendiendo los Modelos de Lenguaje Grande (LLM)

Diferencias entre IA Tradicional y LLM

• Se plantea una pregunta sobre si los LLM representan una nueva forma de inteligencia; se concluye que no son diferentes a sistemas anteriores.

• Los LLM operan sintácticamente mientras que los humanos lo hacen semánticamente; utilizan técnicas estadísticas para hacer predicciones basadas en grandes volúmenes de datos.

Funcionamiento Interno

• La idea subyacente detrás de los LLM es simple: generan texto basado en probabilidades sobre qué palabra sigue a otra dentro del contexto dado.

• Al ingresar un prompt, el sistema estructura el texto secuencialmente utilizando cálculos probabilísticos para determinar las palabras más adecuadas.

Inteligencia Artificial en Perú: Contexto Judicial

Implementación del Asistente Amauta Pro

• Se introduce el asistente Amauta Pro, desarrollado por la Corte Superior de Justicia de Lima Norte para procesar documentos relacionados con denuncias por violencia familiar.

• Este asistente facilita tareas desde la presentación inicial hasta la elaboración parcial del borrador judicial tras conocer el caso por parte del juez.

Funcionalidad y Limitaciones

• Amauta Pro ayuda con transcripciones y proyecciones judiciales pero requiere que el juez complete ciertos aspectos motivacionales específicos al caso.

• Aunque ya se utiliza este sistema, hay incertidumbre sobre su grado real de implementación; se menciona un porcentaje estimado entre 20% y 30% según declaraciones del presidente correspondiente.

¿Cómo se están implementando los sistemas de inteligencia artificial en el ámbito judicial?

Problemas en la recopilación de información

• Se observa que aún se utilizan formatos físicos para realizar denuncias, lo que dificulta la recopilación eficiente de información.

• No existen estudios en ciencias de la computación que evalúen cómo funcionan estos sistemas ni estadísticas sobre su desempeño.

Sistema Curia y AMuto Pro

• El sistema Curia ayuda a elaborar borradores de sentencias y analiza documentos del expediente, pero carece de evaluación pública.

• Al igual que AMuto Pro, no hay información suficiente para determinar si estos sistemas tienen sesgos o si están bien entrenados.

Transparencia y funcionamiento

• Es crucial que los sistemas públicos sean transparentes en su funcionamiento, permitiendo auditorías comprensibles por especialistas.

• A diferencia de Open AI, los sistemas públicos deben ser claros sobre su entrenamiento y funcionamiento para garantizar confianza ciudadana.

Sistemas Justo y Tucuy Rikuy

• El sistema Justo está diseñado para generar proyectos de autos judiciales, pero aún no se utiliza ampliamente ni hay datos sobre su efectividad.

• Tucuy Rikuy fue anunciado en 2021 sin información clara sobre su avance o implementación actual.

Desafíos éticos en la inteligencia artificial

• La falta de un enfoque orgánico entre diferentes cortes genera preocupaciones sobre la implementación desigual de tecnologías.

• Se destacan valores como transparencia y explicabilidad; es esencial permitir auditorías periódicas a los sistemas utilizados por entidades públicas.

Consideraciones adicionales

• La privacidad y protección de datos son fundamentales; debe garantizarse el consentimiento informado al utilizar IA.

• Es necesario definir responsabilidades ante errores generados por IA, considerando a todos los involucrados desde diseñadores hasta jueces.

Cuidado con la manipulación y desinformación

Regulación del uso de IA en redes sociales

• Es crucial regular el uso de inteligencia artificial (IA) en redes sociales para prevenir la creación de deep fakes y la difusión de noticias falsas.

• La sostenibilidad es un aspecto importante, ya que se deben minimizar los impactos ambientales del entrenamiento de modelos de IA.

Desafíos técnicos en la implementación de IA

• Se identifican varios desafíos técnicos, como la calidad y estandarización de datos, así como la falta de datos centralizados.

• La heterogeneidad en la digitalización judicial complica el entrenamiento eficiente de modelos.

Sesgos y privacidad en algoritmos

Impacto del sesgo algorítmico

• Los algoritmos pueden reflejar y amplificar sesgos preexistentes en los datos judiciales, afectando la imparcialidad en las decisiones.

Seguridad y privacidad

• Es fundamental proteger los datos utilizados contra accesos no autorizados, garantizando así la confidencialidad de la información judicial.

Interoperabilidad y eficiencia vs. explicabilidad

Desafíos de interoperabilidad

• Muchos tribunales utilizan plataformas tecnológicas diferentes, lo que dificulta integrar herramientas de IA a nivel regional.

Tensión entre eficiencia y explicabilidad

• Existe una tensión significativa entre buscar predicciones más precisas (eficiencia) y mantener transparencia (explicabilidad).

• Las técnicas estadísticas avanzadas, como las redes neuronales profundas, ofrecen mejores predicciones pero sacrifican transparencia.

Función del sistema e implicaciones éticas

Definición clara del sistema deseado

• La resolución de esta tensión depende claramente de cuál sea la función que se desea lograr con el sistema implementado.

Ejemplo práctico: Asistentes legales basados en precedentes

• Se propone un sistema que ayude a jueces a decidir basado en precedentes judiciales; actualmente no existe un modelo funcional similar.

Perspectivas sobre gestión eficiente

Sistemas para gestionar casos judiciales

• Se sugiere implementar sistemas que clasifiquen casos según su complejidad para mejorar la carga laboral.

Elección ética entre eficiencia y explicabilidad

• La elección entre mayor transparencia o eficiencia debe basarse en entender cómo funciona el sistema propuesto.

Reglamento Europeo de Inteligencia Artificial: Un Análisis

Introducción al Reglamento

• En junio de 2024, la Unión Europea aprobó un reglamento sobre inteligencia artificial que representa una revolución compleja en este ámbito.

• Este reglamento clasifica los sistemas de IA según el riesgo potencial de daño, dividiéndolos en cuatro categorías: riesgos inaceptables, alto riesgo, riesgos limitados y riesgos mínimos.

Clasificación de Riesgos

• Los "riesgos inaceptables" incluyen sistemas como la vigilancia mediante identificación facial, que están prohibidos por completo.

• Para los sistemas catalogados como "alto riesgo", se requiere cumplir con obligaciones específicas y obtener autorización de las autoridades nacionales antes de su uso.

• Los "riesgos limitados" no requieren autorización previa pero sí deben cumplir ciertas obligaciones; mientras que los "riesgos mínimos" tienen casi ninguna obligación asociada.

Implicaciones para la Administración de Justicia

• Los sistemas utilizados en la administración de justicia son considerados de alto riesgo y necesitan aprobación previa para su implementación.

• Existen excepciones a esta clasificación que permiten cierta flexibilidad en casos donde el sistema no sea considerado estrictamente alto riesgo.

Comparación con Perú

• Aunque Perú tiene una ley sobre inteligencia artificial desde 2023, carece del reglamento necesario para su aplicación efectiva.

• El primer borrador del reglamento peruano fue influenciado significativamente por el reglamento europeo, reflejando una similitud notable en la clasificación de riesgos.

Estado Actual y Futuro

• Actualmente hay un segundo borrador del reglamento peruano que mantiene la clasificación original pero introduce nuevas particularidades.

• La ley peruana es breve y programática; sin embargo, aún falta un desarrollo concreto a través del reglamento correspondiente.

• A pesar de tener una ley vigente, Perú carece de políticas nacionales claras sobre inteligencia artificial que guíen su implementación.

¿Cuál es el futuro de la PGE en la inteligencia artificial?

Desafíos y organización del poder judicial

• Se plantea la pregunta sobre cuándo la Procuraduría General del Estado (PGE) propondrá su propia política sectorial de inteligencia artificial, destacando que hay muchos desafíos para esto.

• Se menciona que el desorden actual se debe a la falta de un reglamento nacional, sugiriendo que no se debería avanzar sin este marco regulatorio.

• A pesar de la ausencia de una ley nacional, otros países como Brasil y Colombia están avanzando en el uso de IA en sus poderes judiciales.

Importancia del reglamento nacional

• El reglamento es crucial para definir principios éticos y obligaciones específicas relacionadas con el uso de IA en el poder judicial.

• Luciano Floridi critica el reglamento europeo por ser demasiado restrictivo, argumentando que debería permitir más flexibilidad en los sistemas de IA.

Uso actual de IA en el poder judicial

• Se advierte que si los sistemas de IA utilizados no cumplen con el reglamento nacional, deberán ser modificados o eliminados.

• Un juez peruano utilizó ChatGPT para elaborar una sentencia sobre pensión alimenticia, lo cual plantea preguntas sobre la equidad y corrección del uso de IA.

Cuestiones éticas y técnicas

• Se discute si fue correcto utilizar IA sin garantizar igualdad entre las partes involucradas en diferentes casos judiciales.

• La necesidad de un enfoque institucional para implementar IA se enfatiza, advirtiendo contra iniciativas individuales sin respaldo formal.

Propuestas para un sistema específico

• Se sugiere crear un sistema específico para la Procuraduría General del Estado basado en ejemplos internacionales como Curia yuta.

• Las funciones básicas propuestas incluyen gestión de casos, resúmenes automáticos y elaboración de borradores legales.

Análisis de Estrategias Legales y el Rol de la IA

Complejidad del Análisis Estratégico

• La inteligencia artificial (IA) debe entender los argumentos presentados por las partes en un litigio, lo que complica el análisis estratégico.

• Se plantea la posibilidad de que la IA proponga estrategias para demandas, lo cual es un proceso complejo pero no imposible.

Sistemas Razonadores en Derecho

• La creación de sistemas que razonen con precedentes legales es aún más compleja; estos sistemas podrían guiar a procuradores sobre qué precedentes seguir según factores específicos.

• Aunque estos sistemas son avanzados y difíciles de implementar, su desarrollo podría revolucionar el trabajo legal al permitir argumentaciones basadas en precedentes.

Herramientas Privadas de IA

• Las herramientas privadas de IA pueden ser útiles mientras se desarrollan sistemas más complejos; se busca utilizar Gemini para mejorar la eficiencia en la redacción y corrección de documentos legales.

• El uso eficiente de IA puede reducir costos laborales al disminuir la necesidad de personal adicional, aunque esto plantea dilemas éticos sobre el empleo.

Consideraciones Económicas y Éticas

• La implementación de herramientas pagadas es crucial ya que las gratuitas suelen ser menos efectivas; sin embargo, esto implica un costo significativo para las instituciones públicas.

• Es necesario evaluar qué herramienta pagar según su uso específico; una política institucional bien definida es esencial para maximizar beneficios.

Acceso Equitativo a Tecnología

• Debe haber capacitación adecuada en el uso de herramientas AI para todos los procuradores, asegurando igualdad independientemente del lugar donde trabajen.

• Las brechas tecnológicas deben considerarse al implementar soluciones AI, permitiendo acceso desde dispositivos móviles cuando sea necesario.

Precauciones ante Información Errónea

• Se debe tener cuidado con las fuentes consultadas por herramientas AI para evitar "alucinaciones" o información incorrecta sobre precedentes legales.

• La supervisión humana sigue siendo vital al presentar información legal ante tribunales, evitando errores graves como citar sentencias inexistentes.

¿Cómo la Inteligencia Artificial Impacta el Trabajo de los Procuradores?

Introducción a la Regulación de la IA

• Se menciona que las herramientas de inteligencia artificial (IA) pueden ser objeto de multas, lo que resalta la necesidad de una regulación adecuada en su uso.

• La IA está destinada a sustituir ciertas funciones del procurador, y es esencial aprender a convivir con esta tecnología como se hizo anteriormente con calculadoras y computadoras.

Supervisión y Responsabilidad en el Uso de IA

• Es crucial que haya supervisión y responsabilidad tanto por parte del procurador como de los desarrolladores del sistema al utilizar IA en funciones públicas.

• No todos los sistemas de IA deben ser controlados completamente; algunas funciones pueden ser automatizables si se establece un grado adecuado de confianza.

Desafíos para la Procuraduría Pública

• Si la Procuraduría no toma decisiones institucionales sobre el uso de IA, enfrentará desventajas frente a estudios privados que implementan decisiones más eficientes.

• La implementación rápida y simple de IA en estudios privados puede darles una ventaja cualitativa significativa sobre el trabajo realizado por procuradores públicos.

Valor Agregado por la Inteligencia Artificial

• Se propone ver la IA como una herramienta que genera valor, no solo eficiencia. Esto incluye liberar tiempo para analizar casos complejos.

• El uso efectivo de IA podría permitir a los procuradores dedicar más tiempo a sus familias, mejorando así su calidad de vida personal.

Reorientación del Trabajo con AI

• La implementación adecuada de sistemas inteligentes debe llevar a una reorientación del trabajo hacia casos más complejos, permitiendo un enfoque colaborativo entre humanos e inteligencia artificial.

• Este cambio implica trabajar junto con personas capacitadas para maximizar los resultados generados por el sistema.

Reflexiones sobre el Uso de la Inteligencia Artificial en la Gestión Pública

La Naturaleza del Trabajo Actual

• El trabajo actual, aunque se realiza con laptops, sigue teniendo un componente manual similar al uso de máquinas de escribir o documentos a mano.

• Se plantea la necesidad de herramientas de gestión para mejorar procesos como la selección de candidatos en concursos para procuradores.

Eficiencia y Presupuesto

• La inteligencia artificial podría ayudar a reducir costos operativos, especialmente en lo que respecta a la planilla del presupuesto de la Procuraduría General del Estado.

• Existen herramientas ya disponibles que podrían facilitar procesos burocráticos y administrativos mediante licitaciones estatales.

Capacitación y Adaptación

• Es crucial reorientar las capacidades del personal público hacia el uso efectivo de sistemas de inteligencia artificial, incluso antes de su implementación total.

• Se enfatiza la importancia del conocimiento sobre los fundamentos de IA tanto para procuradores como para el personal auxiliar.

Desafíos y Oportunidades

• La adopción de IA puede traer beneficios significativos como eficiencia, reducción de carga laboral y mayor transparencia en los procesos judiciales.

• Sin embargo, también existen riesgos relacionados con falta de regulación, responsabilidad ética y legal, así como desafíos en cuanto a datos requeridos.

Consideraciones Éticas

• Es fundamental abordar temas éticos relacionados con el uso de IA, incluyendo quién asume responsabilidades ante posibles daños causados por decisiones automatizadas.

• Se destaca la necesidad urgente de capacitar a funcionarios no solo en aspectos técnicos sino también en límites éticos respecto al uso de inteligencia artificial.

Conclusión y Futuro

• El objetivo es tener una Procuraduría General del Estado (PGE) que esté controlada por personas capacitadas para manejar inteligencia artificial, no completamente automatizada.

Preguntas y Reflexiones Finales

• Se abre un espacio para preguntas tras una exposición sobre el impacto potencial positivo que puede tener la IA en el ámbito estatal.

• Un participante menciona tratados internacionales existentes pero cuestiona si son suficientes sin un marco regulatorio específico para IA.

¿Existen principios éticos normativos en inteligencia artificial?

Principios y Tratados Internacionales

• La respuesta a la existencia de tratados que fijen principios éticos es negativa; se mencionan guías como las de Montreal, Hiroshima y los principios de Asilomar.

• Es fundamental establecer principios éticos antes de definir los medios para su aplicación, lo que incluye regulaciones complejas sobre el uso de inteligencia artificial.

Sesgos en Inteligencia Artificial

• Se plantea la cuestión del sesgo en la defensa del Estado; se aclara que todos los humanos tienen sesgos, entendidos como distorsiones psicológicas del razonamiento.

• El sesgo no debe confundirse con parcialidad; implica errores en el análisis debido a factores como el sesgo de confirmación o anclaje.

• Los sesgos pueden afectar decisiones judiciales, haciendo necesario un razonamiento adecuado al procesar información mediante inteligencia artificial.

Confidencialidad y Uso de IA

• Se discute la preocupación sobre cómo se maneja la información cuando se paga por herramientas de inteligencia artificial; existe incertidumbre sobre si esta información será utilizada para otros fines.

• Un ejemplo personal ilustra el dilema sobre compartir información sensible con sistemas de IA, destacando riesgos potenciales como el plagio.

Aplicaciones Prácticas de IA en Justicia

• Se menciona la posibilidad de usar IA para verificar declaraciones de menores víctimas; esto podría facilitar procesos sin necesidad de repetir testimonios.

• Sin embargo, se enfatiza que no solo se busca resumir información, sino también analizarla adecuadamente para valorar las declaraciones.

Análisis de la Inteligencia Artificial en el Sistema Judicial

Herramientas y Análisis Probatorio

• Se discute la complejidad del análisis probatorio, que implica extraer inferencias para plantear un caso legal. Este proceso es complicado y requiere herramientas adecuadas.

• No se ha encontrado un sistema privado que ayude en este tipo de análisis; se menciona que podría ser útil un modelo como GPT razonador, aunque no hay certeza sobre su existencia.

Importancia del Prompting en IA

• La inteligencia artificial (IA) es una realidad, pero aún no existe un "juez robot". Es crucial entender hasta dónde pueden llegar las herramientas actuales.

• Se introduce el concepto de "prompting engineering", una disciplina dedicada a optimizar los resultados de la IA mediante prompts adecuados. Un buen prompt puede influir significativamente en el output obtenido.

Futuro de las Decisiones Judiciales

• Se plantea la pregunta sobre las implicancias éticas si las decisiones judiciales fueran tomadas por IA. Según el reglamento europeo, esto no debería ocurrir debido a consideraciones éticas.

• Aunque algunas decisiones podrían ser automatizadas, se sostiene que la firma final debe seguir siendo humana y no completamente delegada a una IA.

Capacitación y Ética en el Uso de IA

• Con el avance hacia resoluciones judiciales apoyadas por IA, es vital que los abogados conozcan los sistemas utilizados y sigan directrices éticas establecidas por leyes como la Ley de Inteligencia Artificial Peruana.

• Se enfatiza la importancia de capacitarse en aspectos técnicos y éticos relacionados con la inteligencia artificial para estar preparados ante su implementación en el sistema judicial.

Cierre y Agradecimientos

• El conferencista agradece a todos los participantes e invita a responder una encuesta de satisfacción para facilitar la emisión de certificados. También se informa sobre el acceso al material presentado durante la conferencia.

• Se recuerda a los asistentes que podrán realizar evaluaciones hasta una fecha específica, asegurando así su participación activa en futuras capacitaciones.