Uso y desarrollo ético de la Inteligencia Artificial en la Universidad

Bienvenida al Seminario TIC 2026

Introducción y Propósito del Seminario

• Bienvenida a todos los participantes en el primer seminario TIC del año 2026, deseando un periodo de logros y bienestar para todos.

• Se menciona que este seminario presenta iniciativas trabajadas desde hace tiempo en la UNAM, abordando temas de TIC de vanguardia.

Presentación de los Ponentes

• Los ponentes son académicos destacados con una sólida trayectoria, autores del libro "Uso y desarrollo ético de la inteligencia artificial en la universidad".

• Participan:

• Dra. Ana Yuri Ramírez Molina: pionera en preservación digital y desarrollo de software.

• Dra. Luz María Castañeda de León: referente en transformación del gobierno TIC en educación superior.

• Maestra María Teresa Ventura Miranda: impulsora de proyectos estratégicos en TI.

• Maestro Juan Manuel Castillejos Reyes: promotor de innovación y sostenibilidad digital.

Iniciativa sobre Inteligencia Artificial

Contexto y Colaboración

• La Dra. Ana Yuri agradece el espacio para discutir la iniciativa, destacando la colaboración entre varios académicos para desarrollar el material presentado.

• Se menciona que esta iniciativa surgió tras el boom generado por GPT-3.5 de OpenAI en 2022, lo que llevó a un interés creciente por las capacidades de interacción con máquinas inteligentes.

Reacción ante el Avance Tecnológico

• La DGET activó un grupo interdisciplinario para revisar avances universitarios relacionados con IA, identificando especialistas y recopilando información sobre lo que se estaba haciendo en la UNAM respecto a este tema emergente.

• Se discute cómo surgieron foros donde se compartían experiencias sobre IA, así como temores mediáticos sobre su impacto potencial en el empleo humano y otras áreas sociales.

Impacto de la Inteligencia Artificial en la Academia

Introducción a la IA y sus Implicaciones

• La herramienta de OpenAI ha generado un gran interés, llevando a reflexionar sobre su utilidad en la academia, investigación y docencia.

• Surge el cuestionamiento sobre si las máquinas sustituirán a los humanos y cómo diferenciar el trabajo humano del realizado por una máquina.

Reflexiones Éticas en el Uso de IA

• La universidad reconoce la importancia de abordar estos miedos y trabajar en conjunto con estudiantes y autoridades para entender el impacto de la IA.

• Se enfatiza que "un gran poder conlleva una gran responsabilidad", lo que implica ser transparentes en el uso de herramientas potentes como la IA.

Principios Éticos y Responsabilidad Profesional

• Es crucial reflexionar sobre los elementos que impactan nuestra vida académica, incluyendo principios éticos que deben guiar nuestro uso de tecnologías emergentes.

• La ética es fundamental para los profesionales; sin embargo, se observa que debe ser impulsada activamente en contextos donde se utiliza inteligencia artificial.

Reconocimiento del Trabajo Académico Responsable

• A pesar de los cambios tecnológicos, es esencial recordar que seguimos siendo profesionales responsables ante nuestras prácticas laborales.

• La UNAM ya tiene un enfoque orientado hacia un trabajo académico responsable, no buscando reinventar conceptos sino recordando su importancia.

Evolución y Diálogo Continuo sobre Ética

• Desde el inicio del material hace tres años, ha habido una evolución significativa en las perspectivas sobre ética e inteligencia artificial.

• El libro busca documentar estas reflexiones visibles y fomentar un diálogo continuo sobre acciones necesarias frente al uso ético de la tecnología.

Interacción con la Comunidad Académica

• Se agradece a los participantes por su atención e interés, preparando el terreno para preguntas relacionadas con el acceso al libro mencionado.

• Se invita a los miembros de la comunidad académica a reflexionar sobre su postura respecto al desarrollo ético de la inteligencia artificial mediante una pregunta abierta.

Conversación Abierta Sobre IA en Docencia e Investigación

• Antes de continuar con otros panelistas, se abre un espacio para discutir cómo describen su postura actual frente al uso ético de IA dentro del ámbito académico.

Introducción a la Inteligencia Artificial en la Educación

Reflexiones sobre el uso de herramientas de IA

• Se agradece la oportunidad de compartir temas del libro, destacando la importancia de reflexionar sobre el impacto de la inteligencia artificial (IA) en universidades y su relación con la docencia e investigación.

• La rápida evolución de las herramientas tecnológicas genera inquietudes entre docentes y estudiantes, quienes buscan entender los beneficios y desventajas del uso de estas tecnologías.

• El libro enfatiza que, aunque la IA se aplica en diversas áreas, su enfoque principal es cómo afecta a la enseñanza y a los procesos educativos.

Aplicaciones prácticas de la IA en educación

• Se están realizando seminarios y congresos sobre inteligencia artificial, lo que ha generado una gran cantidad de información. Es crucial procesar esta información para aplicarla efectivamente en el ámbito educativo.

• La generación de contenido mediante IA puede enriquecer el aprendizaje al proporcionar materiales actualizados y relevantes para los estudiantes.

• Las herramientas basadas en IA pueden apoyar el aprendizaje personalizado, facilitando un proceso educativo más dinámico y adaptado a las necesidades individuales.

Evaluación y analítica del aprendizaje

• La abundancia de datos permite evaluar mejor el rendimiento estudiantil, ofreciendo retroalimentación más ágil y eficaz para profundizar en diversos temas.

• La analítica del aprendizaje utiliza datos para optimizar procesos educativos, predecir rendimientos estudiantiles y ofrecer recomendaciones personalizadas que faciliten el avance académico.

Desafíos éticos relacionados con la IA

• A pesar de las ventajas que ofrece la IA, surgen preocupaciones sobre privacidad y protección de datos personales al utilizar estas herramientas educativas.

• Es fundamental gestionar adecuadamente los datos personales para asegurar un uso seguro y congruente con los principios universitarios.

Riesgos asociados al uso indebido de herramientas tecnológicas

• Existen riesgos como sesgos algorítmicos que pueden afectar los resultados generados por las herramientas. Es esencial ser críticos ante lo que estas tecnologías producen.

• La dependencia cognitiva hacia las herramientas puede llevar a aceptar sin cuestionar lo que se presenta como verdad. Esto resalta la necesidad de investigar más allá de lo superficial proporcionado por estas tecnologías.

• Mantener integridad académica es vital; se debe distinguir entre contenido original e información generada por IA, asegurando siempre dar crédito adecuado a las fuentes utilizadas.

¿Cómo está transformando la inteligencia artificial la docencia?

Uso de herramientas de inteligencia artificial en la educación

• Se discute la importancia del uso de herramientas de inteligencia artificial en la docencia, destacando cómo se están utilizando y referenciando encuestas que ayudan a entender su impacto.

• La inteligencia artificial ha cambiado significativamente los métodos de enseñanza actuales, requiriendo adaptaciones constantes a medida que las herramientas evolucionan.

• Un 49% del estudiantado ya utiliza inteligencia artificial generativa, lo que indica un acceso mínimo a estas tecnologías en el ámbito educativo.

• La adopción creciente de estas herramientas exige marcos éticos institucionales claros para guiar su uso y asegurar una enseñanza responsable.

• Es crucial mantener un enfoque ético al utilizar estas herramientas, cuestionando los resultados que generan y asegurándose de no aceptar información sin un análisis crítico.

Impacto en la investigación académica

• La investigación también se beneficia del uso de inteligencia artificial, facilitando el procesamiento y análisis de grandes volúmenes de datos.

• Estas herramientas permiten obtener resultados más rápidos y precisos, mejorando así la eficiencia en el desarrollo y verificación de modelos académicos.

• Aunque se han utilizado durante años, el auge reciente ha potenciado su efectividad, acortando tiempos para obtener resultados significativos.

• Existen riesgos asociados con el uso de IA, como problemas relacionados con la privacidad y protección de datos sensibles utilizados en investigaciones.

• Es fundamental estar alerta ante sesgos potenciales en los resultados generados por las herramientas debido a cómo son alimentadas con datos.

Desafíos y consideraciones éticas

• Las herramientas pueden funcionar como "cajas negras", donde los usuarios introducen datos sin comprender completamente cómo se procesan internamente.

• La falta de claridad sobre cómo se obtienen ciertos resultados plantea riesgos adicionales que deben ser investigados para garantizar transparencia.

• Una encuesta realizada por Oxford en 2024 reveló que más del 75% de los investigadores ya utilizan IA, destacando mejoras en rapidez y precisión pero subrayando también la necesidad constante de verificación.

¿Cómo afecta la inteligencia artificial a la educación?

Preocupaciones sobre el uso de datos personales

• La mayoría considera que el uso de la inteligencia artificial es positivo, pero hay preocupaciones sobre el futuro y la falta de consentimiento expreso para el uso de datos personales.

• Se plantea una inquietud sobre cómo esto puede afectar nuestro pensamiento crítico y no dejarnos influenciar por los resultados que ofrecen estas herramientas.

Cambios en modelos educativos

• La inteligencia artificial está transformando los modelos de enseñanza e investigación, facilitando el manejo de información.

• Es crucial abordar los desafíos éticos relacionados con estas herramientas para asegurar su uso seguro y beneficioso para la humanidad.

Reflexiones finales y participación del público

• Se invita a los lectores a formarse su propio criterio sobre estos temas tratados en un libro relacionado.

• Se destaca la interacción activa del público, mencionando respuestas desde diferentes lugares, incluyendo Cuba.

Opiniones del público sobre la IA

• Diversas opiniones resaltan aspectos como:

• Adaptación o muerte en el intento (Marisa del Carmen).

• Necesidad de transparencia (David León).

• Innovación y concientización (Stefanie Cervantes).

• Importancia de la regulación (Patricia Herrera).

Ética en inteligencia artificial

• La discusión sobre ética e inteligencia artificial no comenzó con ChatGPT, pero este resalta su importancia debido a su alcance masivo.

• Existen documentos internacionales previos que abordan principios éticos para alinear la IA con valores humanistas y democráticos, como los principios de la OCDE emitidos en 2019.

Principios Éticos en la Inteligencia Artificial

Gobernanza de la IA

• El primer principio es la gobernanza, que implica que instituciones como la UNAM deben tener mecanismos normativos y de supervisión para el uso de la IA en docencia e investigación.

• La gobernanza debe ser colegiada y fomentar una participación interdisciplinaria, cuidando todo el ciclo de implementación ética, desde su planeación hasta su evaluación.

Transparencia y Rendición de Cuentas

• El segundo principio se centra en la transparencia; los sistemas de IA deben explicar cómo funcionan y en qué basan sus resultados.

• Es fundamental permitir auditorías para evaluar fallas o sesgos, asumiendo responsabilidad por el uso de estas tecnologías.

Sostenibilidad y Proporcionalidad

• El tercer principio aborda la sostenibilidad, considerando costos e impacto ambiental del uso de IA. Se debe cuidar el uso racional de recursos.

• La proporcionalidad implica usar IA equilibradamente para generar un valor que supere los costos asociados a su implementación.

Privacidad y Seguridad

• El cuarto principio se refiere a la privacidad en el manejo de datos personales, cumpliendo con regulaciones existentes y evitando filtraciones indebidas.

• La seguridad es crucial; los sistemas deben ser robustos ante ataques o mal uso para evitar daños a las personas.

Inclusión y Centralidad del Ser Humano

• El principio de inclusión busca que la IA reduzca brechas educativas y evite discriminación por género o condición socioeconómica.

• Finalmente, el principio centraliza al ser humano, enfatizando que la IA debe apoyar a estudiantes e investigadores sin sustituir su papel.

Código Ético de la UNAM

Principios Institucionales

• Desde 2015, la UNAM cuenta con un código ético institucional que guía conductas dentro de la comunidad universitaria.

• Este código incluye principios como convivencia pacífica, respeto a diversidad, igualdad y responsabilidad social.

Compatibilidad con Principios Internacionales

• Aunque no menciona explícitamente temas tecnológicos, muchos principios del código son compatibles con recomendaciones internacionales sobre inteligencia artificial.

Integridad Académica

• Se destaca el principio de integridad académica: todos los miembros deben adherirse al rigor académico en sus actividades relacionadas con conocimiento.

Ética Académica y Normatividad en la Inteligencia Artificial

Integridad y Honestidad Académica

• La integridad académica requiere citar adecuadamente las fuentes de ideas, textos e imágenes utilizadas en trabajos universitarios. Esto incluye no sustraer información sin el consentimiento correspondiente.

• Es fundamental no falsificar, alterar o manipular datos e información en trabajos académicos, exámenes y otros documentos relacionados con la vida universitaria.

Código de Ética Universitario

• Se menciona que el código de ética actual proporciona un marco general, aunque se reconoce la necesidad de reglamentación más específica, especialmente en el contexto de la inteligencia artificial.

• El código invita a las entidades universitarias a formar comités de ética que operen bajo principios como integridad y justicia, adaptándose a sus contextos específicos.

Propuestas para un Marco Institucional

• Se sugiere avanzar hacia un marco institucional ético que guíe las funciones docentes e investigativas relacionadas con la inteligencia artificial. Se recomienda leer un libro que detalla enfoques para esta integración.

• La discusión sobre recomendaciones se plantea como una invitación a ser actores activos en la construcción ética dentro del ámbito de la inteligencia artificial.

Recomendaciones Institucionales

• Las recomendaciones se dividen en dos áreas: institucional y personal; enfatizando acciones que refuercen el marco normativo mediante comités representativos dentro de la comunidad universitaria.

• Se destaca la importancia del contexto mexicano y universitario al abordar los desafíos éticos emergentes por el uso creciente de tecnologías inteligentes.

Seminarios y Formación Continua

• Se han establecido seminarios permanentes sobre derechos digitales y justicia para discutir casos relevantes sobre ética e inteligencia artificial, promoviendo un diálogo continuo sobre estos temas críticos.

• También se menciona un ciclo internacional de seminarios enfocado en discriminación relacionada con algoritmos, resaltando cómo pueden surgir sesgos éticos a partir del uso inadecuado de tecnología inteligente.

Ética y Inteligencia Artificial en la Universidad

Introducción a la Ética en Acción

• Se menciona el impulso del Instituto de Investigaciones Jurídicas para fomentar diálogos sobre ética en inteligencia artificial, invitando a la comunidad universitaria a participar activamente.

Responsabilidad Social y Acceso Equitativo

• La comunidad universitaria se siente responsable de construir una inteligencia artificial que contribuya a un mejor entorno social, enfatizando la importancia del acceso equitativo a infraestructura y recursos tecnológicos.

Macroentrenamiento y Soluciones Interdisciplinarias

• Se presenta un macroentrenamiento de inteligencia artificial, destacando el interés creciente entre los estudiantes por soluciones en química, farmacéutica y problemas sociales complejos.

• Se subraya la necesidad de discutir el uso ético de la inteligencia artificial, mencionando iniciativas nacionales e internacionales que buscan establecer un diálogo al respecto.

Promoción de Discusiones Interdisciplinarias

• Se promueve la discusión interdisciplinaria mediante seminarios y talleres, como el taller participativo sobre inteligencia artificial en contextos multilingües y pluriculturales.

Integración Crítica de IA en Gestión Universitaria

• Cita a la doctora Sonia Venegas Álvarez sobre cómo un sistema administrativo debe integrar críticamente la IA sin desplazar el núcleo ético que define su función como servicio público.

Docencia e Investigación con IA

• Se propone incorporar inteligencia artificial generativa en docencia, promoviendo un uso crítico y transparente.

• Mención de jornadas académicas sobre IA generativa que ofrecen material enriquecido para docentes interesados.

Repositorio Académico sobre Inteligencia Artificial

• Anuncio de un repositorio académico que compila esfuerzos universitarios en investigación sobre inteligencia artificial, invitando a todos a consultarlo para acceder a información relevante.

Llamado a la Acción Comunitaria

• Concluye con una invitación a todos los participantes para contribuir activamente al desarrollo ético de la inteligencia artificial, resaltando que cada uno tiene un papel importante en este proceso.

Reflexiones sobre el Seminario de Inteligencia Artificial

Agradecimientos y Reflexiones Iniciales

• El presentador expresa su agradecimiento por la interacción durante el seminario, destacando que ha sido una experiencia enriquecedora.

• Se menciona la importancia de seguir promoviendo herramientas que fomenten la transformación en la universidad, a pesar de las divisiones existentes en la comunidad.

Uso Responsable de la Inteligencia Artificial

• Se discute el uso responsable y crítico de la regulación institucional relacionada con la inteligencia artificial, señalando un sentimiento generalizado de desconcierto entre los participantes.

• Se plantea la necesidad de formación y acompañamiento para abordar estos desafíos, resaltando las iniciativas presentadas por los panelistas.

Diferenciación en el Uso de Herramientas de IA

• Una pregunta del público se centra en si se ha diferenciado el uso de inteligencia artificial entre investigadores, mencionando que un 76% utiliza estas herramientas.

• La doctora Yuri confirma que existen datos sobre tanto el uso como la producción de inteligencia artificial, enfatizando también aspectos éticos relacionados con estos procesos.

Ética en la Construcción de Modelos

• Se subraya la importancia de ser claros respecto a los conjuntos de datos utilizados para construir modelos, lo cual afecta su veracidad y confiabilidad.

• La discusión incluye elementos éticos no solo aplicables a investigaciones académicas sino también a prácticas industriales relacionadas con IA.

Normativa Internacional y Prácticas Deshonestas

• Se menciona un esfuerzo internacional para establecer normativas que regulen cómo se producen e identifican los contenidos generados por IA.

• Se alerta sobre prácticas deshonestas donde algunos utilizan IA para generar información falsa o desacreditar otros trabajos.

Recomendaciones sobre Marco Regulatorio

• La presentación concluye con una reflexión sobre cómo debería abordarse el marco regulatorio para el uso de IA dentro del contexto universitario.

• Se plantea si es mejor trabajar en normatividad desde un cuerpo colegiado o a nivel dependencia específica con comisiones éticas.

Propuesta sobre el uso de la inteligencia artificial en la universidad

Reflexiones iniciales sobre la normativa

• La propuesta se centra en que no debería haber restricciones estrictas en el uso de la inteligencia artificial (IA) dentro del ámbito universitario, sugiriendo un marco normativo general.

• Se menciona que la universidad ya cuenta con un código de ética aplicable, que podría ser ajustado para abordar situaciones específicas relacionadas con el uso de IA.

Posibilidad de ajustes normativos

• El código universitario permite a las entidades crear normativas que apoyen actividades concretas, lo cual es relevante ante los cambios y evoluciones en el uso de IA.

• Se destaca la necesidad de precisiones adicionales en las normas existentes, enfatizando que a veces se requieren directrices claras para evitar confusiones.

Importancia de reglas claras

• Es fundamental establecer criterios claros sobre el uso de IA para guiar a los estudiantes y profesionales, ayudando a prevenir malentendidos sobre lo permitido.

• La creación de espacios donde se puedan definir estas reglas es vista como una oportunidad para mejorar la comprensión y aplicación del uso ético de la IA.

Elementos para un buen uso

• Se identifican elementos suficientes dentro del marco actual para respaldar un uso adecuado de la IA; sin embargo, se reconoce que puede haber necesidad de precisión técnica adicional.

Preparación ética y responsable

• La discusión gira hacia cómo preparar a los estudiantes para usar IA éticamente en su vida profesional, considerando su impacto social y laboral.

• Se subraya que las universidades deben basarse en principios fundamentales establecidos hace más de 100 años, adaptándolos al contexto actual del uso tecnológico.

Principios rectores en el uso de IA

• Los principios como objetividad, honestidad e imparcialidad son esenciales al desarrollar y utilizar inteligencia artificial dentro del entorno académico.

Cierre y agradecimientos

• Se agradece a todos los panelistas por sus contribuciones y se invita a participar en futuros seminarios relacionados con estos temas.

• El evento concluye destacando la importancia del seminario SCK y anticipando futuras discusiones sobre el tema.