Individual skills to address harmful practices and concluding initiatives

Introdução ao Curso

Visão Geral da Seção: Esta seção introdutória apresenta o curso online sobre liberdade de expressão, inteligência artificial e eleições, organizado pelo Centro Knight para o Jornalismo nas Américas em parceria com a UNESCO e o PNUD.

Boas-Vindas e Apresentação

• Albertina Piterbarg, especialista eleitoral da UNESCO, lidera o curso.

• Início do último módulo com foco na verificação de conteúdo gerado por IA manualmente e automaticamente.

Técnicas de Verificação de Conteúdo Gerado por IA

Visão Geral da Seção: Nesta parte, são abordadas técnicas para identificar conteúdo produzido por inteligência artificial, tanto manualmente quanto automaticamente.

Detecção Manual

• Dificuldade em distinguir entre conteúdo humano e gerado por IA.

• Análise de metadados como forma de detecção manual.

• Importância dos metadados ausentes como indicadores de manipulação ou geração por IA.

Análise Manual de Texto, Fotos e Vídeos

• Identificação de falhas no texto como repetições que denotam origem em IA.

• Observação de imperfeições em fotos e vídeos gerados pela IA.

• Dificuldades da IA em renderizar certos elementos visuais como sinais de trânsito.

Detecção Manual de Áudio

• Sinais auditivos que indicam áudio gerado pela IA.

• Importância do contexto na detecção manual do conteúdo sintético.

Detecção Automática e Ferramentas Utilizadas

Visão Geral da Seção: Explora-se a importância das ferramentas automatizadas na detecção eficaz do conteúdo gerado por IA.

Ferramentas Automáticas

• Descrição das ferramentas AI Image Detector, Optic AI or Not, Deepware ou Fake Catcher para análise específica.

• Necessidade de utilizar múltiplos métodos para garantir precisão na verificação do conteúdo sintético.

Alfabetização Informacional e Midiática nas Eleições

Visão Geral da Seção: Aborda-se a importância da alfabetização informacional e midiática no contexto eleitoral diante do uso crescente da inteligência artificial.

Significado da Alfabetização Midiática

Alfabetização Informacional Midiática (AMI)

Visão Geral da Seção: A alfabetização informacional midiática é essencial para capacitar os indivíduos a lidar criticamente com informações online, promovendo a capacidade de acessar, analisar e agir com diversos tipos de informações.

Importância da Alfabetização Midiática e Informacional

• A AMI visa capacitar o público em geral a avaliar criticamente conteúdos midiáticos e informativos, beneficiando jovens, educadores, jornalistas, políticos e eleitores.

Tipos de Intervenções

• Existem intervenções de longo prazo que integram a AMI aos currículos educacionais e políticas públicas para promover resiliência à desinformação.

• As intervenções de curto prazo focam na educação de adultos e conscientização pública direcionada.

Benefícios da Alfabetização Midiática e Informacional

Visão Geral da Seção: A AMI proporciona conhecimentos, habilidades, atitudes e valores essenciais para lidar com informações online.

Componentes da Alfabetização MIDI

• Conhecimento sobre inteligência artificial, habilidades para encontrar informações confiáveis online e atitudes críticas são fundamentais.

• Valores como apoiar os direitos humanos durante os processos eleitorais são destacados.

Impacto das Intervenções durante Ciclos Eleitorais

Visão Geral da Seção: As iniciativas de AMI em ambientes eleitorais contribuem para a integridade dos processos eleitorais ao informar adequadamente os eleitores.

Redução da Desinformação Eleitoral

• As intervenções reduzem o impacto da desinformação nas eleições, melhoram as habilidades de alfabetização midiática do público e previnem conflitos relacionados às eleições.

Desafios da Alfabetização Midiática nas Eleições

Visão Geral da Seção: Os desafios incluem a rápida evolução das tecnologias de desinformação geradas pela inteligência artificial e a aplicação efetiva dos conhecimentos adquiridos pelas partes envolvidas.

Desafios Enfrentados

• A evolução rápida das tecnologias é um desafio significativo juntamente com a necessidade de aplicar efetivamente os conhecimentos adquiridos pelas partes envolvidas.

Inclusão, Diálogo Intercultural e Diversidade Cultural

Visão Geral da Seção: Nesta parte, são abordados temas como inclusão, diálogo intercultural e diversidade cultural, destacando a importância da tradução de textos entre diferentes idiomas e os desafios envolvidos nesse processo.

Inclusão e Diversidade Cultural

• A tecnologia digital pode apoiar a pesquisa e capacitar os cidadãos para evitar influências negativas durante eleições e momentos públicos.

• A UNESCO desenvolveu diretrizes para governança de plataformas digitais visando combater desinformação e discurso de ódio durante processos eleitorais.

• As diretrizes foram elaboradas de forma inclusiva, com participação de representantes de diversos países e destaque para a importância da alfabetização informacional midiática.

Alfabetização Informacional Midiática

• A alfabetização informacional midiática busca reduzir a lacuna de participação, promovendo o uso crítico da informação, igualdade de gênero e empoderamento das mulheres.

• As diretrizes da UNESCO enfatizam a promoção da alfabetização midiática pelos governos, visando educar usuários sobre seus direitos e colaborar com especialistas.

Avaliação de Impacto Ético em Sistemas de IA

Visão Geral da Seção: Esta parte explora a importância das avaliações de impacto ético em sistemas de Inteligência Artificial (IA), destacando como essas avaliações ajudam a identificar impactos positivos e negativos ao longo do ciclo de vida dos sistemas.

Importância das Avaliações Éticas

• As avaliações éticas auxiliam na proteção dos benefícios dos sistemas de IA e na prevenção de danos aos direitos humanos.

• Essas avaliações não são novas e têm sido amplamente utilizadas em diversas áreas para identificar pontos fracos nos sistemas.

• Realizar uma avaliação ética é um requisito funcional para identificar preconceitos nos dados ou outras fontes que possam impactar negativamente o sistema.

Exemplos Práticos

• Além do aspecto organizacional, as avaliações beneficiam indivíduos ao proteger seus direitos e promover o bem social através da inovação e confiança nas tecnologias.

Ferramenta de Avaliação de Impacto Ético da UNESCO

Visão Geral da Seção: Nesta seção, são discutidas as ferramentas e leituras adicionadas, com foco na Ferramenta de Avaliação de Impacto Ético da UNESCO.

Questões de Escopo e Governança

• A ferramenta ajuda a compreender os objetivos do sistema de IA, seu contexto e se há um sistema de governança associado.

• Descrever o sistema de IA, identificar objetivos e responsabilidades dos atores na governança do projeto são aspectos abordados para fixar responsabilidades e garantir transparência.

Alinhamento com Princípios Éticos

• Fala sobre alinhar o sistema com os princípios da recomendação da UNESCO, como segurança, justiça, privacidade, transparência e explicabilidade.

• Exemplo: avaliar se o algoritmo foi testado com diferentes grupos para garantir não discriminação.

Reflexões Éticas

• Importância da análise dos dados de treinamento e teste para identificar preconceitos.

• A avaliação ética auxilia na reflexão sobre o impacto dos sistemas de IA.

Impacto Positivo da Inteligência Artificial

Visão Geral da Seção: Explora formas de mitigar riscos relacionados à IA para obter impactos positivos no ecossistema informativo das eleições.

Coalizões para Mitigar Riscos

• Coalizões eficientes no uso responsável da IA podem coordenar respostas rápidas.

• Potencial das coalizões em equilibrar acesso à IA e minimizar riscos no ecossistema informativo eleitoral.

Governança e Regulamentação

• As coalizões apoiam a governança da IA ao informar decisões regulatórias com evidências.

Conclusões e Agradecimentos

Visão Geral da Seção: Nesta seção final, são apresentadas as conclusões do curso e agradecimentos aos colaboradores.

Agradecimentos Finais

• Agradece à equipe do Centro Knight para o jornalismo nas Américas pelo esforço colaborativo.

• Destaca as contribuições fundamentais dos colegas Prateek Sibal, Tatiana Monney e Osama Aljaber.

• Expressa gratidão aos instrutores assistentes Julie Godignon, Cristina Pérez Claeys, Lucas Novaes Ferreira e Anass Bendriff pela dedicação no ensino em diferentes idiomas.