AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

A IA e Seus Impactos na Sociedade

Introdução à Investigação em IA

• Sou investigadora da IA há mais de 10 anos e recebi um e-mail alertando que meu trabalho poderia acabar com a Humanidade. Isso reflete a crescente preocupação com a IA atualmente.

A Dualidade da Cobertura Midiática

• A IA é frequentemente mencionada na mídia, tanto por inovações positivas, como descobertas médicas, quanto por situações sombrias, como chatbots sugerindo divórcios ou receitas perigosas.

Riscos Existenciais e Desafios Atuais

• Há uma discussão sobre cenários apocalípticos relacionados à IA, mas o foco deve ser nos impactos atuais que ela já causa na sociedade e no meio ambiente. Ninguém sabe ao certo o que acontecerá no futuro.

Sustentabilidade e Consumo de Recursos

• Os modelos de IA têm um impacto ambiental significativo; seu treinamento consome grandes quantidades de energia e pode contribuir para a mudança climática. É crucial começar a monitorar esses impactos.

Iniciativas Éticas em Modelos de IA

• Participei da iniciativa BigScience para criar o modelo Bloom, focado em ética e transparência. O estudo revelou que treinar esse modelo consumiu tanta energia quanto 30 lares durante um ano inteiro.

Custos Ambientais dos Modelos de Linguagem

Comparação entre Modelos de Linguagem

• O Bloom emitiu 25 toneladas de CO2 durante seu treinamento; outros modelos como o GPT-3 podem emitir até 20 vezes mais carbono para tarefas semelhantes. As empresas não estão medindo ou divulgando essas emissões adequadamente.

Crescimento dos Modelos de IA

• Nos últimos cinco anos, os modelos linguísticos aumentaram significativamente em tamanho (2000 vezes), resultando em custos ambientais crescentes associados ao seu uso cotidiano em dispositivos diversos.

Ferramentas para Medir Impacto Ambiental

• Desenvolvi o CodeCarbon, uma ferramenta que calcula energia consumida e carbono emitido durante o treinamento da IA, ajudando na escolha de modelos mais sustentáveis e incentivando o uso de energias renováveis.

Impacto da IA nos Direitos Autorais

Desafios para Artistas e Autores

• Artistas enfrentam dificuldades para provar que suas obras foram usadas sem consentimento no treinamento de modelos de IA; isso levanta questões legais complexas sobre direitos autorais.

Inovação na Pesquisa sobre Dados Usados

• A Spawning.ai criou uma ferramenta chamada “Já fui treinado?” que permite aos artistas verificar se suas obras foram utilizadas sem autorização nos conjuntos de dados usados pela IA, fornecendo provas cruciais para ações judiciais contra empresas responsáveis pela violação dos direitos autorais.

Colaboração com Hugging Face

Preconceito em Modelos de IA

Impacto do Preconceito nos Sistemas de IA

• O preconceito em modelos de IA refere-se à codificação de padrões e crenças que podem perpetuar estereótipos, racismo e sexismo.

• A Dra. Joy Buolamwini enfrentou discriminação ao descobrir que sistemas de reconhecimento facial não reconheciam seu rosto sem uma máscara branca, evidenciando a falha em detectar rostos de mulheres negras.

• Casos como o de Porcha Woodruff, acusada injustamente devido a um erro no sistema de IA, demonstram as consequências graves do uso inadequado dessas tecnologias na aplicação da lei.

Consequências dos Modelos Preconceituosos

• Sistemas que geram imagens com base em descrições tendenciosas podem resultar em representações perigosas, como associar características específicas a criminosos ou terroristas.

• O "Explorador de Preconceitos Estáveis" foi criado para analisar preconceitos em modelos de geração de imagens, revelando uma predominância masculina e branca nas profissões representadas.

Representação e Diversidade

• Análises mostraram que os modelos frequentemente retratam advogados e diretores executivos como homens brancos, ignorando a diversidade real das profissões.

• Apesar da relevância do instrumento desenvolvido, ele ainda não foi utilizado para legislar sobre questões relacionadas ao preconceito.

Importância da Acessibilidade na IA

• É crucial que as ferramentas de IA sejam acessíveis para permitir que todos compreendam seu funcionamento e suas limitações à medida que se tornam parte integrante da sociedade.

Medindo Impactos e Criando Soluções

• Não existe uma solução única para problemas complexos como preconceitos; no entanto, instrumentos para medir impactos podem ajudar a identificar problemas e desenvolver soluções eficazes.

• Informações obtidas através desses instrumentos podem guiar empresas na escolha de modelos sustentáveis e ajudar legisladores a criar regulamentações adequadas.

Reflexão sobre Riscos Existenciais