Algoritmos das redes sociais estão cada vez mais perigosos, diz pioneiro da Inteligência Artificial
Por que os algoritmos das redes sociais são perigosos?
Introdução ao tema
- A reportagem da BBC News Brasil, lida por Camila Verasmota, discute a visão de Stuart Russell, professor da Universidade da Califórnia em Berkeley, sobre os perigos dos algoritmos de inteligência artificial nas redes sociais.
A ameaça da inteligência artificial
- Russell alerta que o modelo atual de inteligência artificial representa uma ameaça à sobrevivência humana, não porque as máquinas se tornem conscientes, mas devido à forma como são programadas.
- Ele utiliza a metáfora do gênio da lâmpada para ilustrar como esses sistemas podem atender aos desejos humanos sem considerar as consequências prejudiciais.
O comportamento dos algoritmos
- Os algoritmos são projetados para otimizar objetivos fixos dados pelos desenvolvedores, tornando-se indiferentes às consequências negativas que suas ações podem causar.
- Um exemplo prático é o funcionamento dos algoritmos das redes sociais, que priorizam manter os usuários engajados a qualquer custo.
Consequências sociais
- Esses algoritmos podem contribuir para problemas como vício em redes sociais, depressão e polarização social.
- Russell enfatiza que a busca incessante por cliques pode gerar danos significativos à sociedade e critica a falta de supervisão adequada sobre esses sistemas.
Críticas e propostas de mudança
- A ex-funcionária do Facebook, Frances Haugen, reforçou essas preocupações ao afirmar que as plataformas causam danos às crianças e enfraquecem a democracia.
- Russell defende um novo tipo de inteligência artificial que reconheça suas limitações e busque agir com cautela antes de tomar decisões potencialmente prejudiciais.
Debate entre líderes tecnológicos
- O debate entre Mark Zuckerberg e Elon Musk ilustra diferentes visões sobre os riscos da inteligência artificial; Musk vê um perigo iminente enquanto Zuckerberg acredita na possibilidade de uso benéfico.
Ameaças e Riscos da Inteligência Artificial
O Perigo da Tecnologia
- Especialistas em tecnologia veem a crítica à inteligência artificial como uma ameaça, pois questiona décadas de trabalho na área. Russell menciona que alguns consideram isso um argumento anti-inteligência artificial, enquanto outros, como Mark Zuckerberg, discordam.
Comparação com a Física Nuclear
- Russell compara as preocupações sobre IA com advertências sobre bombas nucleares; não são argumentos contra a física, mas sim alertas sobre os riscos de tecnologias poderosas. Ele cita acidentes nucleares como exemplos de desatenção aos perigos.
Necessidade de Atenção aos Riscos
- Para aproveitar os benefícios da IA, é crucial prestar atenção aos riscos associados. Russell argumenta que o descontrole dos algoritmos nas redes sociais pode causar problemas sociais significativos.
Redesenho dos Algoritmos
- Russell sugere que um redesenho completo dos algoritmos das redes sociais pode ser necessário para mitigar esses riscos.
Falta de Transparência nos Algoritmos
- No Facebook, nem mesmo o conselho independente tem acesso total ao algoritmo que curadoria o conteúdo. Há esforços globais em pesquisa para entender melhor esses algoritmos e seus impactos.
Experimentos e Polarização Social
- É importante realizar experimentos com grupos de controle para identificar causas da polarização social e depressão. Mudanças no algoritmo podem melhorar essas questões sem eliminar o uso das redes sociais.
Problemas com Métricas Atuais
- Os algoritmos atuais priorizam métricas prejudiciais ao bem-estar do usuário. A proposta é focar no benefício do usuário como objetivo principal para melhorar a experiência nas plataformas.
Desafios na Personalização dos Algoritmos
- Não existe uma resposta única sobre o que é benéfico; os algoritmos precisarão se adaptar às necessidades individuais dos usuários, um desafio complexo na implementação desse novo modelo.
Diferença entre Manipulação Aceitável e Inaceitável
- Russell acredita que seria necessário recomeçar do zero para entender as diferenças entre manipulação aceitável e inaceitável nas interações online.
Questões Éticas Complexas