OpenAI’s Sam Altman Talks ChatGPT, AI Agents and Superintelligence — Live at TED2025

Introdução ao TED e Novos Modelos

Apresentação de Sora

• O apresentador dá as boas-vindas a Sora, destacando a frequência com que sua empresa lança novos modelos.

• Sora demonstra um gerador de imagens e vídeos, mostrando uma interpretação visual de revelações chocantes.

Impressões sobre o Modelo

• O apresentador expressa surpresa com a capacidade do modelo em gerar diagramas complexos, como a diferença entre inteligência e consciência.

• A nova geração de modelos é parte do GPT-4, integrando inteligência avançada para criar resultados impressionantes.

Impacto da Tecnologia no Trabalho

Reflexões sobre o Futuro Profissional

• Discussão sobre as preocupações dos consultores de gestão em relação à automação: "O que acontecerá comigo?"

• A expectativa em relação às capacidades profissionais aumenta, mas também se amplia o potencial criativo com novas ferramentas.

Criatividade e Propriedade Intelectual

Questões Éticas na Criação

• O apresentador questiona se os modelos realmente "pensam" ou apenas replicam padrões aprendidos durante o treinamento.

• Debate sobre a importância do espírito criativo humano e como as ferramentas devem apoiar essa criatividade.

Modelos Econômicos para Criatividade

• Necessidade de desenvolver novos modelos econômicos para compensar a produção criativa em um ambiente democratizado.

• Discussão sobre limites éticos: até onde vai a inspiração sem violar direitos autorais?

Consentimento e Uso Criativo

Desafios da Criação Sem Consentimento

• Exemplo apresentado por Carol Cadwalader sobre uso não autorizado de seu estilo por IA levanta questões éticas.

• Importância do consentimento na utilização do trabalho criativo; necessidade de um modelo que garanta compensação aos artistas.

Conclusão Sobre Sentimentos dos Criadores

Mudanças e Modelos de Receita

Empatia em relação às mudanças

• O orador expressa empatia por aqueles que desejam que as mudanças atuais não ocorram, refletindo sobre a nostalgia por tempos anteriores.

Cálculo de receita e modelos de compartilhamento

• Discute-se a possibilidade de calcular a porcentagem da receita de assinaturas que vai para cada resposta, sugerindo que isso é viável se as regras forem bem definidas.

• A dificuldade em atribuir créditos específicos a influências musicais é comparada à criação artística, onde inspirações são complexas e interligadas.

Novos modelos e open source

• O orador menciona a necessidade de desenvolver um novo modelo onde artistas possam optar por participar na geração de conteúdo inspirado neles.

• A importância do open source é reconhecida, com planos para criar um modelo poderoso nessa área após uma sessão comunitária para definir parâmetros.

Crescimento e competição no mercado

• Há uma expectativa de que o novo modelo open source será melhor do que os existentes, apesar das preocupações sobre seu uso indevido.

• O orador reflete sobre o investimento significativo necessário para manter uma vantagem competitiva no mercado, mencionando desafios enfrentados devido à demanda crescente.

Crescimento Exponencial do ChatGPT

Números impressionantes

• O crescimento do ChatGPT é descrito como sem precedentes, com 500 milhões de usuários ativos semanalmente, destacando a rápida expansão da plataforma.

Expectativas futuras

• Apesar da concorrência crescente, há confiança na capacidade do ChatGPT em continuar crescendo rapidamente e inovando constantemente.

Integração e personalização

• A nova funcionalidade chamada "memória" permitirá ao ChatGPT conhecer melhor os usuários ao longo do tempo, aumentando sua utilidade pessoal.

Reações dos usuários

A Revolução da Inteligência Artificial e Seus Impactos

O Papel da IA como Companheira

• A inteligência artificial (IA) é vista como uma extensão do ser humano, atuando como um companheiro que ajuda a alcançar o melhor desempenho possível.

• Embora não se espere que a IA atue exatamente como no filme "Her", há uma expectativa de que ela comece a oferecer proativamente soluções para melhorar as habilidades humanas.

Avanços em Descobertas Científicas

• O palestrante expressa entusiasmo pela aplicação da IA na ciência, acreditando que novas descobertas científicas são fundamentais para melhorar a vida das pessoas.

• Há relatos de cientistas que estão se tornando mais produtivos com os novos modelos de IA, impactando positivamente suas descobertas.

• Um exemplo mencionado é o desenvolvimento de supercondutores à temperatura ambiente, considerado viável dentro das leis da física.

Transformação no Desenvolvimento de Software

• O processo de criação de software já foi significativamente transformado nos últimos dois anos, com expectativas de novas mudanças em breve.

• Engenheiros relatam experiências quase religiosas ao usar novos modelos, conseguindo realizar em uma tarde o que antes levaria anos.

Riscos e Desafios da IA

• Discussões sobre os riscos associados à IA incluem preocupações sobre modelos poderosos que podem ser mal utilizados e desafios cibernéticos emergentes.

• Há um reconhecimento dos perigos potenciais relacionados à desinformação e à possibilidade de perda de controle sobre sistemas autônomos.

Segurança e Preparação na Implementação da IA

• A empresa possui um framework de preparação para garantir a segurança antes do lançamento dos modelos.

• Apesar das saídas na equipe de segurança, o palestrante defende o histórico positivo em segurança da empresa, embora reconheça os desafios crescentes com o aumento do poder exponencial da IA.

Sistemas Agentes e Inteligência Geral Artificial (AGI)

O que é AGI e como podemos garantir sua segurança?

Definição e Limitações da AGI

• A AGI (Inteligência Geral Artificial) ainda apresenta muitas limitações, mesmo com melhorias esperadas. Não consegue aprender continuamente ou melhorar em áreas onde é fraca.

• Os sistemas atuais não têm a capacidade de realizar tarefas complexas de trabalho intelectual sem supervisão humana, o que limita sua utilidade prática.

• Existe uma falta de consenso entre os pesquisadores sobre a definição exata de AGI, levando a múltiplas interpretações do conceito.

• A missão inicial era ser o primeiro a alcançar a AGI, mas sem uma definição clara, isso gera preocupações sobre o progresso e as expectativas.

• O desenvolvimento dos modelos tende a ser exponencial; diferentes pessoas podem considerar que alcançamos AGI em momentos distintos.

Segurança e Avanços Tecnológicos

• É crucial discutir como garantir que sistemas mais capazes sejam seguros à medida que se tornam mais avançados do que os humanos.

• Em vez de focar apenas no momento em que alcançaremos a AGI, devemos reconhecer o potencial contínuo desses sistemas e suas implicações para a sociedade.

• O conceito de "AI agentic" refere-se à capacidade da IA de agir autonomamente em projetos, levantando questões sobre controle e segurança.

Desafios do AI Agentic

• Um exemplo prático é um sistema chamado "operator", capaz de realizar reservas automaticamente, mas levanta preocupações sobre privacidade e segurança financeira.

• A autonomia da IA pode ser vista como um superpoder intrigante, mas também traz riscos significativos se não forem implementadas salvaguardas adequadas.

• Joshua Benjio destaca que o AI agentic deve ser monitorado cuidadosamente para evitar consequências negativas ao permitir acesso irrestrito à internet.

Confiabilidade das IAs

• As pessoas podem optar por não usar tecnologias novas devido ao medo; assim como hesitavam em fornecer informações financeiras online no passado.

• A aceitação gradual das IAs autônomas será necessária; no entanto, mesmo aqueles confortáveis com essa tecnologia devem estar cientes dos riscos envolvidos.

• Sistemas de IA com acesso aos dados pessoais aumentam as apostas quando cometem erros; portanto, confiança na segurança é fundamental para sua adoção.

Intersecção entre Segurança e Capacidade

• Há uma crescente interdependência entre segurança e capacidade nos produtos tecnológicos; um produto seguro é essencial para sua aceitação pelo público.

Discussão sobre AGI e Segurança

A Liberdade de Ação da AGI

• A discussão gira em torno da capacidade de uma AGI (Inteligência Geral Artificial) agir autonomamente na internet, como espalhar memes ou ideias, sem a necessidade de um comando individual.

Preparação e Riscos

• É mencionado um "framework de preparação" que delineia os momentos de perigo mais importantes relacionados à liberação da tecnologia, com foco em mitigar riscos antes do lançamento.

Crenças e Preocupações sobre IA

• O orador expressa uma crença apaixonada nas possibilidades da IA, mas também reconhece a necessidade de cautela devido ao potencial para consequências negativas.

Ansiedade e Mudança Tecnológica

• Há uma reflexão sobre a ansiedade que muitos sentem em relação às mudanças rápidas trazidas pela IA, incluindo preocupações sobre o impacto na arte e no ritmo das inovações.

Oportunidades Futuras

• Apesar das preocupações, é enfatizado que haverá grandes benefícios advindos da tecnologia. A sociedade aprenderá a lidar com as tecnologias ao longo do tempo, mesmo com erros pelo caminho.

Propostas para Segurança na Tecnologia

Necessidade de Agências Reguladoras

• O orador menciona ter defendido a criação de uma nova agência reguladora para licenciar esforços tecnológicos, embora agora tenha dúvidas se essa é a melhor abordagem.

Testes Externos para Modelos Avançados

• É sugerido que modelos avançados necessitam de testes externos rigorosos para garantir segurança e compreensão dos riscos associados antes do seu lançamento.

Importância da Transparência Social

• Destaca-se a importância de definir testes rigorosos para modelos tecnológicos e entender quais ameaças são prioritárias para a sociedade à medida que esses modelos se tornam mais capazes.

Questões Éticas na Criação de Tecnologia

Pergunta Provocativa sobre Responsabilidade Moral

• Uma questão desafiadora é levantada: quem concede autoridade moral aos criadores dessa tecnologia transformadora? E como eles se responsabilizam por possíveis falhas?

Narrativas Contrastantes Sobre o Criador da Tecnologia

• Existe uma dualidade nas narrativas sobre o criador: um visionário inovador versus alguém que pode ter perdido sua essência original ao buscar poder tecnológico.

Valores Centrais do Criador

Reflexões sobre o Poder e a Responsabilidade na IA

A Complexidade do Caráter e da Crítica

• O orador se descreve como um personagem complexo, reconhecendo que tanto críticas quanto elogios podem ter fundamento.

• A OpenAI tem como objetivo desenvolver AGI (Inteligência Geral Artificial) de forma segura para beneficiar a humanidade, refletindo sobre os avanços feitos até agora.

Evolução das Táticas e Aprendizados

• As táticas da OpenAI mudaram ao longo do tempo, com uma maior compreensão dos desafios financeiros e operacionais envolvidos no desenvolvimento de IA.

• O orador admite que é hora de disponibilizar sistemas abertos mais capazes, após um período de cautela devido à incerteza sobre os impactos da tecnologia.

Desafios Éticos e Consequências Futuras

• Reconhece que haverá erros no futuro, mas acredita que a missão da OpenAI permanece forte apesar das dificuldades enfrentadas nos últimos anos.

• Reflete sobre as mudanças nas táticas futuras enquanto mantém o compromisso com a missão original da empresa.

Comparações com Outros Líderes Tecnológicos

• O orador menciona Elon Musk e discute alegações de corrupção pelo poder, questionando se líderes tecnológicos conseguem lidar com sua crescente influência sem comprometer seus valores.

• Levanta questões sobre se o poder pode tornar-se irresistível e como isso afeta as decisões éticas dos CEOs.

Impacto Pessoal da Paternidade na Perspectiva Profissional

• Compartilha que ser pai não mudou sua essência; ele ainda se sente igual em muitos aspectos, apesar das responsabilidades aumentadas.

Reflexões sobre a Vida e Responsabilidade

Significado da Vida e Paternidade

• O cofundador Ila menciona que o significado da vida pode estar relacionado a bebês, impactando a forma como se investe tempo em diversas atividades.

• A responsabilidade de cuidar do futuro é intensificada pela paternidade, levando a uma maior preocupação com as consequências das ações no mundo.

Desafios da Inteligência Artificial

• Tristan Harris destaca que o desenvolvimento de IA avançada é visto como inevitável, criando um ambiente de competição que pode resultar em riscos sérios.

• Há uma necessidade de desacelerar o progresso tecnológico para permitir uma reflexão mais profunda sobre suas implicações sociais.

Segurança na IA

• Existem esforços contínuos para pausar ou atrasar lançamentos tecnológicos até que sejam considerados seguros e eficazes.

• A maioria dos desenvolvedores se preocupa genuinamente com a segurança da IA, desafiando a ideia de uma corrida desenfreada por inovações.

Mudanças na Abordagem de Modelos de IA

• Recentemente, houve uma mudança na forma como os modelos lidam com questões relacionadas à liberdade de expressão e ofensas, permitindo maior flexibilidade nas interações do usuário.

• A nova abordagem busca equilibrar as demandas dos usuários com as preocupações sobre danos reais à sociedade.

Governança Coletiva e Ética na Tecnologia

• É importante reunir especialistas em ética e tecnologia para discutir diretrizes seguras globalmente; no entanto, há um foco crescente nas preferências coletivas dos usuários.

O Futuro das Crianças em um Mundo Tecnológico

A Visão de um Mundo Transformado pela Tecnologia

• O orador reflete sobre o futuro que espera seu filho, mencionando a evolução tecnológica desde o lançamento do primeiro iPad há cerca de 15 anos.

• Ele compartilha uma observação sobre uma criança pequena que não reconhece revistas impressas, tratando-as como objetos obsoletos em comparação com dispositivos touchscreen.

• O orador acredita que as crianças crescerão em um mundo onde a inteligência artificial será predominante, tornando produtos e serviços extremamente inteligentes e capazes.

• Ele descreve um futuro de abundância material e mudanças rápidas, onde as capacidades individuais serão superadas por tecnologias avançadas.

• O orador expressa esperança de que seus filhos olhem para o passado com nostalgia e compaixão, considerando a vida anterior limitada em comparação ao futuro.

Desafios e Oportunidades Futuras