Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
A inteligência artificial avança em ritmo acelerado, enquanto especialistas e autoridades alertam para os riscos de modelos cada vez mais poderosos. O receio é que esses sistemas cheguem a um ponto em que acompanhar ou limitar suas ações se torne cada vez mais difícil.Continua após a publicidadePara o The Guardian, o lançamento do GPT-6 Astra, da OpenAI, colocou essa discussão no centro das atenções. A empresa afirma ter alcançado a inteligência artificial geral (IAG), mas incidentes recentes e a dificuldade de monitorar o raciocínio do modelo levantam dúvidas sobre os limites do controle humano.
Com a promessa de superar humanos na maioria dos trabalhos intelectuais, o GPT-6 Astra levanta dúvidas sobre os limites da automação. – Imagem: wutianzeri/ShutterstockAté onde a IA pode avançar?Robert Trager, diretor da Oxford Martin AI Governance Initiative, comparou o momento atual a uma descida por corredeiras, sem saber se existe uma cachoeira adiante. A preocupação é que sistemas de IA possam chegar à chamada melhoria recursiva, passando a aprimorar suas próprias capacidades.
Estamos atravessando as corredeiras e realmente esperamos que não haja algum tipo de queda à nossa frente, mas não sabemos.
Robert Trager, diretor da Oxford Martin AI Governance Initiative, ao The Guardian.O alerta ganhou força após relatos de que agentes de IA teriam reutilizado um site alemão como fórum para compartilhar estratégias destinadas a burlar tarefas. Antes disso, uma rede de agentes da OpenAI havia hackeado o Hugging Face, plataforma de software usada por desenvolvedores de IA.Nos Estados Unidos, o senador Bernie Sanders defendeu uma pausa imediata no desenvolvimento de sistemas avançados e uma proibição permanente da superinteligência. No Reino Unido, parlamentares discutem a adoção de mecanismos legais capazes de desligar sistemas em caso de perda de controle.O que o GPT-6 Astra consegue fazer?A OpenAI define IAG como sistemas autônomos capazes de superar humanos na maior parte dos trabalhos economicamente valiosos. Segundo a empresa, o Astra pode assumir tarefas que vão de projetos de circuitos e modelagem financeira à criação de videogames e elaboração de documentos jurídicos.
Entre as funções citadas estão:
Projetar placas de circuito;
Preencher declarações de impostos;
Criar videogames;
Fazer modelagem financeira;
Ajudar na elaboração de documentos jurídicos.
A capacidade de executar esse tipo de atividade também coloca empregos qualificados no centro da discussão. O Astra recebeu da OpenAI uma classificação “crítica” em capacidade de cibersegurança. Pela própria definição da empresa, isso significa que o modelo poderia invadir softwares em situações capazes de afetar sistemas militares, industriais ou a infraestrutura da OpenAI.
A menor monitorabilidade do Astra levanta dúvidas sobre a capacidade de identificar comportamentos indesejados. – Imagem: Pedro Spadoni via DALL-E/Olhar DigitalO raciocínio ficou mais difícil de acompanharO problema não está apenas no que os modelos conseguem fazer. Também preocupa o quanto seus processos internos podem ser compreendidos. O Astra foi treinado para raciocinar de forma mais rápida e menos transparente, reduzindo a capacidade de acompanhar sua cadeia de pensamento.Continua após a publicidadeLeia mais:A OpenAI confirmou que o modelo apresenta uma queda significativa na monitorabilidade em relação às versões anteriores. Para Jakub Pachocki, cientista-chefe da empresa, “à medida que as capacidades dos modelos aumentam, o monitoramento fica mais desafiador”.Pesquisadores de segurança temem que essa menor visibilidade dificulte a identificação de comportamentos indesejados, inclusive possíveis ações contra os próprios supervisores humanos.O dilema dentro da OpenAISam Altman reconheceu a tensão provocada pelo avanço da tecnologia. Após o incidente envolvendo o Hugging Face, o CEO da OpenAI classificou o episódio como um acidente legítimo de segurança de IA e uma falha de alinhamento.Continua após a publicidadeMesmo depois do episódio, Altman defendeu o lançamento do Astra. Segundo ele, colocar os sistemas em uso ajuda a sociedade a entender como a tecnologia está evoluindo e a se adaptar a ela.“Um ciclo iterativo em que a sociedade e essa tecnologia evoluem juntas é o que levará à maior chance de acertarmos isso”, afirmou.Altman também alertou para problemas de cibersegurança e citou riscos relacionados à biossegurança e a outros desafios que podem surgir nos próximos cinco anos. A questão, portanto, vai além do que a IA já consegue fazer: é saber se a capacidade humana de supervisioná-la conseguirá acompanhar esse avanço.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
