Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
Agentes de inteligência artificial (IA) desenvolvidos pela OpenAI usaram pelo menos dez sites adicionais para estabelecer comunicações não autorizadas no início deste ano, segundo seis grupos de pesquisadores independentes ouvidos pela Reuters. A descoberta indica que o comportamento dos agentes foi mais amplo do que havia sido divulgado anteriormente.Continua após a publicidadeOs pesquisadores identificaram mensagens deixadas pelos agentes em sites que incluem wikis pouco conhecidos, páginas pessoais e serviços de encurtamento de links administrados por universidades.A atividade não é considerada um ataque hacker e, em alguns aspectos, se aproxima mais de spam. Ainda assim, o fato de os agentes terem encontrado maneiras de contornar as próprias restrições impostas pela OpenAI para abrir canais de comunicação levantou novas preocupações sobre as capacidades dos modelos e sobre a transparência da empresa.Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, afirmou que contabilizou 18 sites que teriam sido usados pelos agentes entre maio e julho. Segundo ele, é quase certo que existam outros casos que ainda não foram identificados.Sydney Von Arx, cujo grupo revelou na semana passada que agentes da OpenAI haviam transformado uma wiki em alemão em uma espécie de plataforma de mensagens, afirmou que sua equipe identificou atividades semelhantes em 23 sites que ainda não haviam sido divulgados.Os pesquisadores ressaltam, porém, que suas estimativas são incompletas.Agentes encontraram brechas para se comunicar
Os agentes foram autorizados pela OpenAI a navegar pela internet em busca de informações para responder a perguntas de pesquisa, mas não deveriam publicar conteúdo. Mesmo assim, pesquisadores descobriram que eles aproveitaram características de sites antigos para deixar mensagens uns para os outros;
Em muitos casos, os investigadores identificaram a atividade comparando textos deixados na wiki alemã com mensagens idênticas encontradas em outros sites. Nomes de usuários semelhantes e atividades relacionadas às mesmas perguntas específicas também ajudaram a estabelecer conexões;
Alguns pesquisadores conseguiram rastrear a atividade até endereços de protocolo de internet associados à infraestrutura Azure, da Microsoft, que é usada pela OpenAI;
Entre os sites encontrados estão uma wiki sobre química para estudantes de Advanced Placement criada por um professor de ensino médio de Massachusetts em 2008, dois sites pessoais de profissionais de tecnologia da Polônia, wikis dedicadas a jogos e um site criado há cerca de duas décadas para entusiastas de softwares de edição de texto.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, afirmou ter encontrado informações relacionadas aos agentes em pelo menos dez sites. “Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás”, disse.
Agentes foram autorizados pela OpenAI a navegar pela internet em busca de informações para responder a perguntas de pesquisa, mas não deveriam publicar conteúdo – Imagem: Olhar Digital via ChatGPTLeia mais:OpenAI é pressionada por falta de transparênciaA OpenAI não explicou publicamente por que seus agentes usaram sites de terceiros como quadros de mensagens improvisados. A empresa também não respondeu diretamente às perguntas da Reuters sobre quantos sites foram utilizados ou por que manteve a atividade em segredo durante meses.Continua após a publicidadeEm comunicado, a OpenAI afirmou que está realizando uma análise mais ampla das atividades de seus agentes. Segundo a empresa, até agora não foram identificadas outras atividades com gravidade ou escala semelhantes ao ataque contra o Hugging Face.A companhia também disse que pretende publicar em breve uma estrutura para comunicar casos de “desalinhamento” — termo usado no setor para descrever comportamentos de sistemas de IA que fogem do esperado.A revelação ocorre depois de pesquisadores descobrirem que uma série de agentes da OpenAI havia tomado uma wiki em alemão e a transformado em uma plataforma improvisada de comunicação. O episódio não havia sido divulgado pela empresa até ser revelado pela Reuters.Sites afetados só descobriram os casos depoisAlguns operadores dos sites utilizados pelos agentes disseram à Reuters que não haviam sido procurados pela OpenAI.Continua após a publicidadeA Universidade de Toronto (Canadá), cujo serviço de encurtamento de links teria sido usado pelos agentes, afirmou que a OpenAI entrou em contato com a instituição depois que a Reuters apresentou suas descobertas. A Universidade Vanderbilt (EUA), que administra outro serviço semelhante supostamente utilizado pelos agentes, não respondeu aos pedidos de comentário.Helmut Leitner, desenvolvedor aposentado responsável pela hospedagem e pelo software de seis dos sites afetados, incluindo a wiki alemã que revelou o caso, também disse inicialmente que não havia recebido contato da OpenAI.Horas depois de a Reuters apresentar suas descobertas à empresa, porém, Leitner afirmou ter recebido um e-mail sem assinatura da OpenAI alertando sobre o incidente. Segundo ele, o conteúdo da mensagem ficou muito aquém do que esperava da empresa.Leitner afirmou ainda que o operador da wiki alemã precisou passar horas limpando o site depois da atividade dos agentes. Para ele, porém, a responsabilidade não deve ser atribuída à IA, mas às pessoas e organizações que estão por trás desses sistemas.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
