O desenvolvimento da inteligência artificial (IA) não pode ser deixado exclusivamente sob o controle das grandes empresas de tecnologia. O alerta foi feito por Chris Olah, cofundador da Anthropic, durante um evento no Vaticano nesta segunda-feira (25). De acordo com informações da Reuters, o executivo defendeu a urgência de uma maior supervisão externa, envolvendo governos, líderes religiosos e a sociedade civil organizada.Continua após a publicidadeOlah participou da apresentação da primeira encíclica dedicada aos desafios da inteligência artificial. Sentado ao lado das autoridades católicas, o cofundador da empresa criadora do Claude afirmou que existe uma “possibilidade real” de a tecnologia substituir o trabalho humano em larga escala. Diante desse cenário, ele destacou que o suporte aos profissionais impactados se tornará um imperativo moral de proporções históricas.Pressões comerciais e conflitos de interesseO executivo admitiu abertamente que os principais laboratórios de IA do mundo operam sob fortes pressões comerciais, geopolíticas e pessoais. Segundo ele, esses fatores frequentemente entram em conflito com o que seria correto fazer para o bem comum da sociedade.Mesmo os pesquisadores mais bem-intencionados acabam sofrendo a influência dessas forças de mercado. É por essa razão que, conforme relatado à Reuters, Olah considera o escrutínio de agentes externos indispensável para guiar a tecnologia em uma direção segura.O evento marcou uma aproximação incomum entre o setor de tecnologia e a Igreja Católica, que vem tentando se posicionar como uma voz moral ativa diante dos rápidos avanços da IA.O único representante do setor no VaticanoA Anthropic foi fundada em 2021 por ex-funcionários da OpenAI (criadora do ChatGPT), que deixaram a antiga companhia justamente por temerem que o desenvolvimento de ferramentas estivesse avançando rápido demais, sem os devidos testes de segurança.Diferenciando-se de outras gigantes do setor, a Anthropic já enfrentou embates com a administração do presidente Donald Trump nos Estados Unidos ao insistir na implementação de barreiras de proteção. Essas travas limitam o uso de seus modelos de IA para fins militares, como o direcionamento autônomo de armas ou sistemas de vigilância doméstica.Questionado pela Reuters sobre o motivo de ser o único representante de peso da tecnologia convidado para o evento, Olah apontou seu histórico de dedicação à segurança dos sistemas e sua interlocução constante com mais de 15 religiões diferentes para debater os impactos éticos da IA.
Um momento assustador: as três prioridades urgentesOlah não escondeu sua preocupação com o ritmo atual das transformações e classificou o cenário atual como “um momento assustador”. Para o executivo, o público – especialmente os mais jovens – tem motivos legítimos para se preocupar com a velocidade e o poder dessa tecnologia.Para evitar que a situação fuja do controle, o cofundador da Anthropic listou três frentes prioritárias que exigem atenção imediata do mundo:
Desemprego em massa: a necessidade de criar redes de apoio para conter o deslocamento da força de trabalho humana.
Desigualdade global: o desenvolvimento da IA hoje está concentrado em um pequeno grupo de nações ricas, tornando urgente o debate sobre como compartilhar esses ganhos globalmente.
Opacidade dos sistemas: o desafio técnico, ainda sem solução definitiva, de compreender e interpretar o comportamento cada vez mais complexo e “invisível” dos modelos avançados.
