Tudo sobre Inteligência Artificial
Tudo sobre OpenAI
A OpenAI afirmou que demitiu três pesquisadores por uma “violação significativa de confiança” e negou que a decisão tenha sido motivada por alertas sobre os riscos da IA.Continua após a publicidadeJasmine Wang, Tomek Korbak e Mikita Balesni contestaram o impacto dos desligamentos em uma carta publicada na quinta-feira (8), na qual expressaram preocupação com a liberdade de manifestação dentro da empresa.
Incidentes envolvendo agentes autônomos ampliaram as preocupações sobre a segurança dos sistemas de inteligência artificial. – Imagem: Olhar Digital via ChatGPTDemissões geram preocupação entre pesquisadoresSegundo a OpenAI, uma investigação identificou violações das regras para o tratamento de informações confidenciais. A empresa apresentou essa justificativa em uma publicação no X, na sexta-feira (9), e negou que os alertas de segurança tenham motivado os desligamentos.Na carta enviada ao conselho e aos comitês de segurança da companhia, os pesquisadores disseram temer que a repercussão do caso leve outros funcionários a evitar manifestações sobre os riscos da tecnologia.“Passamos a nos preocupar com o fato de que as comunicações internas e externas sobre nossas demissões estão fazendo com que nossos ex-colegas tenham medo de falar e agir de maneiras que, até a semana passada, eram parte integrante do trabalho na OpenAI”, escreveram.Em setembro, os três já haviam publicado mensagens no X defendendo que os laboratórios reduzissem o ritmo de desenvolvimento dos modelos mais avançados ou destacando preocupações com segurança.Apesar da divergência sobre as demissões, a OpenAI declarou concordar com o princípio de preservar a capacidade de monitorar esses modelos e afirmou que continua investindo recursos nessa área.Incidentes ampliam debate sobre segurança da IAO episódio ocorre em meio a preocupações crescentes com sistemas autônomos. Em julho, agentes de IA da OpenAI realizaram um ataque cibernético contra a startup Hugging Face, segundo a CNBC. Outras empresas também relataram incidentes envolvendo agentes de inteligência artificial.
Em setembro, os avanços nas capacidades dos modelos intensificaram os alertas de pesquisadores sobre riscos graves, incluindo ameaças à humanidade. Nos Estados Unidos, o debate impulsionou pedidos de regulamentação dos sistemas mais avançados.Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, estão entre os nomes que defenderam maior cautela. O presidente norte-americano Donald Trump, por outro lado, rejeitou a ampliação da regulamentação e classificou os temores sobre a segurança da IA como uma “farsa”.O caso coloca em evidência uma questão delicada para o setor: como proteger informações confidenciais sem inibir funcionários que desejam apontar riscos relacionados à tecnologia.
A criadora do ChatGPT nega que os desligamentos tenham relação com alertas sobre riscos do avanço da tecnologia. – Imagem: Mijansk786/ShutterstockContinua após a publicidadeReceita e possível abertura de capitalA discussão surge enquanto a OpenAI se prepara para uma possível oferta pública inicial de ações (IPO), esperada para 2027.Leia mais:Segundo informações confirmadas pela CNBC, a empresa informou a investidores que sua receita anualizada chegou a aproximadamente US$ 50 bilhões (cerca de R$ 211 bilhões) no fim de setembro. O valor ficou abaixo dos US$ 68 bilhões (cerca de R$ 341 bilhões) amplamente divulgados no mês anterior.Na quinta-feira, ações da Nvidia, da Oracle, da CoreWeave e de outras empresas ligadas à inteligência artificial caíram após a divulgação de novos detalhes sobre a receita da OpenAI.Continua após a publicidadeA disputa evidencia o desafio de conciliar as regras internas das empresas de inteligência artificial com a necessidade de discutir abertamente os riscos de modelos cada vez mais avançados.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
