Pesquisador deixa a Anthropic e adverte que IA com capacidade de auto-aperfeiçoamento pode representar risco de extinção para a humanidade.
- Pesquisador pediu demissão da Anthropic e emitiu alerta público sobre riscos existenciais da IA
- Aviso foca em sistemas com capacidade de auto-aperfeiçoamento, que melhoram a si mesmos sem intervenção humana
- A Anthropic é fundada com foco em segurança de IA, o que torna a saída ainda mais emblemática
- Episódio reacende debate global sobre limites do desenvolvimento acelerado de inteligência artificial
Ryan Greenblatt, pesquisador da Anthropic, deixou a empresa com um aviso público contundente: sistemas de inteligência artificial capazes de se aprimorar sozinhos representam um risco existencial para a humanidade. A declaração de saída circulou amplamente no setor de IA, sendo citada em publicações especializadas como a Ars Technica e gerando reações entre profissionais da área.
Segundo a reportagem da Ars Technica, Greenblatt deixou a Anthropic acompanhado de um alerta direto sobre os perigos de sistemas com capacidade de auto-aperfeiçoamento, ou seja, modelos que conseguem modificar e melhorar seu próprio código ou raciocínio sem intervenção humana constante.
“Nós realmente acreditamos, com toda a seriedade, que a IA pode matar todos os humanos!”
Ryan Greenblatt, ex-pesquisador da Anthropic
A Anthropic é uma das principais empresas de segurança em IA do mundo, fundada por ex-integrantes da OpenAI com foco declarado em desenvolvimento responsável. O fato de um de seus próprios pesquisadores sair com esse tipo de alerta é considerado significativo justamente porque a empresa já parte de uma postura reconhecidamente cautelosa em relação aos riscos da tecnologia.
OpenAI, Google e mais de 100 empresas pedem ação contra IA fora de controle
A saída coloca em evidência uma tensão crescente dentro do próprio campo de segurança em IA: até que ponto é possível trabalhar no avanço de sistemas potencialmente perigosos acreditando que isso é a melhor forma de controlá-los?
Anthropic unifica memória do Claude entre chat e Cowork
Análise: No Brasil, o debate sobre regulação de IA avança no Congresso, e episódios como este tendem a alimentar discussões sobre quais salvaguardas devem ser exigidas de empresas que desenvolvem modelos de grande escala. Reguladores europeus já citaram casos similares de alertas internos ao justificar propostas de maior escrutínio sobre laboratórios de IA de fronteira, e declarações de insiders de empresas do porte da Anthropic tendem a ser incorporadas a esse tipo de argumentação por legisladores e órgãos reguladores, inclusive no Brasil.
A Anthropic não se pronunciou publicamente sobre a saída de Greenblatt até a publicação desta reportagem. Resta saber se a empresa responderá às perguntas que o episódio levanta sobre sua cultura interna de segurança: por que um pesquisador dedicado ao tema concluiu que não era mais possível trabalhar ali?
Fontes: AI – Ars Technica
