Líder de alinhamento da Anthropic afirma que há mais de 10% de chance de a IA matar toda a humanidade, acendendo debate global sobre segurança.
- Líder de alinhamento da Anthropic estima risco de extinção humana por IA em mais de 10% na próxima década
- Pesquisador Jacob Coxon deixou a Anthropic alegando que empresas estão ‘apostando com nossas vidas’
- CEO Dario Amodei propõe avaliadores independentes de segurança; Sam Altman (OpenAI) apoia a iniciativa
- Ex-presidente Obama pede que democratas tenham ‘plano muito claro’ sobre IA e diz já ter conversado com Amodei e Altman
O líder de alinhamento da Anthropic publicou nas redes sociais uma declaração que acendeu um debate global sobre segurança em inteligência artificial: a empresa acredita genuinamente que a IA pode matar todos os seres humanos, e ele pessoalmente estima essa probabilidade em mais de 10% na próxima década. A declaração veio logo após o pesquisador Jacob Coxon anunciar sua saída da Anthropic, alegando que as principais empresas de IA estão “apostando com nossas vidas”.
Coxon, que também já trabalhou na OpenAI, afirmou que as líderes do setor correm em direção a uma superinteligência autoaperfeiçoável sem os devidos cuidados. O líder de alinhamento da Anthropic compartilhou a publicação de Coxon no X e acrescentou a própria avaliação de risco, criando um efeito de “barril de pólvora” na comunidade de tecnologia.
“Nós realmente acreditamos, de forma genuína, que a IA poderia matar todos os humanos!”
Líder de alinhamento da Anthropic (tradução da publicação original em inglês)
O episódio ocorre em momento delicado para a Anthropic, que se prepara para abrir capital (IPO). Analistas e jornalistas questionaram como a empresa vai tratar o tema no documento S-1, obrigatório para o processo de abertura de capital nos Estados Unidos, uma vez que a posição institucional agora admite um risco existencial relevante.
Pesquisador da Anthropic pede demissão e alerta: IA pode matar a humanidade
Dario Amodei responde e o debate chega à política
Após a repercussão, o CEO da Anthropic, Dario Amodei, divulgou um plano para um desenvolvimento mais cauteloso da IA. A proposta inclui dar acesso a avaliadores independentes de segurança às empresas e aos modelos líderes do setor, além de criar padrões comuns de segurança entre as companhias. O CEO da OpenAI, Sam Altman, respondeu positivamente, comprometendo-se a também aceitar avaliadores independentes com acesso semelhante ao de funcionários.
O debate extrapolou o setor privado. O ex-presidente americano Barack Obama disse, em evento de arrecadação do Partido Democrata, que os democratas precisam fazer da IA uma de suas “agendas centrais” e ter “um plano muito claro” para lidar com os impactos econômicos e de segurança da tecnologia.
“Isso está se movendo muito rápido em mãos privadas, e se não tomarmos conta disso, acho que pode ser perigoso. Se tomarmos conta, acho que é benéfico. Genuinamente acredito que vai acelerar, por exemplo, o desenvolvimento de medicamentos de formas que podem nos ajudar a curar doenças.”
Barack Obama, ex-presidente dos Estados Unidos
Obama também afirmou ter se colocado à disposição como “caixa de ressonância” para executivos do setor, dizendo já ter conversado com os CEOs da Anthropic e da OpenAI. O presidente Donald Trump, por sua vez, disse que os Estados Unidos são “o país mais sofisticado do mundo” e que quer “manter dessa forma”, mas minimizou parte das preocupações ao mencionar “forças negativas” que, segundo ele, não deveriam pautar o assunto.
IA da Anthropic fugiu do sandbox e tentou burlar CAPTCHA por horas
No Brasil, o debate sobre regulação de IA ainda caminha em ritmo mais lento que nos Estados Unidos e na Europa. A pressão pública de pesquisadores, CEOs e ex-chefes de Estado por padrões de segurança tende a reforçar argumentos de parlamentares e entidades que defendem uma legislação brasileira mais firme sobre o tema, em discussão no Congresso Nacional. (Análise)
O próximo passo concreto apontado pelas fontes é a própria abertura de capital da Anthropic, cujo documento S-1 precisará refletir, pela primeira vez de forma oficial e regulatória, a posição da empresa sobre o risco existencial de seus próprios modelos.
Fontes: AI News & Artificial Intelligence | TechCrunch
