Startup Abliteration.ai comercializa modelos de IA sem travas de segurança, gerando alerta de especialistas sobre riscos de uso para ataques e bioameaças.
- Abliteration.ai oferece acesso via browser e API a modelos open-weight sem restrições de segurança, incluindo o GLM-5.3 da Z.ai
- Em testes, o modelo forneceu instruções para roubo de senhas e cultivo de patógenos perigosos em casa
- A empresa se sustenta com receita de clientes e tem acordos com grandes provedores de nuvem, sem capital de risco até agora
- Especialistas pedem que governos exijam classificadores de conteúdo perigoso e verificação de identidade em provedores de GPU
A startup Abliteration.ai transformou em serviço comercial a prática de remover as restrições de segurança de modelos de IA de código aberto, oferecendo acesso via navegador ou API a versões modificadas de modelos populares, incluindo o GLM-5.3 da Z.ai. A empresa, incorporada oficialmente em março, reduz a fricção técnica para quem antes precisaria baixar os modelos e arcar com a infraestrutura de computação para rodá-los.
Em testes realizados pela redação do TechCrunch, foi possível criar uma conta gratuitamente e, em minutos, obter do modelo instruções para roubar senhas salvas no Chrome e um protocolo detalhado para cultivar patógenos humanos perigosos em casa. Ambas as solicitações foram atendidas sem resistência.
O cofundador Devon, que pediu para não ter o sobrenome divulgado por ainda trabalhar em outra empresa, afirma que o objetivo é viabilizar trabalhos de “ofensiva cibernética, red-teaming e testes de agentes” que outros modelos recusam. O red-teaming é uma técnica de segurança em que especialistas simulam ataques para identificar vulnerabilidades de sistemas.
Instinct, o assistente de IA que preocupa usuários com privacidade
“Você pode digitar literalmente qualquer coisa aqui, e ele vai obedecer. Quando as pessoas falam em remover as travas dos modelos de IA, é exatamente isso de que estamos falando… Eu espero que comecemos a ver modelos abliterados sendo usados para causar dano em breve.”
Andrew Yoon, chefe de pesquisa da CivAI
A técnica de abliteração (do inglês abliteration), que consiste em eliminar a tendência do modelo de recusar pedidos prejudiciais, já existe há anos no ecossistema de código aberto. A plataforma Hugging Face hospeda milhares de modelos abliterados. O que a Abliteration.ai faz é transformar essa prática de nicho em um serviço comercial pronto para uso, sem exigir conhecimento técnico avançado do usuário.
A empresa afirma ter fechado acordos com grandes provedores de nuvem e se sustenta exclusivamente com receita de clientes, sem capital de risco, embora esteja em conversas para captar investimentos. A plataforma oferece uma camada de moderação para que os próprios clientes adicionem as restrições que desejarem, mas as práticas de verificação de identidade (KYC, sigla para Know Your Customer) são mínimas: o único dado coletado é o cartão de crédito usado no pagamento.
“Você não quer ser a pessoa responsável por alguém fazer algo louco… então onde você traça a linha do que é sua responsabilidade como empresa? Ainda estamos no processo de definir isso.”
Devon, cofundador da Abliteration.ai
Regulação como resposta possível
Especialistas ouvidos pelo TechCrunch concordam que é praticamente impossível impedir a abliteração de modelos de pesos abertos. Andrew Yoon, da organização sem fins lucrativos CivAI, defende que governos exijam que provedores utilizem classificadores para detectar e bloquear atividades relacionadas a ciberataques e bioarmas, e que empresas que alugam acesso direto a GPUs avançadas sejam obrigadas a verificar a identidade dos clientes.
OpenAI, Google e mais de 100 empresas pedem ação contra IA fora de controle
Análise: Para o Brasil, o cenário é relevante especialmente no contexto da regulação de IA em discussão no Congresso. Serviços como o da Abliteration.ai podem ser acessados de qualquer lugar com conexão à internet, o que torna a fiscalização por fronteiras nacionais insuficiente sem cooperação internacional. A pergunta que o caso coloca para legisladores é se a facilidade de acesso a modelos sem restrições aumenta ou reduz a segurança coletiva na rede.
Devon diz estar trabalhando para implementar novas restrições voltadas a prevenir violência, mas sem prazo definido. O debate sobre até onde vai a responsabilidade de uma plataforma que vende ausência de limites deve se intensificar à medida que modelos mais capazes forem lançados com pesos disponíveis para download.
Fontes: AI News & Artificial Intelligence | TechCrunch
