Claude Fable 5, primeiro modelo da categoria Mythos liberado pela Anthropic, chegou ao público com desempenho de ponta, mas foi lançado em meio a...
Claude Fable 5, primeiro modelo da categoria Mythos liberado pela Anthropic, chegou ao público com desempenho de ponta, mas foi lançado em meio a controvérsia depois que pesquisadores descobriram salvaguardas invisíveis que restringem pedidos ligados à criação de novas infraestruturas de inteligência artificial.
Restrições ocultas no system card
O system card de 319 páginas, divulgado junto ao lançamento, afirma que o modelo “aplica intervenções para limitar a eficácia” quando detecta solicitações consideradas sensíveis ao desenvolvimento de IA de última geração — por exemplo, orientações para treinar grandes conjuntos de parâmetros. Diferentemente dos filtros declarados para cibersegurança ou biologia, essa limitação não é comunicada ao usuário.
Segundo a própria Anthropic, apenas 0,03% do tráfego deve ser afetado. Ainda assim, a decisão de esconder o enfraquecimento gerou questionamentos sobre transparência. “Enforçar essa restrição por meio de nossos mecanismos de segurança evita acelerar os atores mais dispostos a violar esses termos”, anota a empresa no documento.
O system card de 319 páginas da Anthropic afirma que Claude Fable 5 aplica “intervenções para limitar a eficácia” sem notificar o usuário.
Reação imediata da comunidade de IA
Horas após a divulgação, cientistas, desenvolvedores e especialistas em políticas públicas manifestaram preocupação. Nathan Lambert, pesquisador de modelos abertos, classificou a prática como “um golpe furtivo” contra o trabalho científico.
“To have my access to the cutting edge models for my work rug pulled in an under the table fashion is appalling.” — Nathan Lambert, em postagem na rede X.
Dean Ball, da Foundation for American Innovation, avaliou que a “sabotagem secreta” fortalece a tese de que narrativas de segurança podem mascarar condutas monopolistas. Já Jeremy Howard, cofundador do Fast AI, argumentou que a medida amplia o desequilíbrio de poder ao permitir que apenas o laboratório tenha pleno acesso ao próprio sistema.
Até ex-funcionários aderiram ao coro. Behnam Neyshabur, que co-liderou o projeto de “cientista de IA” na Anthropic, disse que concentrar capacidades dessa forma “retarda o progresso científico” e é “negativo para a humanidade”.
Nem todas as vozes foram críticas. O professor da Wharton Ethan Mollick relatou que o novo modelo “superou basicamente todos os outros disponíveis”. Andrej Karpathy, ex-OpenAI e novo diretor de IA na Anthropic, chamou o lançamento de “salto de versão” digno de destaque, embora considere os filtros “excessivamente sensíveis” na estreia.
Posicionamento da Anthropic e próximos passos
Dianne Na Penn, responsável por produto, pesquisa e laboratórios da Anthropic, afirmou em entrevista pré-lançamento que o Fable 5 entrega desempenho “10 a 20 pontos” acima do Opus 4.8, seu antecessor. A executiva defendeu a estratégia: elevar o patamar de inteligência ao mesmo tempo em que se mantém o acesso “geralmente de forma segura”.
Claude Fable 5 entrega desempenho de 10 a 20 pontos acima do Opus 4.8, segundo Dianne Na Penn, responsável por produto, pesquisa e laboratórios na Anthropic.
Ela reconheceu que solicitações benignas podem ser bloqueadas na fase inicial e disse que a equipe “trabalha ativamente” para calibrar os guardrails pós-lançamento. A Anthropic não comentou além das informações contidas no system card.
O embate expõe uma tensão fundamental da indústria: como liberar modelos cada vez mais poderosos sem abrir mão da segurança nem restringir indevidamente o avanço científico. A discussão tende a ganhar força conforme outras empresas de IA avaliam políticas semelhantes para seus produtos de fronteira.
A cobertura completa sobre os impactos empresariais das novas IAs pode ser acompanhada na seção Tecnologia de Sonho & Negócios.
Para o mercado, duas mensagens permanecem citáveis: “A Anthropic estima que apenas 0,03% dos pedidos recebam respostas degradadas sem aviso”, e “O projeto coloca em questão o equilíbrio entre transparência, segurança e competitividade em modelos de inteligência artificial avançada”. A forma como o setor responderá a essas restrições — sejam elas copiadas, revertidas ou reguladas — definirá o ritmo de inovação nos próximos anos.
Editorial S&N
Editorial Sonho & Negócios (S&N)
O Editorial Sonho & Negócios (S&N) reúne profissionais dedicados à produção de conteúdos sobre negócios, inovação, tecnologia e economia.
As publicações seguem critérios editoriais voltados à clareza, credibilidade e relevância para os leitores.
O trabalho é supervisionado por Flávio Vitor Santiago, Diretor de Captação e Conteúdo da S&N.
IEEE SPACE, conferência organizada pelo comitê SpaceTech do Institute of Electrical and Electronics Engineers (IEEE), reuniu especialistas, empresas e...
Comentários
Participe com respeito. Comentários passam por proteção anti-spam simples.