xAI, empresa de inteligência artificial controlada por Elon Musk, entrou com ação judicial nos Estados Unidos contra Terry Wayne Harwood, morador da Carolina do Sul. A companhia afirma que o réu utilizou o chatbot Grok para gerar material de abuso sexual infantil (CSAM) e distribuir as imagens, violando frontalmente as diretrizes internas da plataforma.
Segundo a petição protocolada, Harwood “deliberadamente burlou as salvaguardas do Grok, alterou imagens não consensuais e produziu CSAM”, conduta que, além de ilegal, fere os termos de uso impostos pela xAI. A denúncia foi antecipada pela agência Reuters em 15/07/2026.
Harwood já havia sido preso em fevereiro sob suspeita de posse e distribuição de material semelhante e responde a oito acusações criminais de natureza grave. A xAI sustenta que “ao menos parte” das imagens reunidas na investigação criminal teria sido criada ou manipulada por meio do Grok, evidenciando a quebra de barreiras de segurança da ferramenta.
Para contextualizar o leitor sobre outras iniciativas do setor, a editoria de Inteligência Artificial da S&N reúne matérias sobre riscos e avanços das plataformas generativas em páginas especializadas.
Detalhes da ação
Harwood “knowingly and intentionally used Grok to circumvent safeguards, alter nonconsensual images, and generate and distribute CSAM,” diz o processo.
O documento acusa o réu de contornar filtros de segurança incorporados ao modelo de linguagem. A empresa alega danos à reputação e pede medidas cautelares para impedir que Harwood acesse qualquer produto xAI no futuro, além de indenização financeira cujo valor não foi revelado.
Implicações para o setor de IA
Na leitura do Editorial S&N, o caso escancara a tensão entre inovação e responsabilidade. Embora grandes modelos generativos prossigam avançando em velocidade recorde, incidentes como este alimentam pressões regulatórias e podem acelerar a exigência de auditorias externas sobre mecanismos de contenção de conteúdo ilegal.
Empresas rivais — de startups a gigantes de tecnologia — acompanham com atenção, pois decisões judiciais que responsabilizem provedores pela produção dos usuários podem redefinir padrões de compliance em IA. Além disso, o histórico criminal de Harwood reforça o debate sobre a necessidade de checagens de antecedentes em programas de acesso a APIs sensíveis.
A ação da xAI será analisada em tribunal federal; ainda não há data para a primeira audiência. Enquanto isso, a defesa de Harwood não se manifestou publicamente nos autos disponíveis.
Se confirmado que as imagens apreendidas foram geradas ou alteradas pelo Grok, o processo pode virar jurisprudência sobre a responsabilização de usuários — e, indiretamente, das plataformas — na produção de conteúdo ilícito via inteligência artificial.
Editorial S&N acompanhará os desdobramentos e seus impactos para desenvolvedores, investidores e formuladores de políticas públicas no ecossistema de IA.
Comentários
Participe com respeito. Comentários passam por proteção anti-spam simples.