Erro de inteligência artificial leva estudantes a processar empresa após confundir salgadinho com arma
Quatro estudantes de Maryland processam empresa e polícia após sistema de IA confundir pacote de Doritos com arma de fogo.
Quatro estudantes e ex-alunos de uma escola de ensino médio de Maryland, nos Estados Unidos, entraram com uma ação na Justiça após serem abordados e detidos por policiais armados. O caso começou quando um sistema de segurança baseado em inteligência artificial identificou, por erro, um pacote de Doritos como uma arma de fogo.
A ação é movida contra a Omnilert, empresa dona da ferramenta, e também contra a polícia do condado de Baltimore, o conselho de educação, agentes que participaram da abordagem e o diretor da escola.
Os jovens integravam o time de futebol americano da instituição. Segundo o relato apresentado à Justiça, o episódio ocorreu em outubro de 2025, depois de um treino, quando o técnico distribuiu pacotes de salgadinho aos atletas. Um dos estudantes pegou alguns pacotes e se reuniu com amigos em uma área próxima às mesas de piquenique para esperar uma carona.
Foi nesse momento que seis viaturas chegaram ao local com as luzes de emergência ligadas. De acordo com a ação, os policiais sacaram as armas e mandaram os adolescentes levantar as mãos. Em seguida, eles foram obrigados a se ajoelhar, foram algemados e revistados.
Os estudantes afirmam que ficaram em choque e temeram pela própria vida durante a abordagem. Ainda segundo o relato, um dos policiais comentou ao deixar o local que a situação poderia ter sido muito pior se os jovens tivessem tentado fugir.
De acordo com o processo, o software classificou o pacote de salgadinho como arma de fogo com 90% de confiança. A tecnologia analisa imagens de câmeras de segurança para identificar possíveis armas.
A ação também questiona a eficácia do sistema. Embora a empresa apresente a ferramenta como confiável, o documento cita um levantamento do gabinete do inspetor-geral de educação de Maryland, segundo o qual mais de 99% dos alertas emitidos nas escolas públicas do condado de Baltimore eram falsos positivos e não justificavam o envio de policiais.
Em declaração anterior, um porta-voz da Omnilert disse que a empresa analisava o processo e lamentava o medo causado aos estudantes e às famílias. “Entendemos por que querem respostas”, afirmou. A empresa, a polícia, o conselho de educação e o diretor não responderam de imediato aos pedidos de comentário. Um representante do condado disse que o distrito não pode comentar um processo judicial em andamento.
A ação ainda apresenta mensagens trocadas pelo diretor da escola com outros administradores. Segundo os estudantes, ele fez comentários de deboche sobre o episódio, acompanhados de emojis de rostos chorando de rir, e não pediu desculpas aos jovens.
O caso se soma a discussões sobre o uso de sistemas automatizados de vigilância em escolas e sobre a confiabilidade dos alertas que eles emitem. As alegações ainda não foram analisadas pela Justiça e precisam ser comprovadas no processo.


