Acusado de assassinato usado como modelo na Shein: um lembrete dos riscos da IA

A imagem de Luigi Mangione, acusado do assassinato do diretor executivo (CEO) da UnitedHealthcare, começou a circular pela internet há alguns meses, tornando-se um ídolo estranho e inesperado pelo qual mulheres faziam fila na porta do tribunal.

O salto definitivo para a viralização aconteceu quando sua imagem foi projetada em uma casa noturna de Boston durante uma festa temática da Disney, enquanto tocava “He Could Be the One”, de Hannah Montana. Uma canção que fala sobre a emoção e a confusão que a protagonista sente ao perceber que alguém especial pode ser "o escolhido" para ela.

Esta semana, sua imagem apareceu em outro lugar inesperado como modelo de um produto, no site da Shein. Mas é impossível que Mangione tenha posado para esta campanha, pois ele está preso sem direito à fiança.

“A imagem foi compartilhada por um vendedor externo e foi removida imediatamente assim que foi identificada. A Shein aplica padrões rigorosos para todo o conteúdo da plataforma", explicou a empresa à FashionUnited. "Estamos realizando uma revisão completa, reforçando ainda mais nossos sistemas de controle e tomaremos as medidas necessárias contra o vendedor de acordo com nossas políticas", afirmaram.

Um deslize técnico que coloca em evidência os riscos da automação e a fragilidade dos sistemas de controle em plataformas com catálogos infinitos.

Um rosto na era da IA

Como é possível que a imagem de um acusado de assassinato termine como a de um modelo de catálogo? A resposta está nos sistemas de treinamento de inteligência artificial.. Quando um rosto se torna viral, sua presença em bancos de dados abertos, fóruns ou repositórios pouco regulamentados, e com os quais algumas IAs são treinadas, se multiplica A partir daí, ferramentas de baixo custo podem “aprender” a usar essas imagens sem levar em conta o contexto.

No caso da Shein, grande parte do conteúdo vem de vendedores terceirizados, que muitas vezes buscam atalhos tecnológicos para produzir grandes quantidades de material promocional, rapidamente. Por isso, é possível que um vendedor tenha usado uma ferramenta de IA de baixo custo, sem controlar o resultado final.

Embora a inteligência artificial traga vantagens inegáveis para o comércio e a moda, o setor deve apostar em soluções mais cuidadosas e transparentes para prevenir incidentes que possam prejudicar sua reputação. A H&M, por exemplo, recorreu ao uso de gêmeos digitais. Esses modelos digitais são criados a partir de pessoas reais que cedem — em troca de uma remuneração — o direito de recriar e explorar sua imagem de forma controlada. Esse sistema garante tanto os direitos dos modelos quanto a rastreabilidade dos conteúdos, mantendo a inovação sem perder o controle.

Por outro lado, a Desigual está desenvolvendo sua estratégia em conjunto com parceiros especializados.

Este artigo foi traduzido para português com o auxílio de uma ferramenta de IA.

A FashionUnited utiliza ferramentas de IA para acelerar a tradução de artigos (de notícias) e revisar as traduções, aprimorando o resultado final. Isso economiza o tempo de nossos jornalistas, que podem se dedicar à pesquisa e à redação de artigos originais. Os artigos traduzidos com o auxílio de IA são revisados e editados por um editor humano antes de serem publicados. Em caso de dúvidas ou comentários sobre este processo, entre em contato conosco pelo e-mail info@fashionunited.com