App Store e Play Store permitem acesso a apps de nudez por IA em teste com contas de adolescentes, mesmo com controles parentais

Contas configuradas para simular adolescentes de 13 anos conseguiram acessar aplicativos com recursos de nudez por inteligência artificial na App Store e na Play Store, inclusive com controles parentais ativados. Segundo reportagem do Tecmundo, o resultado faz parte de uma investigação do Tech Transparency Project (TTP), divulgada pelo The Guardian.

O que aconteceu: pesquisadores criaram quatro contas nos Estados Unidos e identificaram 135 aplicativos com funções para simular nudez ou inserir rostos em imagens de corpos nus, acessíveis aos perfis de teste.

Por que importa: a aprovação de um download não acompanha necessariamente todas as mudanças posteriores do aplicativo. A documentação da Apple informa que atualizações não geram um novo pedido no recurso Pedir para Comprar. O Google também informa que atualizações de aplicativos não precisam de nova autorização pelo Family Link.

O que muda para você: famílias precisam acompanhar também os aplicativos já instalados, além de configurar restrições etárias e aprovação de downloads. O estudo aponta falhas nessas barreiras, mas não demonstra que todos os controles parentais sejam inúteis nem reproduz testes com contas brasileiras.

Quatro contas simularam usuários de 13 anos

O TTP criou duas contas na loja da Apple e duas na plataforma do Google. Metade recebeu restrições de conteúdo por idade e exigência de autorização dos responsáveis para downloads.

Mesmo assim, os pesquisadores relataram acesso a aplicativos incompatíveis com a proteção esperada. O total de 135 corresponde aos programas identificados na investigação, não a um número de adolescentes atingidos.

Um dos casos envolveu um aplicativo de troca de rostos classificado como adequado a partir de quatro anos. Ao abrir o programa, a equipe encontrou funções para inserir rostos em conteúdo sexual.

A diferença entre a classificação exibida e os recursos disponíveis é um dos pontos centrais do levantamento. Um aplicativo pode aparentar ser apropriado na página da loja e oferecer funcionalidades que contradizem essa indicação.

Classificação etária e autorização de download cumprem funções diferentes

A classificação etária orienta quais aplicativos podem ser apresentados ou disponibilizados conforme as restrições escolhidas. Já a aprovação de download permite que um responsável avalie uma solicitação de instalação.

Essas duas barreiras não equivalem a uma revisão permanente de tudo o que o programa oferece. Se a classificação estiver incorreta ou o conteúdo mudar depois, a proteção pode deixar de corresponder ao funcionamento real do aplicativo.

Há ainda exceções previstas pelas próprias plataformas. Segundo o Google, aplicativos anteriormente instalados ou aprovados podem ser baixados novamente sem uma nova autorização. A Apple também informa que baixar novamente uma compra própria não gera outro pedido de aprovação.

Essas regras ajudam a entender por que revisar os aplicativos existentes é uma medida complementar. Elas, porém, não comprovam qual foi a causa de cada falha encontrada pelo TTP.

Apple e Google dizem ter tomado medidas

Questionadas sobre os resultados, as empresas apontaram classificações etárias incorretas feitas por desenvolvedores como uma possível explicação. Ambas afirmaram ter reforçado proteções e adotado medidas contra os aplicativos identificados.

A Apple declarou que proíbe aplicativos destinados a simular nudez e remove desenvolvedores que acrescentam essas funções depois da revisão inicial.

O Google informou que suas ações incluem suspender aplicativos que descumprem as regras e restringir buscas relacionadas a esse conteúdo.

As respostas também destacam a fiscalização de programas apresentados inicialmente como inofensivos, mas que passam a disponibilizar recursos proibidos após a aprovação. O material divulgado não permite concluir que todos os problemas encontrados tenham sido eliminados.

Quadro de serviço: como reforçar a proteção

• Revise as configurações: confira a idade cadastrada, as restrições de conteúdo e a exigência de aprovação de downloads na conta supervisionada.
• Confira os aplicativos instalados: observe as funções disponíveis e mudanças após atualizações, sem depender apenas da classificação indicada na loja.
• Combine as ferramentas: use as restrições de conteúdo do iPhone com o Pedir para Comprar; no Android, revise os controles e as aprovações pelo Family Link.
• Diante de um aplicativo inadequado: bloqueie ou remova o acesso e denuncie o programa à loja.
• Se houver imagem manipulada de alguém: não encaminhe o conteúdo; use os canais de denúncia da plataforma onde ele apareceu e procure apoio de um responsável de confiança quando houver adolescente envolvido.

O que o teste permite concluir

O levantamento documenta problemas nas condições examinadas, com contas de teste nos Estados Unidos. Ele não mede quantos adolescentes usam esses aplicativos nem estabelece que o mesmo catálogo e as mesmas falhas estejam presentes em todos os países.

Também é necessário separar a possibilidade de baixar um programa da comprovação de uso de todas as suas funções. Os resultados descritos se concentram no acesso e na presença de recursos inadequados para os perfis simulados.

Para as famílias, a medida prática é manter as proteções ativadas e revisar o que permanece disponível no aparelho. Para as plataformas, o problema apontado envolve tanto a avaliação inicial dos aplicativos quanto a fiscalização de alterações posteriores.

Fonte: Tecmundo

Leia também: Comprou app ou jogo por engano? Como pedir o dinheiro de volta na App Store e no Google Play; Amazon lança tablets Alexa com Android e Play Store, de US$ 229,99; Brasil fica de fora.