Especialista em inteligência artificial explica os riscos da utilização do aplicativo Lensa
Recentemente, o aplicativo Lensa ganhou notoriedade nas redes sociais, como uma verdadeira febre na internet. A ferramenta utiliza inteligência artificial (IA) na geração de avatares personalizados ultrarrealistas. Para criar os avatares, é necessário disponibilizar 10 a 20 fotos reais em ângulos e expressões distintas. Segundo a empresa responsável pelo aplicativo, Prisma Labs, mais de 4 milhões de pessoas em todo o mundo baixaram o app durante os primeiros cinco dias de dezembro deste ano. Porém, a dúvida que surge é se a ferramenta pode colocar os dados pessoais do usuário em risco. Paula Rodrigues, advogada especialista em IA, proteção de dados e sócia da Daniel Advogados, comentou sobre o assunto.
“Ao utilizar qualquer tipo de aplicativo, é necessário concordar com os termos de uso, documento que orienta o usuário e define responsabilidades com base no uso da plataforma, por exemplo. Nesse caso, o documento do Lensa prevê que o usuário ‘concede uma licença perpétua, revogável, não exclusiva, isenta de royalties, mundial, totalmente paga, transferível e sublicenciável para usar, reproduzir, modificar, adaptar, traduzir, criar trabalhos derivados e transferir seu conteúdo do usuário, sem qualquer compensação a você e sempre sujeito ao seu consentimento explícito adicional para tal uso quando exigido pela lei aplicável e conforme declarado em nossa Política de Privacidade’, indicando que referidas ações somente ocorrerão com o consentimento do usuário”, diz a especialista.
Paula afirma que o destaque é importante, pois embora revogável, a autorização ou consentimento permite que a empresa utilize livremente o que chama de “Conteúdo do Usuário”, ou seja, qualquer conteúdo produzido, criado, carregado, armazenado e compartilhado, inclusive fotos e vídeos, sem qualquer atribuição de responsabilidade.
A sócia também alerta sobre os resultados que o aplicativo pode trazer como: distorções da realidade, hiperssexualização e até alterações em traços de etnia. “No caso do LENSA, apesar de a política de privacidade conter disposições específicas sobre o tratamento dos dados fornecidos pelo usuário, o que chama maior atenção é o resultado que a ferramenta oferece: imagens que contêm determinadas distorções, hiperssexualizando pessoas ou alterando traços de sua etnia, por exemplo. Inclusive, já circulam comentários de usuários que apontam essas questões, até mesmo que o app não reconhece deficiências físicas para reprodução de avatares. Nesse sentido, os riscos vinculados a estes resultados podem ser de natureza discriminatória ilícita, em caráter de potencial exclusão de determinados públicos”, completa.
Apesar do aplicativo ser atrativo, justamente pela criação dos avatares, a discussão sobre a distorção da autoimagem segue em alta nas redes sociais, tendo em vista a popularização da IA e do Metaverso. “Sistemas sociais virtuais que excluem minorias e a distorção da autoimagem para aceitação social são elementos que amplificam o uso de ferramentas de IA, potencializando os viéses discriminatórios ilícitos. Por essa razão, reforça-se a necessidade de aplicação de medidas preventivas seguras e confiáveis em ferramentas como essa desde a sua concepção: determinar padrões diversos de treinamento, seguir padrões técnicos de testagem e amostragem, além de estudar e documentar riscos atrelados ao uso ético da IA, tudo como ponto de partida”, finaliza a advogada.
Autor: Paula Rodrigues- advogada especialista em IA, proteção de dados e sócia da Daniel Advogados.
