IA deepfake: até onde é ético ir no campo da Inteligência Artificial?

O caso aconteceu em Espanha, mas é perfeitamente extensível a toda a Europa e também chegou à Consumers Trust. A criação de deepfakes através da Inteligência Artificial tem vindo a ganhar terreno online, abalando a segurança de organizações e a privacidade individual de famosos ou cidadãos comuns. São vários os casos denunciados, abalando a cibersegurança e deixando a descoberto a falta de legislação neste sentido. 

Sabes o que é um deepfake? Informa-te sobre esta nova – e fácil – forma de manipulação e adulteração de conteúdo que pode causar danos irreparáveis. 
 

Deepfake: sabes o que é?

A manipulação de factos na internet tem sido um dos maiores desafios para empresas, instituições e órgãos de comunicação social. Primeiro pelas fake news e agora por deepfake. 

Esta é uma das formas mais eficazes de produzir conteúdos digitais falsos, uma vez que permite substituir caras, voz ou mesmo o corpo criando, assim, situações falsas, mas muito credíveis. Através da Inteligência Artificial é possível chegar-se a deepfakes tão reais, que muitas vezes são impossíveis de detetar.  
 

O tema tem dado que falar em Espanha 

Recentemente, este tema deu que falar em Espanha quando um grupo de pais denunciou que mais de 20 estudantes relataram terem recebidos imagens de si próprias nuas, geradas por inteligência artificial. No início do ano letivo, mais de 20 raparigas de Almendralejo, uma cidade no sul de Espanha, receberam fotografias suas despidas nos seus telemóveis. As imagens foram roubadas das suas contas de Instagram, manipuladas através de Inteligência Artificial e partilhadas em grupo de Whatsapp. 

O caso chegou também ao Libro de Quejas e faz referência à aplicação ClothOff, com a qual foram geradas as imagens fake. 

“Se expresa profunda preocupación por la creación, distribución, uso y venta de inteligencia artificial (IA) que tiene la capacidad de desvestir a personas a partir de fotografías sin su consentimiento. Se considera que esta tecnología infringe gravemente la privacidad, la dignidad y el respeto de los derechos humanos.”.
 

O que prevê a legislação? 

Há cada vez mais casos de deepfake a serem denunciados e este tem sido um tema bem presente no que diz respeito à segurança dos consumidores e das organizações. Há, inclusive, várias empresas e start-ups a desenvolverem ferramentas nesse sentido, para identificarem fotos, áudios e vídeos adulterados por IA. No entanto, e no que toca ao consumidor, o caminho é mais longo e a lei ainda não prevê qualquer regulação deste tipo de atividade online. 

Será que os deepfakes podem ser punidos legalmente? De facto, existe uma lacuna legal aqui, uma vez que ainda não há uma definição concreta sobre o tema. De acordo com a lei de vários países da União Europeia, atualmente, uma imagem gerada por deepfake não é real, assim que não afeta a privacidade real da pessoa em questão. No entanto, os efeitos que tem na vítima podem ser graves e muito semelhantes aos que têm a circulação de uma foto real de nudez. 
 

Literacia digital é fundamental para identificar deepfakes

Há um longo caminho a ser feito em termos de cibersegurança coletiva e individual. As deepfakes são geradas, muitas vezes, através de roubo de dados e de identidade e estão a ser utilizadas para roubos em instituições, utilização e circulação de imagens de cariz sexual. 

Tornou-se tão barato e fácil manipular fotos que é necessário uma regulação e uma maior proteção de dados e imagens partilhadas online pelos usuários. Enquanto a legislação tenta adaptar-se, é importante dotar, sensibilizar e informar ao máximo os consumidores para estarem atentos a esta manipulação falsa de conteúdo que circula online e não caírem em burlas geradas através da IA. 

Já não basta ver para crer, e deves recolher o máximo de informação sobre o tema para não caíres em esquemas ou acreditares em tudo o que é divulgado online. E tão importante é teres informação sobre o tema, como denunciá-lo caso seja necessário. Se passares por uma situação semelhante, não deixes de denunciar no Portal da Queixa. A tua partilha irá ajudar e alertar os consumidores neste sentido.