O Grok, chatbot de inteligência artificial do X, antigo Twitter, está no centro de uma nova polémica a nível global. Nas últimas semanas, utilizadores conseguiram que a plataforma gerasse imagens sexualizadas a partir de fotografias de terceiros, incluindo menores.
José Moreira, professor do departamento de Direito da Universidade Portucalense e especialista em Direito Digital, descreve a situação como “problemática”, uma vez que sendo uma plataforma de acesso geral por parte dos utilizadores online, “transporta risco sistémico, ao permitir a criação desse tipo de conteúdos completamente descabidos”.
Além da situação agora reportada, o Grok foi responsável por produzir textos de apologia e elogio à personalidade e opções políticas de Hitler, bem como criou declarações antissemitas e racistas.
A União Europeia já tem regulamentos como o Digital Services Act, que responsabiliza as plataformas por conteúdos ilícitos, mas ainda não existe uma norma penal específica para deepfakes pornográficos em Portugal, explica o docente ao podcast “O Futuro do Futuro”, do Expresso. “Estamos perante uma situação bastante complexa que deverá ser tida em consideração daqui para a frente”, alerta o especialista.
Saiba como se pode defender, e o que prevêem os enquadramentos legais europeu e português nestas situações, neste episódio extra d'O Futuro do Futuro, disponível nos sites do Expresso, da SIC e da SIC Notícias e nas principais plataformas de podcasts.
“É proibido, mas pode-se fazer desde que pague”
Depois da polémica, o X anunciou que apenas contas premium podem pedir ao Grok para gerar imagens. “Ao permitir a criação deste tipo de conteúdo através de contas pagas, quer dizer, é proibido, mas pode-se fazer desde que pague”, critica José Moreira.
“Temos de garantir a autenticidade de quem está por detrás de um determinado perfil”
Para garantir segurança e fiabilidade nas redes sociais, o especialista defende medidas mais rigorosas para autenticação dos utilizadores: “Todos nós temos de ter a garantia da autenticidade de quem está por trás de um determinado perfil. Caso contrário, continuaremos a ter problemas estruturais na regulação da internet”, afirma o docente da Universidade Portucalense.