Um professor de educação física, Dazhon Darien, de uma escola secundária no condado de Baltimore (Pikesville High School) foi preso sob a acusação de usar um clonagem de voz baseado em inteligência artificial para enquadrar o diretor de sua escola, Eric Eiswert.

Darien supostamente divulgou uma gravação fabricada nas redes sociais, contendo comentários racistas e anti-semitas pelo diretor; comentários feitos com uma IA não especificada. Para piorar a situação, o ex-diretor atlético supostamente usou computadores da escola para criar o áudio em questão.

O homem foi posteriormente preso por várias outras acusações, enquanto o Diretor Eiswert investigava um possível má gestão de fundos escolares no qual Darien estaria envolvido, e que também seria o motivo da criação do áudio em questão.

Além desta história em si, fica claro que se trata de um exemplo claro de como a facilidade com que a inteligência artificial está colocando nas mãos de mais pessoas ferramentas que, até um ano atrás, exigiam habilidades muito específicas tem uma desvantagem.

Não é por acaso que a OpenAI decidiu não tornar público o Voice Engine, sua plataforma que seria capaz de clonar qualquer voz em poucos segundos. Mas é isso apenas uma gota no oceano. Claro também é que criar imagens falsas é sempre mais fácil, sem falar em texto e, em breve, também vídeos.

O problema das notícias falsas do deepfake, e tudo o que contém a palavra “falso” é, por enquanto, parte integrante da inteligência artificial generativa. Ainda não se sabe se e como a situação irá aumentar ou será resolvida, mas a escalada poderá ser dramática.