- Um diretor atlético de uma escola secundária foi preso depois que um deepfake do diretor da escola foi compartilhado online.
- A postagem Deepfake seguiu Eric Eiswert e postou comentários racistas e preconceituosos.
- As autoridades locais pediram mudanças na lei para proteger contra o uso indevido da tecnologia de IA.
O diretor atlético da escola secundária de Maryland, Dawson Darien, foi preso e acusado Perseguição e furtividade após IA Uma gravação de áudio detalhada de um diretor de escola contendo comentários racistas foi compartilhada online.
A gravação, postada nas redes sociais em janeiro, foi amplamente divulgada e as pessoas acreditaram que era a voz de Eric Eiswert. A polícia local disse.
Eiswert é o diretor da Pikesville High School, no subúrbio de Baltimore.
O áudio deepfake continha insultos contra estudantes negros, levando Eiswert a ser inundado de ameaças. O jornal New York Times.
“Acredita-se que o Sr. Darien, que era o diretor atlético da Pikesville High School, fez a gravação como vingança contra o Sr. Eiswert, que estava investigando o suposto uso indevido de fundos escolares”, disse a polícia em um comunicado compartilhado online. .
Darian enfrenta acusações de perseguição, roubo, interrupção de atividades escolares e retaliação contra uma testemunha.
Ele foi libertado sob fiança US$ 5.000 após uma audiência no tribunal na quinta-feira.
Deepfakes de IA são uma preocupação crescente
A polícia usou análise forense para determinar que a gravação foi feita usando IA.
“Com base numa extensa investigação, os detetives têm agora provas conclusivas de que a gravação não é autêntica. Como parte da investigação, os detetives solicitaram um investigador forense contratado pelo FBI para examinar as gravações”, disse a polícia.
Autoridades disseram em entrevista coletiva Acredita-se que o caso seja o primeiro no país. E estão exigindo mudanças na lei para atualizá-la com novas tecnologias.
“Precisaremos examinar as leis nos níveis estadual e federal para garantir que esta nova tecnologia e outras que estão por vir não possam ser usadas para prejudicar indivíduos e nossas comunidades”, disse o administrador do condado de Baltimore, Johnny Olszewski.
Os deepfakes estão se tornando mais difundidos à medida que os avanços na IA abrem novas maneiras para organizações e indivíduos serem expostos a atores mal-intencionados.
Existem preocupações sobre novas maneiras de lidar com esses deepfakes no local de trabalho. Uma empresa em Hong Kong foi fraudada em US$ 25 milhões por fraudadores que atacaram um funcionário usando deepfakes de colegas seniores. O FBI também alertou que mais pessoas estão usando a tecnologia para se passar por outra pessoa durante entrevistas de emprego.
Há também receios de que os deepfakes de IA possam ameaçar eleições livres e justas, à medida que se torna mais fácil para as pessoas espalharem desinformação.
No início deste ano, alguns eleitores de New Hampshire receberam apelos profundos do que pensavam ser Joe Biden a dizer-lhes para não votarem nas eleições presidenciais. A Casa Branca quer “verificar criptograficamente” os vídeos de Joe Biden para que os espectadores não confundam vídeos genuínos com deepfakes.