1 de 2 Os v\u00eddeos de IA geralmente n\u00e3o se parecem em nada com a pessoa real \u2014 Foto: TikTok <\/p>\n
Os v\u00eddeos de IA geralmente n\u00e3o se parecem em nada com a pessoa real \u2014 Foto: TikTok <\/p>\n
Pais enlutados manifestaram repulsa por uma tend\u00eancia macabra do TikTok<\/a> em que intelig\u00eancia artificial \u00e9 usada para criar v\u00eddeos que retratam crian\u00e7as v\u00edtimas de assassinato. <\/p>\n Os v\u00eddeos \u2013 feitos sem o consentimento dos familiares \u2013 mostram vers\u00f5es toscamente animadas de crian\u00e7as, algumas delas beb\u00eas, contando como foram mortas. <\/p>\n Desde abril, muitos desses v\u00eddeos gerados por computador foram postados no TikTok<\/a>, embora a empresa tenha anunciado a proibi\u00e7\u00e3o de vers\u00f5es de IA de menores de idade em mar\u00e7o. <\/p>\n No entanto, uma investiga\u00e7\u00e3o da BBC encontrou evid\u00eancias que indicam que pode haver confus\u00e3o entre os funcion\u00e1rios do TikTok<\/a> sobre a pol\u00edtica da plataforma. <\/p>\n Um moderador de conte\u00fado do TikTok<\/a> disse \u00e0 BBC que quatro meses ap\u00f3s a proibi\u00e7\u00e3o a empresa ainda n\u00e3o o havia informado sobre a mudan\u00e7a nas regras. <\/p>\n Alguns v\u00eddeos de v\u00edtimas permaneceram na plataforma por v\u00e1rios meses, outros receberam milh\u00f5es de visualiza\u00e7\u00f5es. <\/p>\n Familiares enlutados em v\u00e1rios pa\u00edses falaram sobre as vers\u00f5es de IA de seus entes queridos falecidos que apareceram online. <\/p>\n A baronesa Beeban Kidron, membro independente da C\u00e2mara dos Lordes do Parlamento brit\u00e2nico, diz que os v\u00eddeos podem ser particularmente perturbadores para as fam\u00edlias enlutadas porque apresentam simula\u00e7\u00f5es dos seus familiares falecidos contando sua pr\u00f3pria hist\u00f3ria. <\/p>\n "Se voc\u00ea \u00e9 algu\u00e9m que estava ligado a essa crian\u00e7a, especialmente um dos pais ou um membro da fam\u00edlia, \u00e9 uma agress\u00e3o, uma agress\u00e3o emocional", disse ela. <\/p>\n 'Agress\u00e3o das piores'N\u00e3o demorou muito para que esses v\u00eddeos come\u00e7assem a viralizar e os parentes de algumas das crian\u00e7as mortas come\u00e7assem a se manifestar. Uma das primeiras foi uma canadense chamada Am\u00e9lie Lemieux. <\/p>\n Em julho de 2020, suas filhas \u2013 Romy, 6, e Norah, 11 \u2013 foram assassinadas por seu ex-marido, que depois se suicidou. <\/p>\n Em abril deste ano, Lemieux ficou horrorizada quando recebeu um TikTok<\/a> que apresentava uma vers\u00e3o feita com IA de Norah falando sobre os assassinatos. <\/p>\n "\u00c9 uma agress\u00e3o das piores que voc\u00ea possa imaginar", disse Lemieux. <\/p>\n "N\u00e3o consegui assistir at\u00e9 o final, e meu irm\u00e3o tamb\u00e9m n\u00e3o. Ele estava gritando para que parasse." <\/p>\n Am\u00e9lie Lemieux estava especialmente preocupada com o fato de que suas sobrinhas e sobrinhos pudessem encontrar aleatoriamente o v\u00eddeo de seu primo morto enquanto navegavam pelo TikTok<\/a>. <\/p>\n Embora muitas pessoas tenham denunciado o v\u00eddeo ao aplicativo, ele permaneceu online. Eventualmente, depois que Lemieux deu uma s\u00e9rie de entrevistas relatando o qu\u00e3o perturbada ficou com o v\u00eddeo, a conta an\u00f4nima que o postou foi exclu\u00edda. <\/p>\n Am\u00e9lie Lemieux n\u00e3o conseguiu descobrir quem criou o v\u00eddeo, mas est\u00e1 chocada com as a\u00e7\u00f5es. <\/p>\n "\u00c9 incrivelmente chocante algu\u00e9m usar algo t\u00e3o perturbador, algo que nos deixar\u00e1 incompletos pelo resto das nossas vidas", disse ela. <\/p>\n "Tudo o que eles querem s\u00e3o visualiza\u00e7\u00f5es, curtidas, compartilhamentos. E as pessoas que deixam coment\u00e1rios. Pessoalmente, n\u00e3o posso perdoar isso." <\/p>\n Nova tecnologiaA cria\u00e7\u00e3o destes v\u00eddeos foi poss\u00edvel gra\u00e7as \u00e0 crescente acessibilidade online de softwares de IA. <\/p>\n Agora \u00e9 poss\u00edvel criar e animar facilmente uma figura humana b\u00e1sica e fornecer um script com as falas, que ser\u00e3o reproduzidas com uma voz gerada por computador. <\/p>\n Alguns dos rostos nos v\u00eddeos de v\u00edtimas n\u00e3o se parecem com a pessoa real. Mas outros s\u00e3o baseados em fotos genu\u00ednas. <\/p>\n As pessoas que fazem esses v\u00eddeos tendem a tentar permanecer an\u00f4nimas. Mas a BBC identificou um criador como um estudante em Londres chamado Ritul. <\/p>\n Em seu canal no YouTube ele tem promovido o que chama de v\u00eddeos de "conta\u00e7\u00e3o de hist\u00f3rias" como forma de atrair rapidamente seguidores no TikTok<\/a>. <\/p>\n "Ganhei milhares e milhares de seguidores postando v\u00eddeos contando hist\u00f3rias apenas usando IA", disse ele em um v\u00eddeo. "Ganhei 47.000 seguidores, e isso foi apenas em menos de tr\u00eas semanas." <\/p>\n A BBC entrou em contato com Ritul, mas ele n\u00e3o quis comentar o caso. Sua conta no TikTok<\/a> foi exclu\u00edda. <\/p>\n 2 de 2
V\u00eddeos de IA de James Bulger apareceram em v\u00e1rios idiomas \u2014 Foto: PA MEDIA <\/p>\n V\u00eddeos de IA de James Bulger apareceram em v\u00e1rios idiomas \u2014 Foto: PA MEDIA <\/p>\n Os v\u00eddeos do TikTok<\/a> precisam chamar a aten\u00e7\u00e3o em segundos ou os usu\u00e1rios continuar\u00e3o a rolar. Por isso, criadores como Ritul se concentraram em fazer v\u00eddeos sobre os casos mais extremos ou de maior visibilidade. <\/p>\n As hist\u00f3rias de algumas crian\u00e7as t\u00eam sido objeto de m\u00faltiplos v\u00eddeos em v\u00e1rios idiomas, incluindo portugu\u00eas, espanhol, franc\u00eas, alem\u00e3o, italiano e polon\u00eas. <\/p>\n Ao longo de um per\u00edodo de dois meses, a BBC descobriu 170 v\u00eddeos diferentes do TikTok<\/a> apresentando vers\u00f5es de IA de James Bulger, o menino brit\u00e2nico de dois anos que foi assassinado por duas crian\u00e7as mais velhas em Merseyside, Inglaterra, em 1993. <\/p>\n Resposta do TikTokO fen\u00f4meno virou manchete na Gr\u00e3-Bretanha em julho, quando a m\u00e3e de James, Denise Fergus, disse a um jornal que os v\u00eddeos com imagens de seu filho eram "mais que doentios". <\/p>\n O TikTok<\/a> realizou uma remo\u00e7\u00e3o em massa dos v\u00eddeos e emitiu um comunicado que dizia: "N\u00e3o h\u00e1 lugar em nossa plataforma para conte\u00fado perturbador desta natureza. Continuamos a remover conte\u00fado desta natureza \u00e0 medida que o encontramos". <\/p>\n Os v\u00eddeos de James removidos inclu\u00edam dois em vietnamita que, somados, tiveram quatro milh\u00f5es de visualiza\u00e7\u00f5es. <\/p>\n A BBC conversou com um moderador de conte\u00fado do TikTok<\/a> no Vietn\u00e3, que concordou em ser entrevistado sob condi\u00e7\u00e3o de anonimato. <\/p>\n Ele disse que duas semanas ap\u00f3s a remo\u00e7\u00e3o dos v\u00eddeos a empresa ainda n\u00e3o havia informado oficialmente que esse tipo de conte\u00fado estava proibido. <\/p>\n Ele disse \u00e0 BBC que acredita que os v\u00eddeos foram liberados pelas regras do TikTok<\/a>, que permitem que sobreviventes de abuso compartilhem suas hist\u00f3rias. <\/p>\n Ent\u00e3o, os funcion\u00e1rios do TikTok<\/a> n\u00e3o s\u00e3o informados claramente sobre qual \u00e9 realmente a pol\u00edtica da empresa? O TikTok<\/a> n\u00e3o respondeu especificamente a esse ponto quando abordamos a empresa para comentar. <\/p>\n Mas deixou claro que o moderador errou ao sugerir que esses v\u00eddeos poderiam ser permitidos na plataforma como experi\u00eancias de sobreviventes \u2013 porque s\u00e3o imagens geradas por computador de crian\u00e7as mortas, em vez de experi\u00eancias genu\u00ednas de sobreviventes. <\/p>\n Ainda \u00e9 f\u00e1cil encontrar esse tipo de v\u00eddeo no aplicativo. Mas o TikTok<\/a> diz que sempre foi muito aberto sobre o fato de que n\u00e3o consegue monitorar todo o conte\u00fado dispon\u00edvel. <\/p>\n Reportagem adicional de Thuong Le da BBC News Vietn\u00e3 <\/p>\n