Internet u napadu jer korisnik 4Chan koristi AI simulator glasa za lažiranje glasa Emme Watson, tjera je da čita Hitlerovu autobiografiju
Bivši zaposlenici Googlea i Palantira zajedno su pokrenuli startup Elevenlabs, koji je imao za cilj stvoriti visokokvalitetne zvučne duboke lažne slike slavnih putem svog alata za kloniranje glasa pomoću umjetne inteligencije. Ali njihovo lansiranje beta verzije ubrzo se izjalovilo jer su mnogi zlorabili glasove slavnih osoba, uključujući Emmu Watson, putem alata za kloniranje glasa pomoću umjetne inteligencije.
Mnogi obožavatelji ostali su razbješnjeni neetičkom i nemoralnom upotrebom AI alata nakon što su neki trolovi zlorabili njihove omiljene glasove slavnih kako bi prenijeli nečuvene komentare. No startup je uvjerio sve da će promijeniti svoj model kako bi izbjegli daljnje probleme.
Obožavatelji razbjesnili nakon što je korisnik 4Chan zloupotrijebio glas Emme Watson putem AI alata
Uvođenje AI alata za kloniranje glasa iz Elevenlabsa zapalilo je internet nakon što su brojni trolovi iskorištavali korištenje ovog besplatnog alata. Iako su mnogi koristili softver za stvaranje korisnog sadržaja, dio interneta zlorabio je alat kako bi slavne osobe izbacio rasne uvrede i nečuvene komentare, a zlouporaba Emme Watson glas je bio posljednja kap.
Nedavno. Matična ploča prijavila je ekstremnu zlouporabu AI softvera za stvaranje uvredljivog dubokog lažnog zvuka. Ali kap koja je prelila čašu bio je korisnik 4Chana, koji je napravio isječak Harry Potter zvijezda Emma Watson čita moja borba , autobiografija nacističkog diktatora Adolfa Hitlera.
Obožavatelji su bili razbješnjeni ovom neetičkom upotrebom softvera o Emmi Watson i drugim slavnim osobama uključujući Joea Rogana, Robina Williamsa itd. Elevenlabs, koji je tehnologiju učinio dostupnom javnosti, pozabavio se ovim rastućim problemom i obećao da će se boriti protiv zlouporaba njihovog alata za kloniranje glasa.
Također pročitajte: Redatelj 'Zatočenika iz Azkabana' zamolio je trio Harryja Pottera da napišu esej o svom karakteru - Emma Watson napisala je 16 stranica, Daniel Radcliffe je imao 1 stranicu sažetka, Rupert Grint nije napisao niti jedan
Elevenlabs obećava da će izbjegavati daljnju zlouporabu AI alata
Startup je bio oduševljen pozitivnim odgovorom i na njih na početku, jer su mnogi koristili AI alat za kloniranje glasa za zdravo stvaranje. No tvrtka se ubrzo suočila s problemom nakon što su trolovi počeli iskorištavati softver u opake svrhe. Elevenlabs je uvjerio internet da pomno istražuju stvar i pronalaze moguća rješenja.
Iako su kreatori Elevenlabsa priznali da mogu pronaći korisnike koji zlorabe moć AI alata, traže dodatne sigurnosne mjere kako bi izbjegli ovaj problem. Kreatori su podijelili različite ideje kako se pozabaviti tim pitanjem, što uključuje uvođenje ručne verifikacije za svako kloniranje i punu identifikacijsku provjeru korisnika putem plaćanja ili bilo koje druge metode.
Iako je beta testiranje Startupa krenulo mješovito, s mnogim obožavateljima koji su bili bijesni zbog neetičkog korištenja glasova slavnih putem AI alata, posebice Emme Watson. Ali ljudi su također odali priznanje startupu jer nije zbrisao situaciju i poduzeo aktivne mjere za rješavanje ovih internetskih trolova.
Izvor: Vice
