Internet v zbrani ako používateľ 4Chan používa hlasový simulátor AI na sfalšovanie hlasu Emmy Watsonovej a núti ju čítať Hitlerovu autobiografiu

Bývalí zamestnanci Google a Palantir spoločne spustili startup Elevenlabs, ktorého cieľom bolo vytvoriť vysokokvalitné zvukové falzifikáty celebrít prostredníctvom ich nástroja na klonovanie hlasu AI. Ich beta spustenie však čoskoro zlyhalo, pretože mnohí zneužívali hlasy celebrít, vrátane Emmy Watson, prostredníctvom nástroja na klonovanie hlasu AI.

Mnoho fanúšikov zostalo rozzúrených neetickým a nemorálnym používaním nástroja AI po tom, čo niektorí trolovia zneužívali svoje obľúbené hlasy celebrít na odovzdávanie poburujúcich komentárov. Startup však všetkých ubezpečil, že zmenia svoj model, aby sa vyhli ďalším problémom.

Prečítajte si tiež: 'Pretože som dovŕšil 18 rokov, bolo to legálne': Emma Watson bola traumatizovaná paparazzi po tom, čo sa pokúsili vycvaknúť jej sukňu tým, že si ľahli na chodník, keď hviezda Harryho Pottera dovŕšila 18 rokov

Fanúšikovia sa rozzúrili po tom, čo používateľ 4Chan zneužil hlas Emmy Watsonovej prostredníctvom nástroja AI

Zavedenie nástroja na klonovanie hlasu AI od Elevenlabs zapálilo internet po tom, čo množstvo trollov využívalo používanie tohto bezplatného nástroja. Hoci mnohí používajú tento softvér na vytváranie zdravého obsahu, časť internetu tento nástroj zneužila na to, aby celebrity chrlila rasové osočovanie a poburujúce komentáre a zneužívala Emmy Watsonovej hlas bol poslednou kvapkou.

Nedávno. Základná doska oznámila extrémne zneužívanie softvéru AI na vytvorenie urážlivého hlbokého falošného zvuku. Ale slamka, ktorá zlomila ťave chrbát, bol používateľ 4Chan, ktorý vytvoril klip Harry Potter hviezda Emma Watson číta môj boj , autobiografia nacistického diktátora Adolfa Hitlera.

Fanúšikovia boli rozzúrení týmto neetickým používaním softvéru o Emme Watsonovej a ďalších renomovaných celebritách vrátane Joea Rogana, Robina Williamsa atď. zneužívanie ich nástroja na klonovanie hlasu.

Prečítajte si tiež: Režisér filmu „Väzeň z Azkabanu“ požiadal trio Harryho Pottera, aby napísalo esej o svojej postave – Emma Watson napísala 16 strán, Daniel Radcliffe mal zhrnutie 1 strany, Rupert Grint nenapísal ani jednu

Elevenlabs sa zaväzuje vyhnúť sa ďalšiemu zneužívaniu nástroja AI

Startup bol na začiatku ohromený pozitívnym ohlasom aj na nich, pretože mnohí používali nástroj na klonovanie hlasu AI na zdravú tvorbu. Spoločnosť však čoskoro čelila problému, keď trolovia začali využívať softvér na nekalé účely. Elevenlabs ubezpečili internet, že túto záležitosť dôkladne skúmajú a zisťujú možné riešenia.

Hoci tvorcovia Elevenlabs pripustili, že môžu spätne vysledovať používateľov, ktorí zneužívajú silu nástroja AI, hľadajú ďalšie bezpečnostné opatrenia, aby sa tomuto problému vyhli. Tvorcovia zdieľali rôzne nápady na riešenie tejto záležitosti, čo zahŕňa zavedenie manuálneho overenia pre každé klonovanie a úplné overenie ID používateľa prostredníctvom platby alebo akéhokoľvek iného spôsobu.

Prečítajte si tiež: „Mali by jej dovoliť vyjadriť svoj názor“: Helena Bonham Carter nie je fanúšikom Emmy Watsonovej a Daniela Radcliffa protestujúcich proti J.K. Rowling na ochranu ich fanúšikovskej základne

Hoci beta testovanie Startupu začalo zmiešane, mnohí fanúšikovia boli rozhorčení za neetické používanie hlasov celebrít prostredníctvom nástroja AI, najmä Emma Watson. Ľudia však startup uznali aj za to, že situáciu neoprášil a prijal aktívne opatrenia na riešenie týchto internetových trollov.

Zdroj: Vice