Obsah
- Čo je hlboké falošné?
- Ako funguje deepfake?
- Pôvod
- Nebezpečenstvo
- Nájdenie riešenia
- Populárny obsah deepfake
Deepfake content vytvára chaos medzi ľuďmi, ktorí vyrastali s myšlienkou, že videnie verí. Fotografie a videá, kedysi považované za nepopierateľný dôkaz o niečom, čo sa deje, masy teraz spochybňujú. Dá sa to očakávať po zistení neuveriteľne realistického videa Baracka Obamu, ktorý nazval prezidenta Trumpa „úplným a úplným poklesom ****“, nie je ničím iným ako tvorbou hlbokých falošných.
Deepfake content vytvára chaos medzi ľuďmi, ktorí vyrastali s myšlienkou, že videnie verí.
Edgar CervantesZainteresovaná technológia vyvoláva obočie a vytvára otázky, preto sme tu preto, aby sme vám poskytli úplný prehľad o tom, čo to je, ako to funguje, a či je skutočne dôvod na obavy.
Čo je hlboké falošné?
Deepfake je technika umelej inteligencie (umelá inteligencia), ktorá využíva strojové učenie na vytváranie alebo manipuláciu s obsahom. Často sa používa na vytváranie zostrihov alebo nakrývanie tváre osoby nad druhou, ale jej schopnosti siahajú ďaleko za ňu. Táto technológia má mnoho ďalších aplikácií. Medzi ne patrí manipulácia alebo vytváranie zvuku, pohybu, krajiny, zvierat a ďalších.
Ako funguje deepfake?
Deepfake obsah sa vytvára pomocou techniky strojového učenia známej ako GAN (generative adversarial network). GAN používajú dve neurónové siete: generátor a diskriminátor. Tieto neustále súťažia proti sebe.
Generátor sa pokúsi vytvoriť realistický obraz, zatiaľ čo diskriminátor sa pokúsi zistiť, či je falošný alebo nie. Ak generátor oklame diskriminátora, použije zozbierané informácie, aby sa stal lepším sudcom. Podobne, ak diskriminátor zistí, že obraz generátora je falošný, generátor bude lepší pri vytváraní falošného obrázka. Nekončiaci cyklus môže pokračovať, až kým obraz, video alebo zvuk prestane byť z ľudského hľadiska viditeľne falošný.
Pôvod
Prvé hlboké falošné videá boli samozrejme porno!
Edgar CervantesPrvé hlboké falošné videá boli samozrejme porno! Presnejšie povedané, bolo bežné vidieť celebrity tváre prekrývajúce porno herečky. Nicholas Cage memy boli tiež populárne, okrem iných zábavných vynálezov.
Slovo deepfake sa stalo s touto technikou v roku 2017 synonymom vďaka užívateľovi Reddit, ktorý prešiel menom „deepfakes“. K používateľovi sa teraz pridali ďalšie osoby, ktoré boli teraz zakázané R / deepfakes subreddit, kde zdieľali svoje výtvory so svetom.
Skutočným tvorcom generatívnych kontradiktórnych sietí je Ian Goodfellow. Spolu so svojimi kolegami predstavil tento koncept na univerzite v Montreale v roku 2014. Potom začal pracovať pre spoločnosť Google a v súčasnosti je zamestnaný v spoločnosti Apple.
Nebezpečenstvo
V nesprávnych rukách sa dá hlboká falošná tvorba použiť na falšovanie oveľa viac ako hlúpeho memoranda Nicholasa Cagea.
Edgar CervantesAj keď manipulácia s obsahom nie je ničím novým, vyžadovala si vážne zručnosti. Potrebovali ste výkonný počítač a skutočne dobrý dôvod (alebo príliš veľa voľného času) na vytvorenie falošného obsahu. Softvér na vytvorenie hĺbky, ako je FakeApp, je bezplatný, ľahko dostupný a nevyžaduje veľa energie počítača. A pretože robí všetku svoju prácu samostatne, nemusíte byť skúseným editorom, aby ste šialene vytvorili skutočne hlboké falošné médiá.
To je dôvod, prečo sa verejnosť, celebrity, politické subjekty a vlády obávajú hlbokého hnutia. V nesprávnych rukách sa dá hlboká falošná tvorba použiť na falšovanie oveľa viac ako hlúpeho memoranda Nicholasa Cagea. Predstavte si, že niekto vytvára falošné správy alebo obviňuje dôkazy z videa. Môžete pridať falošné a pomstiť porno k problému. Veci sa môžu rýchlo dostať do chaosu.
Ďalším dôvodom na obavy z hlbokého falošného obsahu je skutočnosť, že dôležité osobnosti by mohli poprieť aj minulé činy. Pretože videá typu deepfake sa zdajú také skutočné, ktokoľvek by mohol tvrdiť, že skutočný klip je falošný.
Prečítajte si tiež: Zložitosť etiky a AI
Nájdenie riešenia
Aj keď je to veľmi blízko k skutočnému stavu, školené oko si môže všimnúť falošné video pozorne. Ide o to, že v budúcnosti nebudeme schopní rozlíšiť rozdiel.
Twitter, Pornhub, Reddit a ďalší sa neúspešne pokúsili zbaviť takého obsahu. Na oficiálnejšej strane DARPA (Agentúra pre výskum pokročilých výskumných projektov) spolupracuje s výskumnými inštitúciami a Coloradskou univerzitou na vytvorení spôsobu, ako odhaliť hluchoty.
Najlepšie, čo môžeme urobiť v boji proti hlbokým falošným videám, je byť viac pozorný a menej dôveryhodný.
Edgar CervantesKým nebudeme mať softvér, ktorý dokáže na takýchto videách zistiť nezrovnalosti, najlepšie, čo môžeme urobiť, je pozornejšie a menej dôveryhodné. Urobte svoj výskum skôr, ako sa domnievate, že video, obrázok alebo zvuk sú skutočné. Aj tak by sme to už mali robiť.
Populárny obsah deepfake
Jordan Peele sa pripojil k službe Buzzfeed, aby zostavil toto video, ktorého cieľom je vytvoriť vedomie.
Odborník na online manipuláciu Claire Wardle nám ukazuje, ako realistické môžu tieto videá vyzerať, keď sa počas prvých 30 sekúnd videa zobrazia ako Adele. Toto video z denníka The New York Times nám poskytuje vynikajúci prehľad o tejto téme.
Watchmojo dáva vytvoril zoznam niektorých z najpopulárnejších deepfake videí v okolí. Je to zábavné video s množstvom skvelých príkladov.
Máte obavy z dôsledkov hlbokých falošných videí? Je to určite téma, na ktorú by sme mali pamätať a zároveň hľadať riešenia.
