Nová digitální hrozba: deepfake
Adéla Schreiberová - 2. 12. 2019
Kategorie: Konspirační teorie, hoaxy, dezinformace
Od dob, kdy dezinformátorům stačilo na fotkách zamalovat nepohodlnou osobu černou barvou, jsme v dnešní době postoupili k vcelku sofistikovanějším metodám. Dnešní softwarové programy na úpravu fotek můžou v rukách zkušených lidí proměnit neškodné snímky na poměrně komplikovaně rozluštitelnou dezinformaci. Nicméně, v dnešní době věda a technika postoupila při pomáhání s vytvářením dezinformací ještě dál. Představujeme vám nový fenomén v rámci světa fake news: deepfake.
Deepfake je novodobá metoda práce s videi a s fotkami. Principem deepfakové techniky je zaměnit objekt na videu za úplně jiný, který vypadá stejně realisticky. Nejčastěji se používá u záměny lidských tváří a těl. (1) Programy, které jsou za to zodpovědně, se jmenují artificial neural networks. Jedná se o husté sítě uzlů, které fungují na stejné bázi jako lidské mozky.
Jsou samoučící a každý jednotlivý uzel představuje podobnou jednotku jakou je neuron (základní stavební prvek mozku), který navazuje na celou řádků dalších uzlů. (2) Tyto programy dokáží například dle konkrétních technik zanalyzovat tvář ve videu a vytvořit její velmi realistickou kopii, se kterou lze manipulovat. (3) Jak moc realistickou?
Toto je upoutávka na nový seriál od HBO Bez vědomí. Na videu mluví prezident Miloš Zeman, který se v minulosti již několikrát negativně vyjádřil na adresu novinářů, například v roce 2017 v Pekingu prohlásil, že by se novináři měli likvidovat (9). Avšak tomto videu vyzývá k ochraně novinářů, státních zástupců a vyšetřovatelů.
Nejedná se o změny názoru hlavy státy, nýbrž o ukázkový marketingový tah udělaný právě pomocí technologie deepfake. V tomto případě má sloužit pobavení a k zvýšení počtů diváků tohoto seriálu. (4) Na začátku videa je oznámeno, že se jedná o podvrh, nicméně ne všechna videa jsou taková.
Deep fake vs USA
Jako další příklad deepfaku si uvedeme ten z dubna roku 2018 – americký komik Jordan Peele chtěl poukázat na problematiku deepfakových videí, a tak zveřejnil video, kde bývalý prezident Spojených států amerických Barack Obama napadá ve svém projevu současného prezidenta Donalda Trumpa.
A u problematiky USA a deepfakových videí ještě chvilku zůstaneme. V červnu 2019 bylo uveřejněno video s Nancy Pelosi, současné předsedkyně Sněmovny reprezentantů, jak přednáší projev, při kterém se zakoktává. Video se stalo virálním a dá se považovat za fake news, z toho důvodu, že se jedná o upravené video, které zobrazuje lživou realitu.
V souvislosti s těmito přibývajícími videi o amerických, ale i zahraničních politicích, roste u amerických odborníků starost, do jaké míry můžou deepfaková videa ovlivnit americké prezidentské volby v roce 2020. John Villasenor, profesor na Kalifornské univerzitě v Los Angeles a profesor umělé inteligence a kybernetické bezpečnosti, varoval, že jelikož je technologie na vytváření deepfakes rozšířená v široké veřejnosti, může v dnešní době deepfakové video udělat úplně každý a s ním klidně poškodit americké volby. (5)
Deepfake videa – jak se tvoří a jak se odhalují
A že jsou deepfaková videa potenciálním problémem lze demonstrovat i na příkladu ze sociální sítě Reddit, kde v roce 2018 zveřejnila aplikace FakeApp návod na to, jak deepfaková videa nahrát a upravit. Za necelý měsíc si ji stáhlo přes 100 tisíc uživatelů a to většinou s jedním cílem – vytvářet pornografii s tvářemi celebrit. Tento trend zaznamenaly zejména dvě hollywoodské herečky – Emma Watson a Scarlett Johansson, o nichž byla „natočena“ poměrně velká škála pornografických videí. (6)
Pornografie, politika, pomstychtivá videa, hoaxy a fakenews – zde všude se deepfake může použít, ale jak se proti němu bránit? V současnosti se testuje řada technologií, které mají šíření deepfakeových videí zabránit. Sám Facebook vyvíjí technologii, která by měla deepfaková videa odhalovat a společnosti jako TruePic či americká vojenská společnost DARPA sází na technologie na bázi blockchainu (neustále se rozšiřující databáze (7)).
Než se vyvine účinný software je stále potřeba používat staré metody jako u ověřování textových zpráv – hledat si výroky a události z několika zdrojů a zapojit kritické myšlení. Tedy zamýšlet se nad prezentovanou skutečností a zvážit, jak moc pravděpodobné je, že daná skutečnost může být pravdivá.(8)
Další deepfake videa:
Jak citovat tento článek:
Schreiberová, A. (2019) Nová digitální hrozba: deepfake. Brno: Fakescape.
zdroje:
1. SCHWARTZ, Oscar. You thought fake news was bad? Deep fakes are where truth goes to die. The Guardian [online]. 12. listopadu 2018 [cit. 2019-11-22]. Dostupné z: https://www.theguardian.com/technology/2018/nov/12/deep-fakes-fake-news-truth
2. BETHGE, Matthias, Alexander S ECKER a Leon A. GATYS. A Neural Algorithm of Artistic Style. Cornell University [online]. 26. srpen 2015 [cit. 2019-11-22]. Dostupné z: https://arxiv.org/abs/1508.06576
3. FENDRYCHOVÁ, Simona. Ukazuji, co je možné. Slovák vytváří deep fake videa a varuje před šířením lží [online]. In: . 13. listopadu 2019 [cit. 2019-11-22]. Dostupné z: https://magazin.aktualne.cz/kultura/film/deep-fake-ctrl-shift-face-hbo/r~fd79df18047811eab259ac1f6b220ee8
4. Chraňte novináře. Video s Milošem Zemanem upozorňuje na hranici pravdy a lži. Magazín Aktuálně [online]. 12. listopadu 2019 [cit. 2019-11-22]. Dostupné z: https://magazin.aktualne.cz/kultura/film/bez-vedomi-zeman-hbo/r~593cd92a054811eab259ac1f6b220ee8/
5. SHAO, Grace. Fake videos could be the next big problem in the 2020 elections. CNBC [online]. 12. říjen 2019 [cit. 2019-11-22]. Dostupné z: https://www.cnbc.com/2019/10/15/deepfakes-could-be-problem-for-the-2020-election.html6. FENDRYCHOVÁ, Simona. Ukazuji, co je možné. Slovák vytváří deep fake videa a varuje před šířením lží [online]. In: . 13. listopadu 2019 [cit. 2019-11-22]. Dostupné z: https://magazin.aktualne.cz/kultura/film/deep-fake-ctrl-shift-face-hbo/r~fd79df18047811eab259ac1f6b220ee8
7. Blockchain. In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019-11-22]. Dostupné z: https://cs.wikipedia.org/wiki/Blockchain
8. SLOUKA, David. Deepfake videa tu jsou a hned tak nezmizí: Manipulace s informacemi jsou tak staré, jako sama média. InSmart [online]. 19. září 2019 [cit. 2019-11-22]. Dostupné z: https://insmart.cz/deepfake-videa-tu-jsou-a-hned-tak-nezmizi/
9. MOŠPANOVÁ, Eva. Zeman řekl Putinovi, že novináři by se měli likvidovat. Bonmot, hájí výrok mluvčí. IRozhlas [online]. 14. května 2017 [cit. 2019-11-27]. Dostupné z: https://www.irozhlas.cz/zpravy-svet/novinari-se-meli-likvidovat-zaznelo-na-setkani-zemana-s-putinem_1705141130_mos
Další články
