Deepfake to bardzo zaawansowana wersja fake newsa, czyli fałszywej informacji opublikowanej w mediach. Mówiąc najprościej, to nieprawdziwy, spreparowany materiał wideo.
Termin deepfake powstał z połączenia dwóch angielskich wyrazów: „deep” (deep learning) – czyli innowacyjne systemy głębokiego uczenia maszynowego i „fake” – fałszywy. To zaawansowana technika obróbki wideo, która pozwala preparować film przy pomocy sztucznej inteligencji. Umożliwia np. podmianę twarzy lub ciała jednej osoby na inną. Pozwala np. spreparować zmanipulowaną, fałszywą wypowiedź wideo znanej osoby, np. polityka albo opublikować ośmieszający film z celebrytą, aktorem w roli głównej.
Wyjaśniając bardziej precyzyjnie, jest to technika, która łączy i nakłada obrazy nieruchome i ruchome na obrazy lub filmy już istniejące. Efekt to realistyczne wideo, które trudno odróżnić od fałszywej manipulacji.
W 2017 roku Uniwersytet Waszyngtoński jako jeden z pierwszych zaprezentował przekształcone filmy wideo z zastosowaniem techniki deepfake. Z kolei Face2Face Uniwersytetu Stanford umożliwiał tworzenie deepfake’ów w czasie rzeczywistym.
Obama jak żywy
Technologia deepfake stała się popularna na całym świecie w 2017 r. Użytkownik o nicku DeepFake opublikował kompromitujące filmy pornograficzne ze znanymi aktorkami i piosenkarkami, wklejając ich twarze w miejsce twarzy aktorów filmu porno. Ofiarami ohydnej manipulacji były m.in.: Taylor Swift, Gal Gadot i Maisie Williams.
Skala stosowania techniki deepfake niebezpiecznie rośnie. Stała się ona najnowszym trendem. Na początku 2019 r. w sieci zaprezentowano 7964 filmów deepfake, pod koniec roku było ich już 14678. Spreparowane wideo z przemówieniem Bracka Obamy, które nigdy się nie odbyło, sztuczna inteligencja stworzyła od podstaw, po analizie kilku godzin prawdziwych przemówień byłego prezydenta USA. Wszystko zostało perfekcyjnie spersonalizowane: mimika, głos, gesty. Przeciętny użytkownik sieci nie jest w stanie odróżnić fejka od prawdziwego filmu.
Zuckerberg wystraszył świat
Inny deepfake, który wstrząsnął światem, autorstwa Billa Posters’a i Daniela Howe, ukazuje Marka Zuckerberga wygłaszającego fatalistyczną przemowę o kontroli Facebooka. Film sprawia bardzo realistyczne wrażenie fragmentu wywiadu. Zuckerberg mówi: „Wyobraź sobie przez chwilę: jeden człowiek, całkowicie kontrolujący dane skradzione miliardom ludzi, znający wszystkie tajemnice ich życia, oraz ich zamiary. Wszystko to zawdzięczam 'Spectre’. 'Spectre’ nauczyło mnie, że ktokolwiek kontroluje dane, kontroluje przyszłość.” Brzmi przerażająco, tyle, że Zuckerberg nigdy nie wypowiedział takich słów, a spreparowane wideo zostało stworzone w 2019 r. na postawie oryginalnego filmu z 2017 r. Tym razem była to jedynie poruszająca reklama. Czarny scenariusz dla świata to deepfakes tworzone np. na potrzeby manipulacji politycznych i społecznych.
Prawo ściga oszustów
8 listopada 2019 r. NATO opublikowało raport o roli i fenomenie techniki deepfake. Prognozy na przyszłość nie napawają optymizmem. Z jednej strony rozwój sztucznej inteligencji to programy, które wykrywają spreparowane nagrania i zabezpieczają przed oszustwem. Z drugiej strony deepfake pozwala manipulować kłamstwem, co może doprowadzić do drastycznego spadku zaufania użytkowników mediów. Najbardziej podatne na manipulacje są okresy kampanii wyborczych. Kompromitujący polityka film może zyskać ogromną popularność w oka mgnieniu, a sprostowanie deepfake’a do części elektoratu może nie dotrzeć lub może się wydać niewiarygodne.
W USA i Chinach wprowadzono przepisy, które mają pomóc zwalczać oszustwo. Według Cyberspace Administration of China deepfake’i „zagrażają bezpieczeństwu narodowemu, zakłócają porządek społeczny i naruszają prawa innych osób”. Przestępstwem jest brak informacji, że obraz został stworzony przez sztuczną inteligencję, karze podlega też udostępnianie deepfake’a. W niektórych stanach USA wprowadzono zakaz stosowania deepfake’ów w kampaniach wyborczych i tworzenia fejkowych filmów pornograficznych bez zgody osób, które są w nich przedstawione.
W Polsce rozpowszechnianie deepfeke’ów może kolidować z przepisami prawa autorskiego i cywilnego, a nawet karnego oraz z przepisami chroniącymi dane osobowe. Chodzi przede wszystkim o prawa autorskie wykorzystanego filmu oraz naruszenie dóbr osobistych „bohatera” nagrania.
Niestety, programy do weryfikacji deepfake’ów nie nadążają za technologią i są zwykle o krok z tyłu. Wiele kwestii prawnych wymaga jeszcze uregulowania. Najważniejsza jest więc edukacja społeczeństwa.