Deepfake – czym jest i jak go rozpoznać?

Deepfake to kopalnia nowych możliwości, zwłaszcza w zakresie rozrywki. Równocześnie jednak jest to duże zagrożenie dla pojedynczych osób i całych społeczności. W złych rękach może służyć do oszukiwania, manipulowania, szerzenia dezinformacji, wzbudzania bezpodstawnej paniki, a nawet destabilizacji kraju. Chociaż trudno o nadzór nad tym, kto i do jakich celów wykorzystuje deepfaki, można i warto nauczyć się metod samodzielnego rozpoznawania fałszywych nagrań. I właśnie o tym przeczytasz dzisiaj – zapraszam na lekcję rozpoznawania deepfake’ów.

Co to jest deepfake?

Popularny w ostatnim czasie termin deepfake to nazwa nowoczesnej technologii wykorzystywanej do tworzenia sytuacji i wypowiedzi nieprawdziwych – takich, które nigdy nie zaistniały, a przynajmniej nie z osobami, które widoczne są na nagraniach. Warto tu przy okazji zaznaczyć, że chociaż wielu osobom deepfake kojarzy się właśnie z nagraniami, technicznie jest to nazwa technologii tworzenia takich nagrań. Polega na analizowaniu niezliczonych zdjęć, plików audio i filmów przez sztuczną inteligencję i generowaniu realistycznych obrazów twarzy czy perfekcyjnych imitacji głosu, które następnie nakładane są na nagrania wideo. W rezultacie bohaterem rzeczywistego filmu staje się ktoś zupełnie inny bądź też prawdziwy uczestnik danego wydarzenia mówi coś zupełnie innego.

Określenie deepfake bierze się z połączenia dwóch terminów: deep learning (głębokie uczenie maszynowe, charakterystyczne dla sztucznej inteligencji) i fake (fałsz, imitacja, falsyfikat).

Przykłady deepfake

Deepfake Elona Muska

Kanał LipSynthesis zajmuje się szerzeniem świadomości co do łatwości tworzenia deepfake’ów na podstawie różnych popularnych nagrań wideo. Stworzony przez firmę LipSynthesis deepfake Elona Muska nie jest idealny, ale – jak podkreślają twórcy – po pierwsze powstał w około 72 godziny, po drugie 90% odbiorców nie potrafi wskazać różnic (przy czym nie podano źródła danych).

Deepfake Morgana Freemana

Deepfake Morgana Freemana opublikowany na kanale Diep Nep stanowi jeden z moich ulubionych przykładów. Jest znacznie bardziej zaawansowany niż zaprezentowany wyżej deepfake Elona Muska. Tam bowiem „animowany” był głównie ruch warg i okolic, tutaj zaś całość nagrania powstała na bazie sylwetki Boba de Jonga, wypowiedzi zaś pochodzą od aktora głosowego Boeta Schouwinka, który perfekcyjnie imituje mowę Freemana. Poniżej porównanie obu wideo: realnego i deepfake’a:

Deepfake wiadomości telewizyjnych

Kolejny deepfake z kanału LipSynthesis. Nie ma znaczenia, kim dokładnie jest występujący na nagraniu prezenter ani że jest to przykład z zagranicy. To samo można zrobić z polskim wideo, by szerzyć dezinformację. Trzeba zachować szczególną ostrożność, gdy trafia się na rzekome wycinki z wiadomości telewizyjnych bądź internetowych, ale publikowane na profilach innych niż należące do owych telewizji.

Deepfake z Markiem Zuckerbergiem

Wideo bardzo dobrze obrazujące problem deepfake’ów opublikowano na kanale TimesLIVE Video. Zastosowano w nim typowe zabiegi mające dodać wiarygodności fałszywemu nagraniu. Przede wszystkim wybrano oryginalne wideo niskiej jakości – w ten sposób łatwiej ukryć niedociągnięcia i glitche. Po drugie dołożono pasek wiadomości, by nadać nagraniu wyższą rangę. I wreszcie po trzecie zdecydowano się na minimalne, wyłącznie niezbędne zmiany: dopasowano ruch warg bez ingerencji w resztę ciała, gesty, mimikę.

Po co tworzy się deepfake?

Technologia deepfake służy ludziom do przeróżnych celów. Nie wszystkie są złe – czasem chodzi o rozbawienie odbiorców, motywowanie, edukowanie lub dostarczenie im rozrywki bez jakiejkolwiek szkody. Niestety deepfake jako zaawansowane technicznie fałszerstwo ma ogromny potencjał do wyrządzania ludziom krzywdy, co zresztą już się dzieje – raport firmy Onfido z 2023 roku wykazał, iż wykorzystanie deepfake’ów do oszustw wzrosło o… 3000% względem poprzedniego roku!

Niezależnie od celu osób tworzących deepfaki jeden element pozostaje wspólny. Jest nim zaprezentowanie sytuacji, która w rzeczywistości nie miała miejsca nigdy.

Deepfake – zagrożenia

Technologia deepfake stanowi zagrożenie zarówno dla osób prywatnych (zwłaszcza w kontekście oszustw finansowych i wyłudzania danych), jak i dla przedsiębiorców (np. z uwagi na wprowadzanie w błąd klientów, potencjalnych partnerów biznesowych, inwestorów, opinii publicznej), polityków, celebrytów i wszystkich znanych, nierzadko ważnych dla kraju postaci.

• Deepfake nadaje się do manipulacji ludźmi – szeroko pojętej. Może chodzić zarówno o zniechęcenie odbiorców do jakiegoś człowieka (np. polityka; deepfake polityczny jest obecnie bardzo popularny), jak i o wyciągnięcie od internautów cennych danych.
• Deepfake niesie duże zagrożenie polityczne – a skoro już o polityce mowa, deepfake często wykorzystywany jest do tworzenia nieprawdziwych nagrań wideo właśnie z politykami, zwłaszcza czołowymi. W efekcie może wpłynąć na wybory, przełożyć się na brak zaufania społeczeństwa do rządzących, a nawet zepsucia relacji międzynarodowych.
• Deepfake stanowi narzędzie szerzenia dezinformacji – mimo iż obecnie istnieje wiele łatwiejszych i tańszych form szerzenia dezinformacji, np. pisanie artykułów i komentarzy przez rzekomo istniejące osoby (tzw. trolle), rozwój i upowszechnienie technologii deepfake da ludziom zajmującym się dezinformacją i destabilizacją potężną broń.
• Deepfake jest elementem ataków hejterskich – jeśli cyberprzestępcy chcą wywrzeć wrażenie na kimś i skłonić go do konkretnej reakcji, lub nawet po prostu uprzykrzyć mu życie, mogą wykorzystać deepfake do tworzenia hejterskich treści w mediach społecznościowych, odciskając poważne piętno na zdrowiu psychicznym i fizycznym ofiary.
• Deepfake może być narzędziem do szantażu i zastraszania – ludzie są w stanie zapłacić cyberprzestępcom za fałszywe nagrania, w których wykonują czynności seksualne, popełniają przestępstwo bądź robią coś dyskredytującego moralnie. Oczywiście tego typu szantaż powinien zostać zgłoszony na policję, jednak nie zawsze się tak dzieje. Zanim służby podejmą działania i wyjaśnią sprawę, szantażysta może opublikować fałszywe nagrana w sieci, te zaś – np. przedstawiające szantażowaną osobę dokonującą aktu pedofilii – są w stanie zrujnować poszkodowanemu życie, kompletnie niszcząc jego reputację.
• Deepfake może stać się elementem catfishingu – jest to oszustwo polegające na podszywaniu się pod osobę, którą się nie jest, bądź kreowaniu fikcyjnej tożsamości na bazie zdjęć i nagrań wideo obcej osoby. Catfishing najczęściej stosuje się w oszustwach matrymonialnych i finansowych.
• Deepfake przenosi ataki phishingowe na wyższy poziom – w ramach szerzenia wiedzy o cyberbezpieczeństwie od lat powtarza się, by nie klikać podejrzanych linków ani nie pobierać niezweryfikowanych załączników. Tymczasem deepfake jest w stanie obejść bezpieczne nawyki internautów, legitymizując linki twarzą osoby znanej, np. polityka lub przedsiębiorcy, albo nawet znajomej, chociażby krewnego czy przyjaciela. Skoro ktoś znany mówi, by kliknąć link, czemu by mu nie wierzyć? I tak otwiera się furtka do niezliczonych przestępstw finansowych.

Jak rozpoznać deepfake?

Chciałabym napisać, że rozpoznanie deepfake’ów jest łatwe, a tym bardziej że wystarczy wkleić link prowadzący do podejrzanego wideo do odpowiedniego narzędzia, kliknąć „sprawdź” – i po sprawie!

Niestety rzeczywistość prezentuje się inaczej. Profesjonalne narzędzia do rozpoznawania deepfake’ów faktycznie istnieją, lecz te oparte na najbardziej zaawansowanej technologii trafiają wyłącznie do rządów, agencji obronnych, instytucji publicznych i przedsiębiorstw (np. Video Authenticator firmy Microsoft), te nieco mniej zaawansowane są rozwiązaniami komercyjnymi, więc trzeba za nie płacić (np. AI-Powered Digital Content Analysis & Forensics firmy Attestiv), a te darmowe i skierowane do zwykłych internautów mają poważne ograniczenia. Przykładowo: Scan & Detect Deepfake Videos firmy Deepware potrafi przeanalizować wideo opublikowane wyłącznie w niektórych serwisach i mediach społecznościowych.

Jak zatem zwykły użytkownik internetu może rozpoznać deepfake? Musi zachować czujność, skorzystać ze starego dobrego krytycznego myślenia oraz zwracać uwagę na pewne szczegóły nagrań wideo.

1. Przyjrzyj się mimice i ruchom postaci – użycie technologii deepfake często pozostawia niedociągnięcia w zakresie ruchu bohaterów wideo. Mogą w dziwny sposób otwierać usta, poruszać oczami, zamykać oczy, gestykulować.
2. Zwróć uwagę na ruch ust – jest to aspekt na tyle ważny, iż warto wyodrębnić dgo z poprzedniego punktu. Otóż w deepfake’ach często ruch ust po pierwsze jest nienaturalny, po drugie nie zgrywa się ze słowami wypowiadanymi przez bohatera wideo.
3. Patrz na całość obrazu – niedoskonałości deepfake’ów widoczne są nie tylko w ruchu postaci, ale także w tle. Czujność powinny wzbudzić zwłaszcza brzegi człowieka ukazanego na nagraniu. Jeżeli elementem modyfikacji wideo było przebranie bohatera w inny strój, mogą być widoczne przeróżne glitche, np. falujące tło, zniekształcone przedmioty (chociażby rozciągnięte, zwężone), znikające elementy.
4. Przypatrz się cieniom i światłu – jeżeli podczas tworzenia deepfake’a zmieniono ruchy ciała i gesty bohatera nagrania, całkiem możliwe, że nie będą się zgadzały cienie i światło. Z kolei podczas wideo nagrywanych na zewnątrz mogą nie zgadzać się np. ruch związany z wiatrem czy wpływ deszczu lub intensywnego słońca na twarz bohatera.
5. Wychwytuj oczywiste błędy – takie jak przebicia oryginalnego nagrania, które czasem można zauważyć podczas oglądania wideo w zwolnionym tempie bądź przeglądania go klatka po klatce.
6. Wsłuchaj się w dźwięk – również nieidealny dźwięk może być sygnałem rozpoznawczym deepfake’a. Jeżeli głos brzmi sztucznie, płasko, może nawet przypomina mowę robota, to znak przemawiający za ingerencją w nagranie. Warto też zwrócić uwagę na niuanse języka polskiego: jeżeli w mowie występują te same dziwne błędy, zwłaszcza związane z typowo polskimi literami, powinno to wzbudzić w widzu wątpliwość co do prawdziwości nagrania.
7. Myśl o jakości nagrania – co prawda nie każde wideo złej jakości wizualnej i/lub dźwiękowej to deepfake, najprawdopodobniej znaczna mniejszość, jednakże deepfaki „lubią” niedoskonałą jakość, ponieważ w ten sposób łatwiej ukryć glitche w obrazie i ścieżce dźwiękowej.
8. Zweryfikuj źródło nagrania – oficjalne profile instytucji rządowych (w przeciwieństwie do prywatnych profili polityków) i organizacji publicznych udostępniają zweryfikowane materiały wideo. Można także wierzyć w prawdziwość nagrań publikowanych przez znane osoby, kiedy bohaterami są oni sami (w przeciwieństwie do nagrań przedstawiających kogoś innego, zwłaszcza w negatywnym świetle). Największą czujność trzeba zachować w przypadku mało znanych platform, a także anonimowych lub nieznanych osób publikujących dany materiał.
9. Zweryfikuj datę nagrania – jeśli wideo rzekomo dotyczy wydarzeń sprzed kilku tygodni, miesięcy, a tym bardziej lat, warto zwrócić uwagę na datę publikacji. Podejrzliwość powinna wywołać świeża data przy nagraniu będącym rzekomym oryginałem.
10. Porównaj materiał z innymi nagraniami przedstawiającymi daną osobę – to metoda czasochłonna, ale skuteczna w przypadku wideo, co do którego prawdziwości ma się obiekcje. Weźmy na przykład polityka. Można obejrzeć kilka lub kilkanaście innych, wiarygodnych nagrań z jego udziałem, aby sprawdzić, czy sposób mówienia, charakterystyczne wyrażenia i ruchy ciała obecne na podejrzanym nagraniu zgadzają się z tymi, które faktycznie cechują owego polityka.
11. Zastanów się nad treścią wypowiedzi – jeżeli wypowiedź przedstawiona na nagraniu jest dziwna lub kontrowersyjna, a tym bardziej zupełnie nie pasuje do poglądów lub sposobu komunikacji danej osoby, może to być sygnał świadczący o deepfake’u.

Na koniec warto mieć na uwadze, iż popularne programy i aplikacje do tworzenia deepfake’ów przez osoby prywatne, zwykłych użytkowników sieci, mogą generować nagrania łatwiejsze do wykrycia względem nagrań stworzonych przez zaawansowane technologie. Te pierwsze rozpoznasz np. po dziwnym ruchu ust i robotycznej mowie. Nad tymi drugimi będziesz musiał spędzić trochę więcej czasu, przyglądając się większej liczbie szczegółów.

To cię zainteresuje

OpenAI aktualizuje interfejs moderacji API

Mikołaj Lisewski

AI

Claude vs ChatGPT – porównanie dwóch najlepszych chatbotów sztucznej inteligencji

FunkyMedia

AI

Jak chronić się przed deepfakiem?

Czujność i zdrowa doza sceptycyzmu to podstawa poruszania się po sieci w XXI wieku. Warto o tym pamiętać, oglądając nagrania wideo, słuchając nagrań audio i przeglądając zdjęcia. Co ważne, należy być ostrożnym wobec wszystkich nagrań i zdjęć, a nie tylko tych uznanych za podejrzane. Dobry deepfake jest niemal nie do odróżnienia od realnego nagrania. A zatem większą czujność należy zachować w kontakcie z wideo zawierającymi kontrowersyjną treść, które wydają się prawdziwe, niż takimi, z którymi w oczywisty sposób „coś jest nie tak”.

Przeciętny użytkownik sieci nie zawsze będzie miał pewność, że prawidłowo rozpoznał nagranie wideo lub zdjęcie jako prawdziwe. Z tego powodu należy zawsze kierować się zasadą, że kiedy nie ma się pewności, lepiej postąpić tak, jakby wideo było fałszywe. Oczywiście nie mam na myśli niewinnych nagrań z bawiącymi się kotami, lecz takie, których treść może potencjalnie zaszkodzić użytkownikowi. Jeżeli bohater namawia do wykonania jakiejkolwiek czynności związanej z podaniem danych, zakupem czegoś lub zainwestowaniem pieniędzy – nie należy tego robić. Ponadto trzeba się mieć na baczności, gdy ogląda się wypowiedzi z zakresu polityki, działań wojennych i obronności, zdrowia, finansów.

Warto polegać na autorytetach – istnieje mniejsze prawdopodobieństwo, że deepfake opublikuje osoba godna zaufania niż anonimowy użytkownik sieci – ale nie można zapominać, że podziwiani ludzie także się mylą i sami mogą paść ofiarą deepfake’a. Trzeba uważać zwłaszcza na materiały podawane dalej, nie zaś publikowane oryginalnie przez właściciela konta, a także dotyczące osób innych niż autor posta.

Ostatnią dobrą praktyką jest czytanie opinii – np. komentarzy pod postem – dotyczących opublikowanego nagrania, a także dzielenie się wiedzą o wykrytym deepfake’u. Być może autorowi posta nie udało się skasować wszystkich krytycznych komentarzy, być może nie mógł tego zrobić, a być może nawet nie zawracał sobie tym głowy. Wspólnymi siłami łatwiej oddzielić oryginały od falsyfikatów.