Dwaj artyści i firma reklamowa – niewiele trzeba, by sfabrykować klip wideo, w którym Mark Zuckerberg mówi: „Ktokolwiek kontroluje dane, kontroluje przyszłość – tego nauczyłem się od 'Spectre'”. Fejkowe wideo wciąż można zobaczyć na Instagramie, bo Facebook nie chce pogwałcić własnych zasad przez usunięcie go.
Film, stworzony przez Billa Posters i Daniela Howe we współpracy z firmą reklamową Canny, ukazuje Marka Zuckerberga siedzącego przy biurku i wygłaszającego złowieszczą mowę o wielkim wpływie Facebooka. Całość sprawia wrażenie wycinku dłuższego wywiadu, bo u dołu pojawiają się paski informacyjne, mówiące o „zwiększeniu przejrzystości reklam” w serwisie. Z ust Zuckerberga padają słowa:
„Wyobraź sobie przez chwilę: jeden człowiek, całkowicie kontrolujący dane skradzione miliardom ludzi, znający wszystkie tajemnice ich życia, oraz ich zamiary. Wszystko to zawdzięczam 'Spectre’. 'Spectre’ nauczyło mnie, że ktokolwiek kontroluje dane, kontroluje przyszłość.”
Mark Zuckerberg nigdy nie wypowiedział się w ten sposób, a samo wideo jest sfabrykowane. Oryginalny, prawdziwy film, pochodzi z września 2017 roku. Wtedy założyciel Facebooka odpowiadał przed kamerą na pytania dotyczące rosyjskich wpływów na wyniki wyborów prezydenckich w Ameryce. Nowy materiał powstał przy użyciu technologii wideo CannyAI (VDR), która pozwala na wykorzystanie dowolnego filmu z mówiącym człowiekiem i włożenie w jego usta pożądanych słów.
Taki deepfake jest jednym z kilku, które artyści zrealizowali na potrzeby wystawy Spectre (to o niej mowa w filmach), która odbyła się w ramach Sheffield Doc Fest w Wielkiej Brytanii.
https://www.instagram.com/p/ByaVigGFP2U/?utm_source=ig_embed
Facebook nie zamierza usuwać fałszywego wideo ze swojej platformy. „Będziemy traktować tę treść w taki sam sposób, w jaki traktujemy wszelkie dezinformacje na Instagramie” – przekazał rzecznik prasowy firmy. Jak dodał, „Jeśli osoby sprawdzające informacje oznaczą ją jako fałszywą, odfiltrujemy ją z rekomendacji Instagrama, takich jak strony Eksploruj i stron wyszukiwania hasztagów”. Zamiast więc pozwolić filmowi rozpowszechniać się przy pomocy algorytmów serwisu, Facebook zdecydował się na obniżenie priorytetu tego materiału.
Film ma intrygujące podwójne dno. Oto na ekranie mamy Marka Zuckerberga, mówiącego, że ma kontrolę nad danymi – i rzeczywiście firma może takie wideo usunąć, oznaczyć jako nieprawdziwe albo kompletnie je zignorować. Ma władzę nad przyszłością, a usunięcie deepfake’a tylko by to potwierdziło.
Jak powstał złowieszczy Mark Zuckerberg?
Technologia stojąca za tą akcją, jest pochodną pracy Uniwersytetu Waszyngtońskiego, który jako jeden z pierwszych zaprezentował przekształcone klipy ludzi, którzy mówili wyznaczone kwestie, choć w realnym życiu nigdy to nie miało miejsca. Inspirowano się także osiągnięciami Face2Face Uniwersytetu Stanforda, który umożliwiał tworzenie takich deepfake’ów w czasie rzeczywistym.
Żeby efekt był zadowalający, algorytmy musiały „uczyć się” twarzy postaci 12-24 godzin. Niby dużo, niby nie – już widzieliśmy, co potrafi podobna technologia, bazując na zaledwie jednym zdjęciu. Następnie nagrano kwestię aktora podkładającego głos, żeby był podobny do prawdziwego Marka Zuckerberga. Potem zrekonstruowano klatki obrazu w wybranym fragmencie, by pasowały do ruchów twarzy aktora. Wynik jest dość przekonujący. Podobne zabiegi zastosowano na filmie z Kim Kardashian.
To wszystko skłania człowieka do lekkiej zadumy: kiedy zaczniemy oglądać sfabrykowane filmy w wiadomościach od „godnych zaufania” źródeł, myśląc, że są prawdziwe? Albo: od kiedy się to już dzieje?..
https://www.instagram.com/p/ByKg-uKlP4C/?utm_source=ig_embed
źródło: Vice
