Facebook postanowił podjąć ważne kroki w sprawie zamieszczanych na ich stronie zmanipulowanych treści kategorii deepfake. Takie posty mają być szybko wykrywane, a następnie część z nich zostanie oznaczona i ukryta na platformie. Natomiast pozostałe materiały będą usuwane. Zmiany mają dotyczyć również polskiej wersji portalu.

Co to jest za zjawisko?

Deepfake to metoda tworzenia oraz zamieszczania w przestrzeni internetowej zmienionych fotografii, nagrań dźwiękowych, a także filmów wideo, w których oryginalne materiały zostały zmanipulowane. Narzędzie ma za zadanie zaznaczyć spreparowane treści przy pomocy m.in. sztucznej inteligencji. Tego typu działania mogą skutkować powstaniem nagrania, w którym twarz bohatera filmu zostanie zamieniona na inną, dopasowaną mimicznie do pierwotnej treści wideo. W rezultacie powstaje człowiek, mogący uczestniczyć w wydarzeniach, w których nie brał udziału lub wykonujący dane czynności, których nigdy nie robił. Ta technika była już wcześniej wykorzystywana podczas walki politycznej w niektórych krajach.

Jakie materiały będą usuwane?

O tym, jakie treści zostaną skasowane na stronie about.fb informuje Monika Bickert, szefowa ds. Global Policy Management. Firma postanowiła zmienić swoje podejście do zmienionych treści. Zgodnie z zapowiedzią, z portalu znikną te informacje, które spełniają przedstawione niżej kryteria:

Treści zostały przetworzone albo zmontowane bez korekty, które służą poprawie czytelności czy też jakości w nieoczywisty dla zwykłego widza sposób. Mogłyby również sprawić, iż internauta uzna, że osoba przedstawiona w materiale wypowiedziała zdanie, które nie padło. Istnieje też szansa, że materiały, powstające przy wsparciu sztucznej inteligencji albo uczenia maszynowego, nakładają, łączą lub zastępują treści na nagraniu, dzięki czemu wydaje się on autentyczny.

(źródło informacji: https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/)

Czy wszystkie posty podlegają sprawdzeniu?

Administratorzy Facebooka zaznaczają, że przedstawione wyżej reguły nie będą dotyczyć wpisów o charakterze satyrycznym oraz nagrań, gdzie edycja będzie polegać na zmianie kolejności lub usunięciu słów. Jednakże zarządcy serwisu podkreślają, iż mogą usunąć posty, które naruszają normy społeczności tj. wyrażające mowę nienawiści lub materiały przedstawiające nagość, niezależnie od tego, czy zostanie wdrożone narzędzie typu deepfake, czy też nie.

Należy pamiętać, że konkretny materiał, który nie zostanie usunięty z platformy, może nadal podlegać ocenie weryfikatorów informacji. W przypadku gdy osoba odpowiedzialna za sprawdzanie treści stwierdzi, iż dany wpis wprowadza w błąd użytkowników serwisu, ma prawo obniżyć jej widoczność na stronie, a także uniemożliwić jej reklamowe wykorzystanie. Nowe zasady obejmują wszystkie wersje językowe serwisu, w tym również polski odpowiednik.

Czynności mające na celu wyeliminowanie fałszywych materiałów na platformie nie są nowe. We wrześniu ub.r. Facebbok we współpracy z Microsoft’em oraz kilkoma uczelniami wyższymi stworzyli projekt o nazwie Deepfake Detection Challenge (DFDC), ] mający za zadanie wspomagać proces tworzenia nowych narzędzi do walki z deepfake’ami. Ponadto, zarządcy jednego z najpopularniejszych serwisów społecznościowych podjęli współpracę z agencją Reuters. Owocem ich współdziałania jest darmowy kurs internetowy, który pomoże dziennikarzom w weryfikacji fałszywych treści oraz walce z tym zjawiskiem.

Ważne jest, aby odpowiednie działania zostały wdrożone jak najszybciej, abyśmy mogli korzystać z Facebooka w odpowiedni i bezpieczny sposób.

Autor tekstu: Patrycja Krzeszowska