We wrześniu Oversight Board po raz kolejny zwróciła uwagę na problem materiałów tworzonych lub modyfikowanych przez sztuczną inteligencję. Tym razem sprawa dotyczyła nagrania opublikowanego na Facebooku, w którym wykorzystano wizerunek młodej kobiety niebędącej osobą publiczną. Materiał przedstawiał ją w sposób, który przypisywał jej zachowania i wypowiedzi, których w rzeczywistości nie było. Board uznała, że treść powinna zostać usunięta, a obecne zasady Mety nie chronią użytkowników wystarczająco dobrze przed tego typu manipulacją.
Ta decyzja jest istotna nie tylko dlatego, że dotyczy konkretnego filmu. Pokazuje przede wszystkim, jak szybko zmienia się sposób, w jaki musimy patrzeć na treści publikowane w social mediach. Jeszcze niedawno zdjęcie albo nagranie było dla większości osób czymś, co automatycznie uznawaliśmy za dowód, że dana sytuacja naprawdę miała miejsce. Dzisiaj ten mechanizm przestaje działać.
Sztuczna inteligencja pozwala stworzyć materiał, który wygląda wiarygodnie, wykorzystuje prawdziwą twarz, głos albo fragment wcześniejszego nagrania, a jednocześnie przedstawia sytuację, która nigdy się nie wydarzyła. I właśnie dlatego problem coraz częściej nie dotyczy już tylko celebrytów czy polityków. Jeżeli regularnie publikujemy swoją twarz, nagrywamy rolki, Stories albo materiały na TikToku, w internecie znajduje się już wiele elementów, które mogą zostać wykorzystane do stworzenia zmanipulowanej treści.
W sprawie analizowanej przez Oversight Board problem dodatkowo urósł przez skalę rozpowszechniania materiału. Podobne filmy i obrazy osiągały łącznie dziesiątki milionów wyświetleń, a pierwotne zgłoszenie użytkownika oraz późniejsze odwołanie zostały automatycznie zamknięte bez pełnej weryfikacji. Dopiero analiza Board doprowadziła do decyzji, że materiał powinien zostać usunięty.
Dla mnie właśnie ten element jest szczególnie ważny z perspektywy bezpieczeństwa użytkowników. Nie możemy zakładać, że jeśli coś narusza nasze prawa albo wykorzystuje nasz wizerunek, platforma automatycznie i natychmiast to wykryje. Moderacja na tak ogromną skalę w dużej części opiera się na automatycznych systemach i również tutaj mogą pojawiać się błędy.
Dlatego w przypadku materiału, który bez naszej zgody wykorzystuje twarz lub głos, bardzo ważne jest, aby zanim zaczniemy wyłącznie walczyć o jego usunięcie, zachować informacje pozwalające później odtworzyć sytuację. Link do publikacji, nazwa konta, data, screeny czy kopia samego materiału mogą mieć ogromne znaczenie, szczególnie jeśli treść zacznie szybko znikać albo pojawiać się na kolejnych profilach.
Oversight Board rekomenduje Meta również zmianę podejścia do podobnych przypadków. Zdaniem Board definicja zmanipulowanych materiałów powinna obejmować nie tylko zmianę wyglądu danej osoby, ale również sytuacje, w których AI przypisuje jej słowa i zachowania, których nigdy nie było. Rekomendowane jest także skuteczniejsze wykrywanie kopii takich materiałów.
Dla użytkownika oznacza to jedno: coraz ważniejsza staje się umiejętność weryfikowania nie tylko linków i wiadomości, ale również samych zdjęć i nagrań.
Jeżeli widzimy osobę publiczną, twórcę albo markę publikującą coś bardzo nietypowego, kontrowersyjnego lub zupełnie niespójnego z dotychczasową komunikacją, warto sprawdzić źródło. Czy materiał znajduje się również na oficjalnym profilu? Kto opublikował go jako pierwszy? Czy konto wygląda wiarygodnie? Czy nie jest to fragment wyrwany z innego nagrania i przetworzony przy użyciu AI?
To nowy etap bezpieczeństwa w social mediach.
Przez lata uczyliśmy się, że nie każdy e-mail jest prawdziwy i nie każdy link prowadzi tam, gdzie sugeruje jego nazwa. Teraz musimy przyzwyczaić się również do tego, że nie każdy film pokazuje coś, co naprawdę się wydarzyło.
I właśnie dlatego temat AI będzie coraz częściej pojawiał się w The Safe Club. Nie jako technologiczna ciekawostka, ale jako realny element bezpieczeństwa naszej cyfrowej tożsamości.
