W ciągu ostatniego miesiąca na TikToku gwałtownie wzrosła liczba filmów wykorzystujących sztuczną inteligencję do tworzenia deepfake’ów znanych celebrytów, takich jak Taylor Swift, Rihanna i Kim Kardashian. Materiały te mają na celu nakłonienie użytkowników do rejestracji w fałszywych programach nagród lub innych złośliwych usługach.
Jak wynika z raportu Copyleaks, deepfake’i te nie tylko promują oszukańcze reklamy, ale także zawierają treści o charakterze seksualnym, zachęcające do niekonsensualnej zamiany twarzy lub cyfrowego „rozbierania”. Przykłady obejmują zmodyfikowane cyfrowo nagranie Taylor Swift reklamującej rzekomą funkcję „TikTok Pay” oraz podobnie przerobiony film z Rihanną promującą program wymiany wyświetleń na nagrody.
Oszuści często wykorzystują autentyczne materiały z wywiadów na czerwonym dywanie, podcastów czy talk-show, gdzie łatwiej jest przejąć prawdziwe nagranie i manipulować nim za pomocą AI. Nagrania te mają realistycznie brzmiące głosy, co ułatwia wprowadzenie użytkowników w błąd. Wiele z nich zawiera branding TikToka oraz teksturowane filtry, które mają ominąć narzędzia wykrywające treści generowane przez sztuczną inteligencję.
Po kliknięciu w te filmy użytkownicy są przekierowywani na strony trzecie, które zbierają ich dane osobowe. Zbieg okoliczności jest znaczący – Taylor Swift niedawno złożyła wnioski o rejestrację znaków towarowych, aby chronić swój głos i wizerunek przed nadużyciami związanymi z AI, po serii incydentów z deepfake’ami. Problem jednak narasta i nie wykazuje oznak spowolnienia.
Meta została niedawno pozwana przez Consumer Federation of America za rzekome czerpanie zysków z podobnych oszustw reklamowych na Facebooku. Federalna Komisja Handlu (FTC) wskazuje, że oszukańcze reklamy są jednym z głównych narzędzi służących do promowania zakupowych scamów w mediach społecznościowych, a AI tylko pogłębia ten problem. W 2023 roku FTC odnotowała wzrost liczby zgłoszeń dotyczących oszustw wykorzystujących deepfake o 300% w porównaniu z rokiem poprzednim.
Eksperci ds. cyberbezpieczeństwa podkreślają, że kluczowe jest zachowanie czujności i nieklikanie w podejrzane linki, nawet jeśli wydają się pochodzić od zaufanych źródeł. Platformy takie jak TikTok muszą inwestować w zaawansowane narzędzia do wykrywania i usuwania takich treści, aby chronić swoich użytkowników przed kradzieżą danych i stratami finansowymi.
Foto: digitalmusicnews.com
Leave a Reply