Deepfake zamiast bliskiej osoby. INTERPOL ostrzega przed nową falą oszustw

Głos znajomego, twarz członka rodziny i pilna prośba o przelew mogą zostać stworzone przez sztuczną inteligencję. INTERPOL rozpoczął globalną kampanię, która pokazuje, jak deepfake’i są wykorzystywane do wyłudzania pieniędzy i poufnych danych.

Przestępcy mogą dziś przygotować realistyczną twarz, głos i sposób wypowiadania się konkretnej osoby na podstawie niewielkiej ilości materiałów dostępnych w internecie. Do tworzenia takich treści nie jest już potrzebna specjalistyczna wiedza ani duże pieniądze.

W praktyce oszustwo może przybrać formę wideorozmowy ze współpracownikiem proszącym o pilny przelew, telefonu od osoby podającej się za członka rodziny albo internetowej znajomości, która szybko przeradza się w emocjonalną relację. Celem jest wyłudzenie pieniędzy lub pozyskanie poufnych danych osobowych.

Technologia generatywnej sztucznej inteligencji pozwala tworzyć materiały określane jako deepfake. Mogą to być nagrania wideo, głosowe, zdjęcia lub wiadomości przygotowane tak, aby odbiorca uznał je za autentyczne. Oszuści wykorzystują je między innymi w oszustwach inwestycyjnych, matrymonialnych, telefonicznych i seksualnych, a także do szantażu oraz rozpowszechniania dezinformacji.

„Sztuczna inteligencja zaciera sygnały ostrzegawcze, które dotychczas pozwalały rozpoznać oszustwo” - podkreślił Toshinobu Yasuhira, dyrektor Centrum Innowacji INTERPOL-u.

Dawniej podejrzaną wiadomość można było rozpoznać po błędach językowych, niespójnych oznaczeniach firmy albo nieudolnym formatowaniu. Takie sygnały coraz częściej znikają. Materiał wygenerowany przez AI może wyglądać profesjonalnie i brzmieć wiarygodnie.

Szczególne znaczenie ma presja czasu. Rozmówca może twierdzić, że doszło do nagłego kryzysu, problemów osobistych albo zagrożenia dotyczącego bliskiej osoby. Jednocześnie może żądać zachowania sprawy w tajemnicy, aby ofiara nie skonsultowała prośby z kimś zaufanym.

Sygnałem ostrzegawczym jest także niespodziewany kontakt połączony z pytaniami o dane osobowe, informacje bankowe albo przekazanie pieniędzy. Ryzyko zwiększa się, gdy rozmówca proponuje nietypową formę płatności, na przykład kryptowaluty, karty podarunkowe lub przelew na wskazane konto.

W przypadku internetowych znajomości uwagę powinno zwrócić bardzo szybkie budowanie więzi. Osoba poznana w sieci może w krótkim czasie deklarować miłość, podkreślać własną zależność i namawiać do przeniesienia rozmowy poza oficjalny portal randkowy.

INTERPOL zaleca, aby w takiej sytuacji nie działać pod wpływem emocji. Przy nieoczekiwanym telefonie należy zakończyć rozmowę i skontaktować się z rzekomym nadawcą prośby innym, wcześniej znanym kanałem. Pomocne może być również ustalenie z rodziną lub przyjaciółmi tajnego hasła, które pozwoli potwierdzić tożsamość rozmówcy.

Organizacja wskazuje także na konieczność włączenia uwierzytelniania dwuskładnikowego wszędzie tam, gdzie jest ono dostępne. W przypadku znajomości internetowych zaleca sprawdzenie publicznie dostępnych informacji o rozmówcy oraz ustalenie, czy zdjęcia profilowe nie zostały skopiowane z innych źródeł.

„Każdy może paść ofiarą takich oszustw, niezależnie od wieku, miejsca zamieszkania czy sektora działalności” - powiedział Toshinobu Yasuhira.

Ostrożność powinny zachować również firmy. INTERPOL zaleca szkolenia dotyczące deepfake’ów, oszustw telefonicznych wykorzystujących socjotechnikę oraz innych metod manipulacji. Przedsiębiorstwa powinny też stosować wieloetapowe potwierdzanie tożsamości i weryfikację transakcji finansowych. Przy operacjach na duże kwoty dodatkowe potwierdzenie bezpośrednie może ograniczyć ryzyko wyłudzenia.

Jeżeli doszło do przekazania pieniędzy, należy jak najszybciej powiadomić bank oraz lokalne organy ścigania. Kampania obejmuje trzy filmy przygotowane z użyciem AI i promuje zasadę: „Zatrzymaj się. Zweryfikuj. Nie daj się złapać na przynętę”.

Działania są częścią projektu SynthWave PLUS, który ma wspierać organy ścigania w przeciwdziałaniu zagrożeniom związanym z materiałami syntetycznymi. Projekt obejmuje badania, szkolenia funkcjonariuszy oraz rozwijanie metod rozpoznawania i ograniczania przestępczego wykorzystania sztucznej inteligencji.

na podstawie: Komenda Główna Policji.