- AI napędza nowy rodzaj oszustw w e‑commerce - klienci wykorzystują chatboty do przerabiania zdjęć i generowania fałszywych dowodów, świadczących o rzekomych wadach produktów.
- Brakuje skutecznych narzędzi i regulacji, które mogłyby pomóc sklepom zweryfikować, czy reklamacja jest autentyczna, czy stworzona przez AI. Biznes stoi przed rosnącym wyzwaniem, bo skala nadużyć rośnie szybciej niż możliwości reakcji branży.
- Ekspert cyberbezpieczeństwa Kamil Suska mówi WNP, jak biznes e-commerce może zabezpieczyć się przed oszustwami.
- Adwokat Martyna Klimowicz przypomina, że celowe wprowadzanie sprzedawcy w błąd może stanowić poważne przestępstwo.
- Już 9 lutego w Warszawie odbędzie się konferencja EEC Trends, na której nie zabraknie tematu cyberbezpieczeństwa. Trwa rejestracja na to wydarzenie.
Choć zwykle podkreśla się potrzebę ochrony klientów, to w przypadku tego schematu, sytuacja jest odwrotna i wymagałaby ochrony sprzedających, często małego biznesu e-commerce. W ostatnich tygodniach pojawia się coraz więcej doniesień o oszustwach na platformach sprzedażowych z wykorzystaniem narzędzi sztucznej inteligencji.
Jak to działa? Klienci zamawiają towar za pośrednictwem popularnych portali sprzedażowych, następnie wykonują zdjęcie przedmiotu i przerabiają je za pomocą popularnych narzędzi AI tak, by był „uszkodzony”. Ponieważ portale zwykle weryfikują reklamacje za pomocą fotografii, to sprawa jest prosta: spór kończy się zwycięstwem klienta i otrzymaniem przez niego zwrotu za „uszkodzony” przedmiot. Co więcej, może go zatrzymać, więc ma i jedno, i drugie, a sprzedający zostaje z niczym – bez produktu i bez środków.
W sieci nie brakuje wpisów świadczących o coraz większej skali problemu. Tylko jedna grupa „Oszukani na Vinted” liczy na Facebooku 78 tys. członków. Użytkownicy opisują tam swoje historie i często proszą o wsparcie: mają pewność, że wysłali produkt w bardzo dobrym stanie, a otrzymali skargę klienta i żądanie rekompensaty.
Słynne już zdjęcie obuwia z „dziurą” wygenerowaną w chatbocie AI, które obiegło internet, dotyczyło właśnie transakcji na Vinted. Sprzedająca opisała, że wysłała dobry produkt, a w zamian od kupującego dostała zdjęcie buta z uszkodzeniem, którego... nie było.
Zdjęcie buta z serwisu Vinted, wykonanego przez użytkowniczkę. Vinted: AI nie jest zabronione, ale użycie do oszustwa – tak
Biuro prasowe litewskiego giganta w odpowiedzi na nasze pytania dotyczące kontroli nieuczciwych praktyk oraz ochrony sprzedawców przypomina, że „komercyjna” sprzedaż nie jest na Vinted dozwolona.
Z oświadczenia firmy dowiadujemy się, że wykorzystanie sztucznej inteligencji do wizualnej poprawy jakości produktów nie jest samo w sobie zabronione, pod warunkiem, że jest zgodne z regulaminem i „wiernie odzwierciedla sprzedawany produkt”.
- Niektóre narzędzia mogą być wykorzystywane do zilustrowania dopasowania odzieży, usunięcia tła lub ochrony danych osobowych bez zmiany rzeczywistego wyglądu produktu – wskazuje WNP biuro prasowe serwisu.
Zaznacza jednak, że jakiekolwiek wprowadzające w błąd lub oszukańcze wykorzystanie sztucznej inteligencji, czy to w ofertach, czy w kontekście sporów, na przykład poprzez sfałszowane dowody, jest zabronione i „traktowane przez zespół bardzo poważnie”.
Gigant tłumaczy nam, że w przypadku reklamacji bierze pod uwagę wiele czynników i analizuje wszystkie dowody dostarczone przez użytkowników.
„W przypadku zakwestionowania decyzji użytkownicy mogą się odwołać, a my pozostajemy otwarci na rozpatrzenie wszelkich nowych dowodów. Aby ułatwić te kontrole, zalecamy sprzedawcom wykonanie zdjęć przedmiotu ze wszystkich stron tuż przed wysyłką i udostępnienie ich kupującemu. Posiadamy szereg narzędzi do wykrywania oszustw i potencjalnie sfałszowanych treści, co pozwala nam podjąć działania tak szybko, jak to możliwe. Aby nie ułatwiać przestępcom obchodzenia naszych systemów, nie udostępniamy publicznie szczegółowych informacji na ten temat” – stwierdza Vinted w przekazanym nam stanowisku.
Biuro prasowe zapewnia nas, że „takie przypadki stanowią niewielki ułamek aktywności na platformie”. - Zachowujemy czujność i stale aktualizujemy nasze systemy, aby reagować na nowe praktyki, zapewniając jednocześnie bezpieczeństwo i transparentność korzystania z platformy”.
Jeśli spojrzymy na komentarze użytkowników, publikowane na wspomnianej grupie na Facebooku, oświadczenie wydaje się prezentować zgoła odmienną sytuację.
Allegro: pojedyncze przypadki oszustw
Pierwsze oznaki korzystania z AI w niecnym celu można zarejestrować także w serwisie Allegro. Jeden z użytkowników Allegro Społeczności zaprezentował zdjęcie opakowania po perfumach, które kupił od niego klient z Czech.
„Kupujący z Czech zakupił zestaw kosmetyków, po czy po miesiącu zgłosił reklamację z informacją, że przesyłka jest cała, ale produkty uszkodziły się, dodał: Wczoraj były urodziny mojego dziadka, to był dla niego prezent, ale był rozczarowany, bo wszystko było uszkodzone, paczka została rozpakowana dopiero wczoraj. Załączył zdjęcie uszkodzonego produktu, tak nieprawdopodobne, że zweryfikowaliśmy jego prawdziwość w programie wykrywającym treści generowane przez AI, co w 98 proc. potwierdziło jego fałszerstwo. Reklamacja została przez nas odrzucona, jednak do rozmowy włączył się chatbot, czekamy na rozwój sytuacji” – napisał sprzedający (pisownia oryginalna - przyp. red.).
Zdjęcie sprawdził w oprogramowaniu zerogpt.com – ten detektor umożliwia zweryfikowanie czy dany materiał powstał za pomocą narzędzi AI. Wynik, jaki uzyskał, był jednoznaczny.
Zdjęcie użytkownika LivroDePerfumes prezentujące przeróbkę AI na forum społeczności Allegro. Fot: LivroDePerfumes / LivroDePerfumes / InnePoprosiliśmy Allegro o komentarz do sprawy. Marcin Gruszka, rzecznik platformy, stwierdził w odpowiedzi dla WNP: - Nie możemy zdradzać wszystkich szczegółów, ale możemy zapewnić, że mieliśmy do czynienia jedynie z pojedynczymi takimi przypadkami, więc skala jest znikoma. Każda reklamacja jest w Allegro rozpatrywana indywidualnie, z uwzględnieniem decyzji samego sprzedającego, co pomaga nam trzymać odpowiednią pieczę nad tego rodzaju procesami – zaznacza.
Zapewnia też, że platforma ma odpowiednie procedury blokowania kont kupującym, którzy działają nieuczciwie. - Każdorazowo też, np. w ramach dyskusji związanych z poszczególnymi transakcjami, weryfikujemy okoliczności, by określić, czy zgłoszenie kwalifikuje się do obsługi przez sprzedającego, czy też decyzja powinna zapaść po stronie Allegro – dodaje.
Poprosiliśmy również OLX o komentarz, czy obserwuje tego typu praktyki w swoim serwisie. Platforma nie udzieliła nam jednak odpowiedzi.
Ekspert: AI to kolejne cyberzagrożenie, oto jak się chronić
Mały biznes e-commerce już dziś jest szczególnie narażony na różnego rodzaju cyberzagrożenia, dlatego działając w e-handlu, trzeba mieć zdecydowanie większy poziom świadomości i umiejętności cyfrowych niż przeciętny użytkownik internetu.
Kamil Suska, ekspert ds. bezpieczeństwa ofensywnego, prezes SUSEC, zaznacza, że nadużycia z wykorzystaniem generatywnej AI stanowią kolejne, coraz powszechniejsze ryzyko.
- By się przed tym chronić, sprzedawcy mogą wdrażać techniczne środki dowodowe, takie jak wideo pakowania w jednym ujęciu, identyfikatory egzemplarzy: numery seryjne, mikrooznaczenia oraz archiwizację materiałów z hashem plików. Powszechną praktyką staje się również oznaczanie paczek jako pakowanych „pod nadzorem monitoringu” – mówi WNP.
Według niego, weryfikując reklamacje, warto analizować spójność uszkodzeń z dokumentacją przedwysyłkową, sprawdzać metadane EXIF (to dane techniczne dotyczące np. modelu aparatu, daty i czasu wykonania zdjęcia – przyp. red.) i charakterystyczne zniekształcenia obrazu wskazujące na generację lub manipulację AI.
- Takie zdjęcia często też posiadają widoczne gołym okiem: nienaturalne pęknięcia, brak śladów użytkowania wokół „uszkodzenia”, idealne światło, brak cieni, rozmyte tło tylko wokół uszkodzenia – wymienia Kamil Suska i dodaje, że do wstępnej oceny obrazu AI można użyć detektorów (np. Hive Moderation), które analizują strukturę pikseli i ślady syntetycznej kompresji. Uzyskany przez użytkownika wynik to jednak sygnał, a nie dowód rozstrzygający, który daje 100 proc. pewności, że to oszustwo.
Ostatecznie kluczowe pozostaje żądanie zwrotu fizycznego towaru, ponieważ tylko porównanie realnego przedmiotu z wcześniej zabezpieczonymi danymi pozwala jednoznacznie potwierdzić lub wykluczyć nadużycie – komentuje dla WNP ekspert.
Z kolei zdaniem Tomasza Pietrzyka, starszego managera ds. rozwiązań technologicznych Palo Alto Networks w Europie Środkowo-Wschodniej, jednym ze sposobów ograniczenia ryzyka dla marketplace’ów czy e-commerce jest wprowadzenie lepszych procedur i procesów.
- Firmy e-commerce powinny rozważyć zmianę zasad i polityki dotyczącej reklamacji i zwrotów. Zamiast polegać wyłącznie na zdjęciach jako dowodach, mogą stosować bardziej rygorystyczne kontrole. Może to obejmować wysyłanie produktów z powrotem do sklepu przed zatwierdzeniem zwrotu kosztów, uzyskiwanie bardziej szczegółowych informacji na temat wysyłki i dostawy, wykorzystywanie nagrań wideo - zamiast lub oprócz zdjęć jako dowodu roszczenia - lub prośbę o przesłanie wielu zdjęć pokazujących uszkodzenie i produkt pod różnymi kątami. Musimy pamiętać, że narzędzia AI nieustannie się zmieniają, a metody, które sprawdzały się kilka lat temu, nie będą tak skuteczne w przyszłości i wymagają aktualizacji - tłumaczy WNP.
Jak podkreśla, użytkownicy platform również powinni mieć świadomość, że jakość zdjęć, głosów i filmów generowanych przez sztuczną inteligencję stale się poprawia. - Proste błędy, które kiedyś pomagały nam wykrywać treści tworzone przez AI, już nie występują - podkreśla.
Manipulacja za pomocą narzędzi AI to oszustwo
Warto pamiętać, że oszustwa popełniane na platformach sprzedażowych są czynami ściganymi na gruncie prawa karnego.
Adwokat Martyna Klimowicz zwraca uwagę, że celowe wprowadzanie sprzedawcy w błąd w celu uzyskania zwrotu pieniędzy może stanowić poważne przestępstwo z art. 286 §1 KK (oszustwo). - Dodatkowo manipulowanie danymi cyfrowymi - także z art. 287 KK (oszustwo komputerowe). Przy czym w tym przypadku nie ma dolnych limitów kwotowych jak przy kradzieży - każde oszustwo jest ścigane niezależnie od wartości przedmiotu – podkreśla.
Na tę kwestię zwraca też uwagę Tomasz Pietrzyk w komentarzu dla WNP.
- Oszustwa związane ze zwrotami kosztów z wykorzystaniem sztucznej inteligencji są faktycznymi oszustwami w rozumieniu art. 286 kodeksu karnego. Spełniają one wszystkie wymogi klasycznego oszustwa: celowe wprowadzenie w błąd osoby za pomocą fałszywych dowodów w celu uzyskania pieniędzy. Właśnie w ten sposób należy je traktować i ścigać na drodze prawnej. W naszej ocenie restrykcyjne przepisy, takie jak ustawa o sztucznej inteligencji, po wejściu w życie może zmniejszyć ten problem. Przynajmniej da to organom ścigania podstawę prawną i pomoże odróżnić właściwe wykorzystanie sztucznej inteligencji do tworzenia treści od podejrzanych materiałów, które nie zawierają znaków wodnych ani wyraźnych ostrzeżeń wyjaśniających, że treść została stworzona przy użyciu AI - podkreśla ekspert.
Zapytaliśmy Urząd Ochrony Konkurencji i Konsumentów, czy wie o problemie i czy ma zamiar podjąć jakieś działania w tej sprawie. Agnieszka Majchrzak z biura prasowego instytucji odpowiedziała WNP, że spór, w którym przedsiębiorca posądza konsumenta o próbę wyłudzenia, powinien rozstrzygnąć sąd. - Nie wpływały do nas skargi na próby wyłudzania pieniędzy przez przerabianie zdjęć zakupionych produktów - dodaje.