Nie pozwól algorytmom rządzić Twoim koszykiem: systemy rekomendacyjne w dobie Omnibusa

Mikolaj Morzy, Miroslaw Sobieraj, Sebastian SikoraarXiv 2024 · DOI · arXiv

Wstęp

Unijna dyrektywa Omnibus wprowadziła szereg istotnych zmian w ochronie konsumentów w internecie, m.in. poprzez regulację przejrzystości opinii oraz historii cen. Jednak, jak wskazują autorzy niniejszego opracowania, w obecnym porządku prawnym istnieje istotna luka: systemy rekomendacyjne. Choć algorytmy te mają kluczowy wpływ na decyzje zakupowe, pozostają one „czarnymi skrzynkami”, których mechanizmy działania są ukryte przed użytkownikiem.

Problem: Rekomendacje jako narzędzie manipulacji

Współczesne przepisy wymagają od platform e-commerce ujawniania kryteriów sortowania wyników wyszukiwania. Systemy rekomendacyjne, takie jak sekcje „Polecane dla Ciebie” czy „Inni kupili również”, są de facto formą „ukrytego wyszukiwania” inicjowanego przez sprzedawcę, a nie przez świadome zapytanie użytkownika.

Przykład sekcji rekomendacji „Inni kupili również”, która obecnie pozostaje poza ścisłym nadzorem dyrektywy Omnibus.

Brak transparentności w tym obszarze otwiera pole do stosowania tzw. dark patterns. Sprzedawcy mogą konfigurować algorytmy tak, aby priorytetyzowały produkty o najwyższej marży lub te, których termin ważności dobiega końca, zamiast produktów najlepiej dopasowanych do potrzeb klienta. Może to prowadzić do ignorowania istotnych preferencji użytkownika (np. dietetycznych) na rzecz optymalizacji zysku i czyszczenia magazynów.

Architektura systemów rekomendacyjnych

Analiza opiera się na doświadczeniach z wdrożenia Inteligentnego Systemu Rekomendacji (ISR). Techniczna struktura takich rozwiązań składa się zazwyczaj z trzech poziomów:

  1. Zdarzenia atomowe: Rejestrowanie szczegółowych interakcji, takich jak czas spędzony na karcie produktu czy dodanie do koszyka.
  2. Algorytmy: Wykorzystanie metod takich jak Correlated Cross-Occurrence (CCO) do analizy powiązań między produktami i profilami użytkowników.
  3. Reguły biznesowe: Warstwa decyzyjna, w której parametry algorytmiczne są korygowane przez cele biznesowe sklepu. To właśnie tutaj dochodzi do największego ryzyka manipulacji, gdy „trafność” rekomendacji jest definiowana przez pryzmat marży, a nie satysfakcji klienta.

Kluczowe postulaty

Autorzy argumentują, że pojęcie „trafności” (relevance) jest często mitem marketingowym. W rzeczywistości jest to złożona formuła matematyczna łącząca prawdopodobieństwo konwersji ze stanami magazynowymi i zyskiem. Aby przywrócić podmiotowość konsumentom, proponuje się:

  • Obowiązek transparentności: Sprzedawcy powinni informować, dlaczego dany produkt jest rekomendowany (np. „rekomendacja oparta na wysokiej marży” vs „rekomendacja na podstawie Twoich zakupów”).
  • Autonomia użytkownika: Zapewnienie narzędzi pozwalających na resetowanie historii profilowania lub wybór kryteriów rekomendacji.
  • Audyty etyczne: Wprowadzenie standardów weryfikujących algorytmy pod kątem uprzedzeń i stereotypizacji (np. ze względu na wiek czy płeć) przed ich wdrożeniem.

Podsumowanie i przyszłe kierunki

Niniejsza analiza wskazuje na konieczność ewolucji prawa konsumenckiego w stronę regulacji AI w handlu detalicznym. Choć praca ma charakter teoretyczno-postulatowy, wyznacza kierunki dla przyszłych badań nad projektowaniem interfejsów (UI/UX), które w sposób przystępny wyjaśniałyby skomplikowane decyzje algorytmiczne, nie powodując przy tym przeciążenia informacyjnego u użytkownika.

Summary updated

BibTeX
@misc{morzy2024nie,
  author = {Mikolaj Morzy and Miroslaw Sobieraj and Sebastian Sikora},
  title = {{Nie pozwól algorytmom rządzić Twoim koszykiem: systemy rekomendacyjne w dobie Omnibusa}},
  year = {2024},
  eprint = {2402.01701},
  archivePrefix = {arXiv},
  url = {https://arxiv.org/abs/2402.01701},
}
Figure