W cyfrowym świecie e-commerce, sztuczna inteligencja odgrywa coraz większą rolę, rewolucjonizując sposób, w jaki dokonujemy zakupów online. Od personalizowanych rekomendacji produktów, po inteligentną obsługę klienta, AI zmienia nasze doświadczenia zakupowe.
Według raportu McKinsey Global Institute to właśnie obsługa klienta zmienia się najbardziej ze wszystkich aspektów działania biznesu. Przyjmuje się, że sztuczna inteligencja może zwiększyć jej efektywność aż o 45%. Wraz z dynamicznym rozwojem technologicznym, pojawiają się również istotne kwestie prawne, na które przedsiębiorcy prowadzący sprzedaż online powinni zwrócić szczególną uwagę. Milowym krokiem w kierunku kompleksowej regulacji obszaru sztucznej inteligencji jest przyjęte 13 marca 2024 r. rozporządzenie w sprawie sztucznej inteligencji (AI Act).
AI Act to pierwsze przepisy, które regulują wykorzystanie sztucznej inteligencji w biznesie. Przepisy bardzo ważne, bo ustalają szereg reguł, ale i zakazów, które mają ochronić kupujących przed szkodliwym wykorzystaniem sztucznej inteligencji. 21 maja 2024 r. Rada UE opublikowała ostateczną wersję aktu, tym samym go przyjmując. W najbliższych dniach zostanie opublikowany w Dzienniku Urzędowym UE, a wejdzie w życie 20 dni po publikacji. Przepisy dotyczące niedozwolonych praktyk zaczną obowiązywać po kolejnych 6 miesiącach, kodeks postępowania – po 9, a regulacje dotyczące AI ogólnego przeznaczenia – po 12. Obowiązki dotyczące systemów wysokiego ryzyka będą obowiązywać z kolei po 36 miesiącach. Oznacza to, że AI Act w pełnej formie będzie obowiązywał od 2027 r. Przedsiębiorcy jednak będą musieli przestrzegać przepisów dotyczących niedozwolonych praktyk prawdopodobnie już pod koniec 2024 r.
Badania wskazują jednoznacznie: konsumenci z pokolenia Z i Millenialsów nie tylko akceptują wykorzystywanie AI, ale wręcz oczekują tego typu rozwiązań w e-handlu. Jednym z najważniejszych zastosowań AI w tej dziedzinie jest personalizacja. Sztuczna inteligencja umożliwia przeprowadzenie analizy danych dotyczących historii i nawyków zakupowych użytkownika, co pozwala na lepsze zrozumienie jego preferencji i potrzeb. Na tej podstawie można personalizować oferty i rekomendacje produktów dla każdego konsumenta indywidualnie – przedstawiać rabaty i promocje, które są najbardziej skorelowane z jego zainteresowaniami.
Lepsza personalizacja przekłada się na większe zaangażowanie klientów i większe szanse na finalizację transakcji, a co za tym idzie osiąganie lepszych wyników sprzedażowych. Co więcej, sztuczna inteligencja, analizując trendy rynkowe, może dostarczać cenne informacje biznesowe, a przedsiębiorcy, w oparciu o te informacje, będą mogli podejmować bardziej trafne decyzje.
Ale uwaga! Zaangażowanie AI do personalizacji sprzedaży to na pewno pokusa do stosowania technik, które mogą zostać uznane za podprogowe. Szczególnie przy wykorzystaniu AI wydaje się, że jest to możliwe na zupełnie innym poziomie niż dotychczas. Łatwo sobie wyobrazić, że mamy system AI spięty z naszym e-commerce, który to system dynamicznie, w czasie rzeczywistym, profilując użytkownika sklepu moderuje tło, kolory czy muzykę, by podprogowo wpłynąć na zachowanie kupującego. AI Act kategorycznie zakazuje stosowania tego rodzaju technik. Odpowiedzialność za ich wykorzystanie ponosi nie tylko sam producent systemu AI, ale również podmiot korzystający. Warto więc pamiętać o tym ograniczeniu w korzystaniu z AI.
Być może najważniejszą sprawą, na którą już zwraca się uwagę, jest ochrona danych osobowych w procesie sprzedażowym korzystającym z AI. Sposób w jaki należy chronić dane osobowe reguluje oczywiście RODO.
Kluczowe jest, by korzystając z AI w sprzedaży nie naruszać zasad ochrony danych.
Co może pójść nie tak?
Przede wszystkim dbajmy o to, by w ogóle mieć zgodę na przetwarzanie danych, które do nas trafiają. By nie okazało się, że nasz nowy, wspaniały system AI pozyskuje dla nas dane, co do których nie mamy żadnych praw.
Po drugie, AI często wykorzystuje się do automatycznego podejmowania decyzji, w tym do profilowania użytkowników w celu personalizacji ofert. RODO wymaga, aby użytkownicy byli informowani o automatycznym podejmowaniu decyzji, w tym profilowaniu oraz mieli prawo do wyrażenia sprzeciwu wobec takiego przetwarzania. Ponadto muszą mieć zapewnioną możliwość interwencji ludzkiej w proces decyzyjny.
Zastosowanie sztucznej inteligencji w e-commerce umożliwia również oferowanie tzw. dynamicznych cen. Oznacza to, że cena nie jest ustalana ręcznie na cały okres sprzedaży, tylko dostosowuje się do nieustannie zmieniającego się rynku. Precyzując, system sztucznej inteligencji dokonuje szczegółowej analizy danych dotyczących popytu i konkurencji, aby określić optymalną cenę dla każdego produktu. Na przykład, jeśli AI wykryje spadek popytu na określony produkt, może automatycznie zmniejszyć jego cenę, aby zachęcić użytkowników platformy sprzedażowej do zakupu właśnie tego produktu. Ważne, aby kierować się przy tym zasadami uczciwej konkurencji i respektować tzw. przepisy antymonopolowe.
Co więcej, od 2023 r. obowiązują nowe zasady prezentacji obniżek cen wprowadzone przez Dyrektywę Omnibus. Zgodnie z nimi, tuż obok ceny promocyjnej, przedsiębiorcy powinni podawać najniższą cenę z 30 dni przed obniżką. Firmy, które chcą algorytmicznie personalizować ceny, muszą nie tylko przestrzegać przepisów Dyrektywy Omnibus, lecz także informować o tym konsumenta – w klauzulach informacyjnych lub w polityce prywatności serwisu.
Przedsiębiorcy wykorzystujący dynamic pricing powinni unikać sytuacji, w której z uwagi na rozmiar przedsiębiorstwa oraz stopień zaawansowania posiadanych algorytmów zyskują znaczącą przewagę nad mniejszymi przedsiębiorstwami, gdyż może to zaburzać pluralizm rynkowy. Dodatkowo, dynamiczne ustalanie cen może skłaniać konkurencyjne przedsiębiorstwa do nieformalnego porozumienia w kwestii cen, co jest sprzeczne z zasadami uczciwej konkurencji i może być interpretowane jako próba manipulacji rynkiem, co z kolei stanowi naruszenie przepisów antymonopolowych.
Jest to więc kolejne prawne ograniczenie w korzystaniu z AI. Tym razem nie wynika z samego AI Act, ale z innych przepisów, których wykorzystanie AI nie może naruszać.
Sztuczna inteligencja jest wykorzystywana również do automatyzacji obsługi klienta za pomocą wirtualnych asystentów i chatbotów wpierających klientów w procesie zakupowym, odpowiadając na pytania użytkowników dotyczące produktów, czasu i metod wysyłki. Chatboty coraz częściej podpowiadają rekomendowane produkty, a także przypominają o tych, pozostawionych w koszyku. Mogą również pomóc w dynamicznym prezentowanie reklam np. w postaci remarketingu.
Niektóre z tych działań z pewnością są kolejnymi sposobami prowadzenia marketingu, na które musisz mieć zgodę od użytkownika serwisu czy klienta. Warto upewnić się, że dotychczas zbierane zgody marketingowe będą wystarczające do stosowania nowych narzędzi, jakie bez wątpliwości zaoferuje AI.
Na jakie kwestie prawne należy zwrócić uwagę tworząc system AI?
Rozporządzenie przyjęte 13 marca 2024 r. z jednej strony ma chronić prawa i wolności osób fizycznych, a z drugiej zapewnić, że narzędzia oparte na sztucznej inteligencji będą mogły być dalej rozwijane, ale już w jasno określonych ramach prawnych. Stąd liczne ograniczenia dla samych twórców AI – wadliwe wykorzystanie AI to jedna sprawa, ale przecież warto zadbać o poprawność systemów już na etapie ich tworzenia.
W praktyce, nowe przepisy zakładają kategorie ryzyka dla systemów sztucznej inteligencji, od ryzyka niedopuszczalnego po minimalne lub żadne ryzyko. Systemy o wysokim ryzyku, takie jak te wykorzystywane w infrastrukturze krytycznej czy w zatrudnieniu, będą podlegać surowym wymogom, w tym ocenie zgodności przed wprowadzeniem na rynek. Przyjęte regulacje zakładają także wprowadzenie kategorii zakazanych praktyk w obszarze sztucznej inteligencji. Do tych praktyk zalicza się m.in. stosowanie rozwiązań opartych na technikach podprogowych oraz systemów, które mogą prowadzić do dyskryminacji określonych grup osób. Ponadto, nowe regulacje zabraniają wykorzystywania sztucznej inteligencji do tzw. oceny osób obywatelskich, co oznacza, że nie będzie można jej stosować do śledzenia stylu życia obywateli.
Przede wszystkim, istotna jest transparentność systemów opartych na sztucznej inteligencji. Rozporządzenie nakłada na dostawców systemów AI obowiązek działania w sposób jasny i zrozumiały dla użytkowników. Oznacza to, że wszelkie decyzje podejmowane przez AI, które mają wpływ na doświadczenia zakupowe klientów, muszą być wyjaśnione w sposób przystępny. Na przykład, jeśli sklep internetowy wykorzystuje AI do generowania rekomendacji produktów, przedsiębiorca musi udostępnić klientom informacje na temat sposobu, w jaki te rekomendacje są tworzone oraz jakie dane są wykorzystywane do tego celu. Ważne, aby te algorytmy były transparentne, zrozumiałe dla użytkowników i oparte na uczciwych zasadach, tak aby uniknąć przypadków manipulacji.
Warto w tym miejscu zwrócić uwagę na coraz bardziej powszechne zjawisko dark patterns, czyli techniki manipulacji, używane w interfejsach użytkownika. Celem stosowania takich praktyk jest skłonienie użytkownika do podejmowania działań sprzecznych z jego intencjami. Jednym z powszechnych przykładów dark patterns są tzw. „trick questions". System koncentruje się na zadawaniu klientom pytań, które mogą być mylące lub wprowadzające w błąd. Na przykład, podczas procesu zakupowego, użytkownik może zostać poproszony o zaznaczenie pola wyboru, którym domyślnie zgadza się na subskrypcję newslettera lub dodatkowych usług, nawet jeśli nie jest tego świadomy.
Wydaje się, że wymuszenie takiego działania będzie szczególnie łatwe przy wykorzystaniu AI. Korzystanie z dark patterns jest nie tylko kwestią etyki biznesowej. Stanowi także naruszenie licznych przepisów, w szczególności przepisów chroniących konsumentów. Uważaj na tego typu działania, zagrożone są bardzo wysokimi karami!
Kolejną istotną kwestią jest odpowiedzialność za szkody wyrządzone przez systemy oparte na sztucznej inteligencji. AI Act określa, że dostawcy systemów AI ponoszą odpowiedzialność za ewentualne szkody spowodowane przez działanie ich systemów. Odpowiedzialność ponoszą jednak także podmioty wykorzystujące AI w swojej działalności biznesowej. W związku z tym, przedsiębiorcy powinni stosować odpowiednie zabezpieczenia i przeprowadzać ich liczne kontrole, aby minimalizować ryzyko powstania szkód wynikających z błędów w działaniu AI.
Na przykład, jeśli sklep internetowy używa AI do automatycznego przetwarzania zwrotów, a system dokonuje błędnej oceny i odmawia zwrotu, przedsiębiorca może być pociągnięty do odpowiedzialności za wyrządzone szkody.
W takich przypadkach istotne jest, aby przedsiębiorcy mieli odpowiednie zabezpieczenia prawne, a w przedsiębiorstwach były wprowadzone odpowiednie procedury zarządzania ryzykiem.
Idąc dalej, sztuczna inteligencja może być podatna na wprowadzenie błędnych założeń lub danych, co może prowadzić do przypadków dyskryminacji lub nierówności w procesie zakupowym. Na przykład, algorytmy rekomendujące produkty mogą faworyzować pewne grupy klientów, a wykluczać inne. AI Act nakłada bezwzględny obowiązek zapobiegania tego rodzaju naruszeniom oraz podejmowania działań w celu wyeliminowania wszelkich przejawów dyskryminacji czy nierówności wynikających z działania sztucznej inteligencji. Takie działania mogą stanowić naruszenie licznych, innych przepisów, jak choćby przepisów o nieuczciwej konkurencji czy przepisów chroniących konsumentów.
AI to nie tylko zagrożenia.
AI może być stosowana do dbania o bezpieczeństwo transakcji online z wykorzystaniem wrażliwych danych z kart płatniczych. Algorytmy analizują podejrzane wzorce i działania, chroniąc klientów przed ryzykiem oszustw i nieautoryzowanych transakcji. Dzięki temu, użytkownik serwisu, oferującego sprzedaż online, nie będzie narażony na scam. System AI będzie chronił użytkownika, śledząc ruchy na portalu sprzedażowym, identyfikując podejrzane działania, czy eliminując próby phishingu, w których użytkownicy są namawiani do ujawniania swoich danych osobowych lub finansowych.
Sztuczna inteligencja może być więc nieocenioną pomocą w budowaniu poczucia bezpieczeństwa podczas dokonywania zakupów online. Warto o tym pamiętać i być może zainwestować także w takie systemy. Na pewno odpłaci się to sprzedawcom dzięki większemu zadowoleniu użytkowników ich sklepów www.
Pierwsza zasada – dobrze przemyśl wykorzystanie AI!
Sztuczna inteligencja będzie odgrywać coraz większą rolę w e-commerce, tworząc nowe standardy w obszarze relacji z użytkownikami. Dzięki temu każde doświadczenie zakupowe stanie się interakcją, podobną do rozmowy z osobistym stylistą, który doskonale zna nasze gusta i potrzeby, być może nawet lepiej niż my sami.
Stosowanie sztucznej inteligencji w e-commerce niesie za sobą wiele możliwości, ale także wymaga uwzględnienia złożonych kwestii prawnych. Przestrzeganie przepisów zawartych w AI Act oraz innych aktach prawnych jest kluczowe dla zapewnienia uczciwych, przejrzystych i bezpiecznych doświadczeń zakupowych online dla wszystkich użytkowników.
Przedsiębiorcy, oferujący sprzedaż online powinni więc dostosować swoje działania tak, aby zapewnić ich zgodność z obowiązującymi przepisami prawa.
AI to, póki co niezbadane pole możliwości wpływania na sprzedaż. Dlatego pamiętaj – zanim zdecydujesz się na skorzystanie z nowego systemy AI, sprawdź, czy nie proponuje on działań sprzecznych z dotychczasowymi przepisami i normami społecznymi.
Powyższy artykuł pochodzi z e-booka "9 sposobów na udoskonalenie procesu sprzedaży", wydanego przez Silesian Startup Foundation oraz Fundację Startup Podbeskidzie.
Link do pobrania tutaj
