Weronika Szachniewicz dla Rzeczpospolitej: „AI w biznesie: kto odpowiada za błędy sztucznej inteligencji?”
Algorytmy AI coraz częściej podejmują decyzje wpływające na nasze zdrowie, bezpieczeństwo i kariery zawodowe. Sztuczna inteligencja, choć niewątpliwie przydatna, nie jest jednak tworem doskonałym i podobnie jak człowiek – popełnia błędy. W obliczu braku jasnych regulacji odnoszących się do podobnych sytuacji, pytanie o to, komu w takiej sytuacji przypisuje się odpowiedzialność wręcz samo się nasuwa. . Na ten temat pisze na łamach Rzeczpospolitej associate Weronika Szachniewicz, analizując przypadki, które mogą być pomocne w poszukiwaniu odpowiedzi na tytułowe pytanie.
Dynamiczny rozwój AI i jego konsekwencje prawne
Sztuczna inteligencja i algorytmy odpowiadające za automatyzację rewolucjonizują kolejne sektory gospodarki – od ochrony zdrowia, gdzie rynek rozwiązań AI wzrósł między 2022 a 2023 rokiem o około 45 proc. (do poziomu 22,4 mld USD), po branżę automotive, gdzie autonomiczne taksówki stają się codziennością w USA i Chinach. Systemy uczące się wspierają diagnostykę obrazową, dopasowują leczenie do indywidualnych cech pacjentów, a także podejmują decyzje rekrutacyjne. Jednak wraz z rosnącą autonomią algorytmów pojawia się fundamentalne wyzwanie prawne – kwestia odpowiedzialności za błędy systemów AI.
Precedensowe sprawy sądowe wyznaczają granice odpowiedzialności
Praktyka sądowa w różnych częściach świata stopniowo wyznacza ramy prawnej odpowiedzialności za działanie AI. Sprawa Pieces Technologies w Teksasie wykazała, że dostawcy narzędzi AI w ochronie zdrowia mogą ponosić odpowiedzialność za wprowadzające w błąd deklaracje marketingowe dotyczące dokładności algorytmów. Z kolei orzeczenie sądu w Miami, które zobowiazywało Teslę do wypłaty 243 milionów dolarów odszkodowania za śmiertelny wypadek pojazdu autonomicznego, pokazało, że producenci ponoszą odpowiedzialność za decyzje swoich systemów.
Równie istotna jest sprawa Mobley przeciwko Workday, gdzie sąd w Kalifornii uznał dostawcę narzędzia rekrutacyjnego opartego na AI za „agenta” pracodawcy, mogącego odpowiadać za dyskryminację kandydatów. W przypadku śmiertelnego wypadku autonomicznego samochodu Ubera w Arizonie odpowiedzialność karną poniosła jednak operatorka pojazdu, która nie monitorowała drogi. Te orzeczenia tworzą szereg precedensów, które – w obliczu braku spójnych regulacji – kształtują praktyczne granice odpowiedzialności za AI.
Należyta staranność kluczem do minimalizacji ryzyka
Aby ograniczyć ryzyko prawne i finansowe związane z wykorzystaniem algorytmów, podmioty wdrażające AI powinny traktować odpowiedzialność jako integralny element produktu i procesu. Znaczenie przy tym ma szeroko pojęta „należyta staranność”, czyli systematyczne podejście obejmujące: transparentną dokumentację ograniczeń systemu, kompleksowe testy i walidację przed wdrożeniem, ciągłe monitorowanie działania algorytmów oraz mechanizmy szybkiej korekty błędów. Równie istotne są szkolenia użytkowników dotyczące ograniczeń AI oraz zabezpieczenia umowne jasno określające warunki odpowiedzialności.
Kto ponosi odpowiedzialność prawną, gdy algorytm AI podejmie błędną decyzję wpływającą na zdrowie lub życie ludzi? Jakie precedensowe sprawy sądowe kształtują obecnie ramy odpowiedzialności za systemy sztucznej inteligencji? Jak firmy mogą minimalizować ryzyko prawne związane z wdrażaniem rozwiązań opartych na AI? Na te i wiele innych pytań w swoim tekście, który ukazał się w Rzeczpospolitej, odpowiada Weronika Szachniewicz.
