Jako branżowi obserwatorzy od dekad przyglądamy się kolejnym rewolucjom. Widzieliśmy narodziny sterowników PLC, wejście robotów współpracujących i cyfrowych bliźniaków. Dziś stoimy przed "elektrycznością XXI wieku" - sztuczną inteligencją. Jednak w obszarze bezpieczeństwa maszyn, gdzie stawką nie jest optymalizacja zysku, lecz ludzkie życie, entuzjazm musi ustąpić miejsca chłodnej kalkulacji.
Spis treści
Ostatnio na łamach portalu Automatyka B2B wybrzmiała ważna teza: AI to świetny asystent, ale fatalny decydent. W naszej firmie od lat powtarzamy klientom to samo: algorytm nie posiada empatii, instynktu samozachowawczego, a co najważniejsze - osobowości prawnej.
Halucynacje w świecie norm
Największym grzechem dzisiejszych modeli językowych (LLM) jest tzw. halucynowanie. AI potrafi z rozbrajającą pewnością siebie zacytować nieistniejący paragraf normy EN ISO 13849-1 lub pomieszać wymagania dyrektywy maszynowej z nowym rozporządzeniem 2023/1230.
Jak zauważa Luciano Floridi, profesor etyki informacji na Uniwersytecie Oksfordzkim, w swoich pracach nad etyką AI: "Sztuczna inteligencja nie rozumie prawdy; rozumie prawdopodobieństwo wystąpienia następnego słowa w ciągu”. W bezpieczeństwie maszyn nie potrzebujemy prawdopodobieństwa. Potrzebujemy pewności, że osłona zablokuje ruch niebezpieczny w czasie krótszym, niż ręka operatora dotrze do strefy zgniotu.
Kontekst, którego nie widzi kamera
Artykuł w Automatyce B2B słusznie punktuje brak zrozumienia kontekstu przez AI. My pójdziemy o krok dalej. Bezpieczeństwo to nie tylko suchy zapis w dokumentacji. To obserwacja "kultury bezpiecznej pracy" na hali. AI nie zauważy, że operatorzy notorycznie omijają kurtynę świetlną, bo jest ona zamontowana w sposób utrudniający im ergonomię pracy.
James Reason, twórca słynnego modelu "szwajcarskiego sera" w analizie błędów ludzkich, wielokrotnie podkreślał, że bezpieczeństwo to proces dynamiczny. Ekspert, wchodząc na zakład, czuje zapach przegrzanego oleju, słyszy nietypowy pisk łożyska i widzi strach w oczach pracownika. AI dostaje jedynie surowe dane tekstowe lub obraz z kamer, które są filtrem rzeczywistości, a nie jej pełnym obrazem.
Odpowiedzialność: kto naciśnie "Enter"?
Wielu menedżerów pyta nas: "Skoro AI może wygenerować ocenę ryzyka w 30 sekund, to po co płacić audytorowi za tydzień pracy?". Odpowiedź jest prosta i brutalna: bo AI nie podpisze się pod Deklaracją Zgodności WE.
W polskim porządku prawnym, zgodnie z wytycznymi Państwowej Inspekcji Pracy, odpowiedzialność za maszynę spoczywa na producencie lub użytkowniku - w przypadku modernizacji. Jeśli algorytm pominie istotne zagrożenie mechaniczne, a dojdzie do wypadku, przed prokuratorem nie stanie serwerownia w Kalifornii, lecz zarząd firmy i inżynier, który bezrefleksyjnie zaakceptował raport wygenerowany przez maszynę.
AI jako młotek, nie jako cieśla
Czy to oznacza, że powinniśmy odwrócić się od nowoczesności? Wręcz przeciwnie. W naszej codziennej pracy wykorzystujemy narzędzia wspomagane algorytmami do segregowania ogromnych zbiorów danych o awaryjności podzespołów czy do wstępnej analizy trendów w incydentach.
Jednak, jak celnie zauważył Sam Altman, CEO OpenAI: "AI jest najbardziej użyteczna tam, gdzie błędy są tanie, a weryfikacja wyników łatwa". W bezpieczeństwie maszyn błędy są najdroższe z możliwych - kosztują zdrowie pracowników.
Co dalej?
Nasza rada dla branży jest jasna: traktujmy AI jak stażystę z dostępem do ogromnej biblioteki, ale bez doświadczenia życiowego. Stażysta może przygotować szkic dokumentacji, może wyszukać powiązane normy, ale każdą jego literę musi sprawdzić doświadczony inżynier.
Bezpieczeństwo maszyn to nie jest problem matematyczny do rozwiązania przez procesor. To obietnica złożona pracownikowi, że po ośmiu godzinach pracy wróci do domu w takim samym stanie, w jakim do niej przyszedł. Tej obietnicy algorytm nie potrafi zrozumieć. My - tak.
