Coraz większa skala wykorzystania sztucznej inteligencji oraz rosnąca presja regulacyjna sprawiają, że organizacje z sektorów finansowego, ubezpieczeniowego i publicznego muszą zmierzyć się z nowym rodzajem ryzyka. Stronniczość algorytmów, brak przejrzystości podejmowanych decyzji, naruszenia prywatności czy utrata zaufania klientów mogą dziś oznaczać nie tylko straty wizerunkowe, ale również konsekwencje finansowe i prawne – wskazuje SAS w najnowszym raporcie „Jak zarządzać strategią AI w wysoce regulowanym świecie?”.
Autorzy opracowania przekonują, że w najbliższych latach przewagę konkurencyjną będą budować nie tylko organizacje dysponujące najlepszymi modelami AI, ale przede wszystkim te, które potrafią nad nimi sprawować odpowiedni nadzór. Mowa o tzw. AI governance, czyli zestawie zasad, procedur i mechanizmów kontrolnych, które mają gwarantować, że algorytmy działają zgodnie z prawem, są przejrzyste i nie prowadzą do dyskryminacji ani innych niepożądanych skutków.
Globalny trend jest jednoznaczny – sztuczna inteligencja przestaje funkcjonować w regulacyjnej próżni. Unijny AI Act wprowadza kompleksowe podejście do regulacji sztucznej inteligencji na świecie. Firmy, które nie dostosują się do nowych wymogów, mogą zostać ukarane grzywną sięgającą nawet 35 mln euro lub % globalnego rocznego obrotu – w zależności od tego, która wartość okaże się wyższa. Przepisy obejmują również przedsiębiorstwa spoza Unii Europejskiej oferujące produkty lub usługi na europejskim rynku. Raport pokazuje również, że presja regulacyjna nie ogranicza się do Europy. Stany Zjednoczone rozwijają własne standardy zarządzania ryzykiem AI, Brazylia przygotowuje ustawę opartą na klasyfikacji ryzyka systemów sztucznej inteligencji, a kolejne państwa Azji, Afryki i Ameryki Łacińskiej pracują nad lokalnymi regulacjami.
Niespodziewane zagrożenia
W ocenie autorów raportu największe zagrożenia nie wynikają z samej technologii, lecz z jej niewłaściwego wykorzystania. Modele trenowane na stronniczych danych mogą utrwalać istniejące nierówności społeczne, dyskryminować określone grupy klientów czy podejmować decyzje, których nie sposób wyjaśnić. W ubezpieczeniach oznacza to niesprawiedliwą wycenę polis. Dlatego nieprzypadkowo 78% respondentów cytowanego w raporcie badania KPMG uważa, że organizacje wykorzystujące generatywną AI ponoszą dużą odpowiedzialność za zapewnienie etycznego rozwoju i wykorzystywania tej technologii. Oczekiwania społeczne wobec firm rosną równie szybko jak możliwości samych modeli językowych.
Dojrzałość firm w wykorzystaniu AI
Według twórców opracowania większość przedsiębiorstw znajduje się dziś na etapie fragmentarycznych działań lub pojedynczych projektów pilotażowych. Dopiero najbardziej zaawansowane organizacje traktują zarządzanie AI jako element kultury organizacyjnej, angażują kierownictwo najwyższego szczebla, prowadzą regularne audyty oraz włączają pracowników w rozwój standardów odpowiedzialnego wykorzystania sztucznej inteligencji.
Gotowość do skutecznego wykorzystania AI nie zależy wyłącznie od wdrożenia odpowiednich narzędzi. Kluczowe znaczenie mają cztery wzajemnie powiązane obszary: solidne fundamenty danych i technologii, jasna strategia oraz model zarządzania, kompetencje pracowników i gotowość organizacyjna, a także umiejętność skutecznego wdrażania rozwiązań oraz mierzenia ich wpływu na wyniki biznesowe. Dopiero połączenie tych elementów pozwala przejść od pojedynczych eksperymentów do kompleksowego wykorzystania sztucznej inteligencji, które przynosi organizacji wymierne korzyści.
– Era, w której sukces wdrożenia AI zależał wyłącznie od jakości modeli i danych, dobiega końca. Dziś równie ważne stają się procesy zarządzania, zgodność z regulacjami i zdolność do budowania zaufania. Firmy, które potraktują AI governance jako strategiczną inwestycję, mogą nie tylko uniknąć kosztownych błędów i sankcji, ale także szybciej rozwijać innowacje. Te, które pozostaną przy spontanicznym wdrażaniu sztucznej inteligencji, ryzykują, że największym wyzwaniem nie okaże się sama technologia, lecz konsekwencje jej niekontrolowanego wykorzystania – mówi Miłosz Trawczyński, Country Leader SAS Polska.
Raport zwraca uwagę, że zarządzanie AI nie powinno być postrzegane jako dodatkowy etap projektu ani obowiązek wynikający z przepisów. Powinno stać się elementem codziennych procesów biznesowych – od projektowania modeli i zarządzania danymi, przez ocenę ryzyka, aż po monitorowanie efektów ich działania.
(AM, źródło: SAS)
