Sztuczna inteligencja coraz mocniej wchodzi do kluczowych procesów ubezpieczeniowych, od obsługi klienta i likwidacji szkód po wsparcie pośredników i procesy wewnętrzne. Wraz z jej rozwojem rośnie jednak znaczenie nadzoru, audytowalności i odpowiedzialności za decyzje wspierane przez modele.
O tym, jak pogodzić tempo innowacji z wymaganiami AI Act, DORA i innych standardów, rozmawiali uczestnicy webinaru zorganizowanego 9 lipca przez Britenet i „Gazetę Ubezpieczeniową”.
W spotkaniu wystąpili Damian Jagusz, CISO i Deputy Director for Security and Digital Resilience ERGO Hestii, Tomasz Kasprzak, Chief Experience & Innovation Officer Trasti, oraz Piotr Wegner, Solutions Director Britenet. Webinar prowadziła Aleksandra E. Wysocka, redaktorka naczelna „Gazety Ubezpieczeniowej”.
AI Act to dopiero początek
Damian Jagusz przekonywał, że dobrze zaprojektowany governance może wspierać rozwój produktów, biznesu i marki, a nie tylko służyć spełnianiu obowiązków regulacyjnych.
ERGO Hestia zakończyła niedawno wdrożenie i certyfikację systemu zarządzania AI zgodnego z ISO 42001. Organizacja łączy wymagania AI Act z normą ISO i ramami NIST.
– AI Act, ISO i NIST opisują ten sam problem z różnych perspektyw. Regulacja wyznacza cele, ISO pomaga uporządkować role i odpowiedzialności, a NIST daje praktyczne wskazówki dotyczące identyfikowania i kontrolowania ryzyka – mówił Damian Jagusz.
Szczególnego znaczenia nabiera zarządzanie modelami kupowanymi od zewnętrznych dostawców. Ubezpieczyciel powinien znać ich ograniczenia, samodzielnie je testować i oceniać wpływ kolejnych aktualizacji na własne procesy.
– Sam fakt zakupu rozwiązania od renomowanego dostawcy nie zwalnia nas z odpowiedzialności. Model trzeba walidować w kontekście własnych celów biznesowych, danych, systemów i apetytu na ryzyko – podkreślał przedstawiciel ERGO Hestii.
AI trzeba monitorować po wdrożeniu
Jednym z przykładów był działający w ERGO Hestii asystent wiedzy produktowej dla pośredników. Narzędzie przeszukuje zamknięty zbiór dokumentów, w tym OWU, i przygotowuje odpowiedzi ze wskazaniem źródła.
Przyjęty próg jakości wynosi 90%, a w czerwcu rozwiązanie osiągnęło 91%. Odpowiedzi poniżej progu trafiają do człowieka, a część pozostałych jest dodatkowo sprawdzana po udzieleniu.
– To nie jest human in the loop, lecz human on the loop. Człowiek nie weryfikuje każdej odpowiedzi, ale przejmuje sprawy poniżej ustalonego progu i kontroluje wybrane wyniki post factum – wyjaśniał Damian Jagusz.
Compliance od pierwszej linijki kodu
Tomasz Kasprzak przedstawił doświadczenia Trasti z budowy Bianki, konwersacyjnego narzędzia wspierającego zgłaszanie szkód. System zbiera informacje, analizuje dokumenty i zdjęcia oraz pomaga skierować sprawę na odpowiednią ścieżkę.
Generatywna AI odpowiada za komunikację i analizę materiałów. Triaż szkód opiera się natomiast na regułach przygotowanych przez ekspertów likwidacji, a decyzję podejmuje człowiek.
– AI nie zastępuje likwidatora. Przygotowuje mu grunt do szybkiej decyzji, ale odpowiedzialność pozostaje po stronie człowieka – zaznaczył Tomasz Kasprzak.
Projekt był rozwijany zgodnie z zasadą compliance by design. Oznacza to, że nadzór człowieka, transparentność, logowanie zdarzeń i mechanizmy awaryjne zostały wpisane w architekturę rozwiązania od początku.
– Zgodność nie może doganiać wdrożenia. Musi być częścią rozwiązania od pierwszej linijki kodu. Dobrze przygotowany governance w praktyce porządkuje i przyspiesza kolejne projekty – mówił przedstawiciel Trasti.
Najtrudniejsze są halucynacje
Jednym z największych wyzwań było ograniczenie halucynacji przy zachowaniu naturalnego charakteru rozmowy.
Modele wykorzystywane w Biance mają wąsko określone role, korzystają z wewnętrznych źródeł wiedzy, a każda wiadomość jest sprawdzana pod kątem prób manipulacji. Klient wie, że rozmawia z AI, i w dowolnej chwili może przejść do formularza lub infolinii.
– Blisko połowę wysiłku poświęciliśmy na to, żeby model prowadził płynną rozmowę, ale nie wychodził poza dane źródłowe i nie generował przekonującej nieprawdy – przyznał Tomasz Kasprzak.
W razie awarii dostawcy modelu proces nie może się zatrzymać. Potrzebne są procedury ciągłości działania, alternatywne kanały obsługi i jasne zasady eskalacji.
Od błędnych odpowiedzi do błędnych działań
Piotr Wegner zwrócił uwagę, że wraz z rozwojem agentowej AI zmienia się charakter ryzyka.
– Jeszcze niedawno generatywna AI mogła udzielić złej odpowiedzi. W przypadku Agentic AI mówimy już o błędnych decyzjach i działaniach, które mogą mieć realne skutki – mówił Piotr Wegner.
Dlatego governance powinien obejmować konkretne mechanizmy techniczne: granice autonomii, punkty zatwierdzenia przez człowieka, pełny ślad decyzyjny oraz kwalifikowanie modeli i agentów do określonych zadań.
Britenet wykorzystuje do tego lokalne środowisko LLM Lab. Modele są w nim testowane w odizolowanej infrastrukturze, a dane i prompty nie opuszczają organizacji. Każdy eksperyment jest rejestrowany, wersjonowany i możliwy do odtworzenia.
– Model nie dostaje dostępu do zadań dlatego, że jest nowy i obiecujący. Musi przejść testy i uzyskać odpowiednią kwalifikację. Gdy ktoś pyta, skąd wiemy, że działa zgodnie z deklaracją, pokazujemy ewidencję i wyniki badań – wyjaśniał Piotr Wegner.
Agenty również powinny przechodzić kolejne poziomy dojrzałości: od podpowiadania człowiekowi, przez wykonywanie działań wymagających zatwierdzenia, po samodzielność w ściśle określonych granicach.
Rynek dopiero buduje zasady
Wyniki ankiet pokazały, że główną barierą skalowania AI nie są regulacje. Aż 44% uczestników wskazało brak jasno zdefiniowanych przypadków użycia.
Najwięcej organizacji znajduje się na etapie tworzenia zasad zarządzania sztuczną inteligencją. Uczestnicy uznali jednocześnie, że największa wartość biznesowa może wynikać ze zwiększania efektywności operacyjnej i automatyzacji procesów.
Najważniejszy wniosek z webinaru jest więc prosty: przewagi nie daje już sam dostęp do zaawansowanych modeli. Kluczowa staje się zdolność organizacji do wyboru wartościowych zastosowań, niezależnego testowania technologii, monitorowania jakości i utrzymywania realnego nadzoru człowieka.
Odpowiednio zaprojektowany compliance nie musi być hamulcem. Może stać się warunkiem bezpiecznego skalowania AI w ubezpieczeniach.
