Sztuczna inteligencja jest już szeroko stosowana w bankowości, ubezpieczeniach i sektorze fintech – wpływa na decyzje kredytowe, personalizację ofert i kontakt z klientem. Niesie za sobą potencjalne korzyści, ale też istotne ryzyka dla konsumentów: brak transparentności, automatyczne decyzje bez kontroli człowieka czy dyskryminację algorytmiczną. Aby pomóc konsumentom rozeznać się w zagrożeniach, Rzecznik Finansowy opublikował raport pt. „AI w finansach. Zastosowanie i ryzyko dla konsumentów oraz uprawnienia wobec instytucji finansowych”.

Dokument, którego współautorami są członkowie Doradczego Komitetu Naukowego przy Rzeczniku Finansowym – prof. Krzysztof Jajuga oraz prof. Krzysztof Waliszewski – stanowi odpowiedź na rosnącą obecność technologii sztucznej inteligencji w sektorze finansowym. Autorzy przedstawili zarówno jej potencjał, jak i zagrożenia z punktu widzenia konsumenta.

– Nie możemy patrzeć na sztuczną inteligencję wyłącznie przez pryzmat innowacji lub zagrożeń. Naszą rolą jako Rzecznika jest wskazywanie, gdzie technologia powinna służyć konsumentom, a gdzie może prowadzić do nadużyć. Konsument musi wiedzieć, jakie ma prawa, nawet gdy jego rozmówcą nie jest człowiek, ale algorytm – mówi Michał Sas, dyrektor w Departamencie Analiz i Legislacji Biura Rzecznika Finansowego.

Co znajduje się w raporcie?

Opracowanie w przystępny sposób wyjaśnia podstawowe pojęcia z zakresu sztucznej inteligencji oraz wskazuje, jak technologie te są już wykorzystywane w praktyce przez banki, firmy ubezpieczeniowe czy platformy inwestycyjne. W szczególności dokument zawiera:

• wyjaśnienie pojęć sztucznej inteligencji oraz kluczowych technologii takich jak: uczenie maszynowe (machine learning), głębokie uczenie (deep learning) oraz wielkie modele językowe (LLM);
• opis praktycznego zastosowania AI w finansach, m.in. w ocenie ryzyka kredytowego, automatycznej obsłudze klienta oraz analizie zachowań konsumenckich i personalizacji ofert;
• analizę zagrożeń i wyzwań, takich jak brak transparentności działania algorytmów, ryzyko błędnych decyzji podejmowanych przez AI, a także potencjalna dyskryminacja lub naruszenie prywatności konsumentów;
• wskazanie obowiązków instytucji finansowych oraz praw przysługujących konsumentom – także w kontekście relacji z „cyfrowym doradcą” czy algorytmem decyzyjnym.

AI a odpowiedzialność instytucji finansowych

Sztuczna inteligencja staje się coraz bardziej powszechna – także tam, gdzie podejmowane są decyzje finansowe dotyczące naszych kredytów, polis czy inwestycji. Autorzy raportu analizują m.in. w jaki sposób AI może wpływać na ocenę zdolności kredytowej, analizę ryzyka ubezpieczeniowego, czy też rekomendowanie produktów finansowych.

Wskazują również, jakie obowiązki spoczywają na instytucjach finansowych, gdy wprowadzają rozwiązania oparte na sztucznej inteligencji. W tym jakie mają obowiązki informacyjne, oraz jak powinny zapewnić transparentność działania systemów oraz odpowiednie procedury nadzoru. Zwracają uwagę, gdzie należy zachować ostrożność.

– Jeśli mówimy o szansach i zagrożeniach, jakie może generować dla konsumentów stosowanie przez firmy inwestycyjne technologii opartych na sztucznej inteligencji, to dobrze je ilustrującym przykładem jest robo-doradztwo. Z jednej strony upowszechnia dostęp do doradztwa inwestycyjnego oraz pozwala konsumentom poznać i porównać szeroką gamę globalnie nawet oferowanych produktów. Z drugiej – działa często według schematów oraz ogranicza bądź eliminuje bezpośredni kontakt z tradycyjnymi doradcami inwestycyjnymi, co może prowadzić do niedopasowania oferty do indywidualnych potrzeb – zwraca uwagę prof. Krzysztof Waliszewski.

Ważna edukacja konsumentów

W tym kontekście kluczowe znaczenie ma edukacja konsumentów oraz promocja odpowiedzialnego podejścia do wdrażania innowacji przez instytucje finansowe.

– Technologie oparte na sztucznej inteligencji mogą z dobrym skutkiem wspierać konsumentów w podejmowaniu decyzji finansowych. Należy jednak pamiętać, że są to wciąż narzędzia, których jakość i skuteczność zależna jest od wielu czynników. Dlatego niezwykle istotną kwestią jest zrozumienie przez użytkownika przeznaczenia i sposobu funkcjonowania danego narzędzia, którego nie osiągniemy bez odpowiedniej transparentności po stronie usługodawców – podkreśla prof. Krzysztof Jajuga. – Z punktu widzenia konsumenta szczególnie istotne jest, by wiedzieć, że nawet jeśli decyzję podejmuje algorytm, nie zwalnia to instytucji finansowej z odpowiedzialności. Konsument nadal ma prawo do informacji, do wyjaśnień, a w wielu przypadkach – także do odwołania od decyzji podjętej automatycznie – dodaje.

Autorzy raportu podkreślają, że technologia sztucznej inteligencji rozwija się w niespotykanym dotąd tempie, co powoduje, że regulacje prawne często nie nadążają za zmianami technologicznymi. Z tego względu apelują, by wdrażanie rozwiązań opartych na AI zawsze odbywało się z poszanowaniem praw konsumentów, a nie tylko w pogoni za efektywnością i innowacyjnością.

W raporcie wskazano również obszary, które wymagają dalszej analizy prawnej oraz ewentualnej interwencji ustawodawczej, np. konieczność zapewnienia realnej możliwości zakwestionowania decyzji podjętej przez algorytm czy zapewnienia niezależnego nadzoru nad systemami decyzyjnymi.

Pełny raport dostępny jest TUTAJ. 

(KS, źródło: RzF)