Responsible AI (odpowiedzialna AI) to zbiór zasad projektowania, wdrażania i monitorowania systemów sztucznej inteligencji w sposób minimalizujący ryzyka dla użytkowników, pracowników i społeczeństwa. W kontekście korporacyjnym etyka AI jest jednocześnie wymogiem regulacyjnym i elementem zarządzania ryzykiem operacyjnym.
Różne organizacje i organy regulacyjne opublikowały zestawy zasad etycznej AI. Najczęściej powtarzające się elementy: przejrzystość (użytkownicy wiedzą, kiedy wchodzą w interakcję z systemem AI), sprawiedliwość (brak systematycznej dyskryminacji), niezawodność (system działa zgodnie z przeznaczeniem), prywatność (ochrona danych osobowych), bezpieczeństwo (odporność na ataki) i nadzór człowieka (możliwość interwencji i korekty).
Przejrzystość systemu AI obejmuje: ujawnienie faktu stosowania AI w kontakcie z użytkownikiem, dostępność opisu funkcjonowania systemu (nie kodu, ale logiki), dokumentację danych treningowych i procesów walidacji oraz rejestr decyzji podjętych przez system z możliwością audytu.
W środowisku korporacyjnym przejrzystość jest ważna zarówno wobec pracowników korzystających z systemu, jak i wobec klientów, jeśli AI uczestniczy w procesach obsługi lub sprzedaży.
System AI może powielać lub wzmacniać istniejące uprzedzenia zawarte w danych treningowych. W procesach HR — rekrutacja, ocena pracownicza — narzędzia AI podlegają przepisom antydyskryminacyjnym. Organizacje muszą przeprowadzać regularne audyty wyników systemu z podziałem na grupy chronione (płeć, wiek, narodowość).
Human-in-the-loop (HITL) to zasada utrzymywania człowieka w pętli decyzyjnej systemów AI. Poziom wymaganego nadzoru zależy od stawki decyzji: niskie ryzyko (rekomendacja treści) może działać bez nadzoru, wysokie ryzyko (decyzja kredytowa, ocena pracownicza) wymaga zatwierdzenia przez człowieka. AI Act UE definiuje kategorie systemów wysokiego ryzyka, gdzie HITL jest obowiązkowy.
Rozporządzenie UE w sprawie sztucznej inteligencji (AI Act, 2024) wprowadza klasyfikację systemów AI według ryzyka: niedopuszczalne (zakaz), wysokie ryzyko (obowiązki dokumentacyjne, audyt, HITL), ograniczone ryzyko (obowiązki przejrzystości) i minimalne ryzyko (brak regulacji). Systemy AI stosowane w decyzjach dotyczących zatrudnienia, kredytu, edukacji i dostępu do świadczeń publicznych kwalifikują się jako systemy wysokiego ryzyka.