ONZ wzywa do moratorium na AI, która zagraża prawom człowieka

Systemy sztucznej inteligencji są wykorzystywane do określenia, kto dostaje usługi publiczne i zdecydować, kto ma szansę być zatrudniony w pracy, szef praw ONZ powiedział, ostrzegając, że dane zebrane mogą być zagrożone, nieaktualne, a nawet dyskryminacyjne.

Wysoka Komisarz Narodów Zjednoczonych ds. Praw Człowieka Michelle Bachelet wezwała w środę do wprowadzenia moratorium na sprzedaż i stosowanie systemów sztucznej inteligencji (AI), które zagrażają prawom człowieka, dopóki nie zostaną wprowadzone odpowiednie zabezpieczenia, które zapewnią, że technologia ta nie będzie nadużywana.

"Nie możemy sobie pozwolić na dalsze nadrabianie zaległości w kwestii AI - pozwalając na jej użycie z ograniczonymi lub żadnymi granicami lub nadzorem i zajmując się niemal nieuniknionymi konsekwencjami dla praw człowieka po fakcie" - powiedziała Bachelet w komunikacie prasowym.

Biuro ONZ ds. praw człowieka opublikowało w środę raport ostrzegający przed zagrożeniami związanymi z technologiami AI i podkreślający, że choć AI może służyć jako siła dobra, to może też powodować katastrofalne skutki, jeśli będzie używana nieodpowiedzialnie.

"Złożoność środowiska danych, algorytmów i modeli leżących u podstaw rozwoju i działania systemów AI, a także celowe utajnianie informacji przez podmioty rządowe i prywatne to czynniki podważające sensowne sposoby zrozumienia przez opinię publiczną wpływu systemów AI na prawa człowieka i społeczeństwo" - czytamy w raporcie.

Bachelet, która jest szefową ONZ ds. praw człowieka, podkreśliła, że aplikacje AI, które nie są zgodne z międzynarodowym prawem dotyczącym praw człowieka, muszą być zakazane.

"Potęga AI w służbie ludziom jest niezaprzeczalna, ale tak samo jak zdolność AI do karmienia naruszeń praw człowieka na ogromną skalę, praktycznie bez widoczności. Już teraz potrzebne są działania, aby dla dobra nas wszystkich postawić na straży praw człowieka przy korzystaniu z AI" - podkreśliła Bachelet.

Zdolność AI do tworzenia profili i automatyzacji podejmowania decyzji - jak również inne jej zastosowania - zagrażają niezliczonym prawom człowieka. Może wpływać na "prawa do zdrowia, edukacji, swobody poruszania się, wolności pokojowych zgromadzeń i stowarzyszeń oraz wolności słowa" - ostrzegło biuro ONZ ds. praw człowieka.

"Systemy AI są wykorzystywane do określania, kto otrzymuje usługi publiczne, decydują o tym, kto ma szansę zostać zatrudniony na danym stanowisku, i oczywiście wpływają na to, jakie informacje ludzie widzą i mogą udostępniać w sieci" - powiedziała wysoka komisarz.

W raporcie wyrażono głębokie zaniepokojenie faktem, że niektóre kraje i sektor prywatny przyjmują aplikacje AI bez uprzedniego zbadania niezliczonych zagrożeń związanych z tą technologią.

Biuro ONZ stwierdziło, że doszło już do kilku niebezpiecznych pomyłek, odnotowując przypadki, w których osobom odmówiono świadczeń socjalnych lub aresztowano je z powodu błędnego rozpoznawania twarzy.

Systemy AI często gromadzą, udostępniają, łączą i analizują dane w nieprzejrzysty sposób. Informacje zbierane przez AI mogą być zagrożone, nieaktualne, a nawet dyskryminujące.

"Ryzyko dyskryminacji związane z decyzjami napędzanymi przez AI - decyzjami, które mogą zmienić, zdefiniować lub zniszczyć ludzkie życie - jest aż nazbyt realne" - powiedziała Bachelet. "Dlatego właśnie potrzebna jest systematyczna ocena i monitorowanie skutków systemów AI, aby zidentyfikować i złagodzić ryzyko związane z prawami człowieka".

Source