Unia Europejska zaproponowała zasady, które ograniczyłyby lub zakazałyby niektórych zastosowań sztucznej inteligencji w jej granicach, w tym przez gigantów technologicznych z siedzibą w USA i Chinach.
.
Zasady te są najbardziej znaczącym międzynarodowym wysiłkiem w celu uregulowania sztucznej inteligencji do tej pory, obejmując rozpoznawanie twarzy, autonomiczną jazdę i algorytmy, które napędzają reklamę online, automatyczne zatrudnianie i ocenę zdolności kredytowej. Proponowane zasady mogą pomóc w kształtowaniu globalnych norm i przepisów dotyczących obiecującej, ale kontrowersyjnej technologii.
"Jest to bardzo ważne przesłanie dla całego świata, że pewne zastosowania sztucznej inteligencji nie są dopuszczalne w społeczeństwie opartym na demokracji, rządach prawa i prawach podstawowych" - mówi Daniel Leufer, analityk polityki europejskiej w Access Now, europejskiej organizacji non-profit zajmującej się prawami cyfrowymi. Leufer twierdzi, że proponowane zasady są niejasne, ale stanowią znaczący krok w kierunku kontroli potencjalnie szkodliwych zastosowań technologii.
Debata na ten temat będzie prawdopodobnie uważnie obserwowana za granicą. Przepisy miałyby zastosowanie do każdej firmy sprzedającej produkty lub usługi w UE.
Inni zwolennicy twierdzą, że w propozycjach UE jest zbyt wiele luk, aby chronić obywateli przed wieloma nadużyciami AI. "Fakt, że istnieją pewnego rodzaju zakazy, jest pozytywny" - mówi Ella Jakubowska, policy and campaigns officer w European Digital Rights (EDRi) z siedzibą w Brukseli. Ale jej zdaniem niektóre zapisy pozwolą firmom i organom rządowym na dalsze wykorzystywanie AI w wątpliwy sposób.
Proponowane przepisy sugerują, na przykład, zakazanie "wysokiego ryzyka" zastosowań AI, w tym wykorzystywania AI przez organy ścigania do rozpoznawania twarzy - ale tylko wtedy, gdy technologia ta jest wykorzystywana do wykrywania osób w czasie rzeczywistym w przestrzeni publicznej. Przepis ten sugeruje również potencjalne wyjątki, gdy policja prowadzi śledztwo w sprawie przestępstwa, za które grozi kara co najmniej trzech lat pozbawienia wolności.
Jakubowska zauważa więc, że technologia nadal mogłaby być wykorzystywana retrospektywnie w szkołach, firmach czy centrach handlowych, a także w szeregu policyjnych dochodzeń. "Jest wiele przepisów, które nie idą wystarczająco daleko, jeśli chodzi o podstawowe prawa cyfrowe" - mówi. "Chcieliśmy, aby zajęli odważniejsze stanowisko".
Rozpoznawanie twarzy, które stało się o wiele bardziej skuteczne dzięki ostatnim postępom w AI, jest wysoce kontrowersyjne. Jest ono szeroko stosowane w Chinach i przez wielu funkcjonariuszy organów ścigania w USA, za pośrednictwem komercyjnych narzędzi, takich jak Clearview AI; niektóre miasta USA zakazały policji korzystania z tej technologii w odpowiedzi na oburzenie opinii publicznej.
Proponowane przepisy UE zabraniałyby również "oceny społecznej opartej na sztucznej inteligencji do celów ogólnych, prowadzonej przez władze publiczne", jak również systemów sztucznej inteligencji, które są ukierunkowane na "szczególne wrażliwe grupy" w sposób, który "istotnie zniekształca ich zachowanie", powodując "szkody psychiczne lub fizyczne". Mogłoby to potencjalnie ograniczyć wykorzystanie AI do oceny zdolności kredytowej, zatrudniania lub niektórych form reklamy inwigilacyjnej, na przykład gdyby algorytm umieszczał reklamy zakładów bukmacherskich przed osobami uzależnionymi od hazardu.
Przeszukaj naszą bazę danych sztucznej inteligencji i odkryj historie według sektorów, technologii, firm i nie tylko.
Unijne przepisy wymagałyby od firm wykorzystujących sztuczną inteligencję w zastosowaniach wysokiego ryzyka przedstawienia organom regulacyjnym ocen ryzyka, które wykazałyby ich bezpieczeństwo. Firmy, które nie dostosują się do tych zasad, mogłyby zostać ukarane grzywną w wysokości do 6 proc. globalnej sprzedaży.
Proponowane zasady wymagałyby od firm informowania użytkowników o próbach wykorzystania sztucznej inteligencji do wykrywania emocji lub klasyfikowania ludzi na podstawie cech biometrycznych, takich jak płeć, wiek, rasa, orientacja seksualna lub polityczna - zastosowania, które są również wątpliwe z technicznego punktu widzenia.
Leufer, analityk ds. praw cyfrowych, twierdzi, że przepisy mogą zniechęcać do pewnych obszarów inwestycji, kształtując kierunek, w którym podąża branża AI w UE i innych krajach. "Istnieje narracja, że trwa wyścig o AI, a to nonsens" - mówi Leufer. "Nie powinniśmy konkurować z Chinami o formy sztucznej inteligencji, które umożliwiają masową inwigilację".
Wersja robocza przepisów, stworzona w styczniu, wyciekła w zeszłym tygodniu. Ostateczna wersja zawiera godne uwagi zmiany, na przykład usunięcie sekcji, która zabraniałaby stosowania systemów AI wysokiego ryzyka, które mogłyby spowodować, że ludzie "zachowują się, formułują opinię lub podejmują decyzję na swoją niekorzyść, której nie podjęliby w innym przypadku".
Wniosek musi przejść przez Parlament Europejski i Radę UE i prawdopodobnie zostanie poddany znacznym zmianom, zanim zostanie podpisany jako akt prawny. Przepisy muszą zostać uzgodnione z innymi regulacjami UE, w tym z Kartą praw podstawowych UE oraz z proponowanym Aktem o zarządzaniu cyfrowym UE. Państwa członkowskie będą wdrażać ostateczne przepisy poprzez uchwalanie własnych ustaw. Sztucznej Inteligencji oraz krajowych organów nadzorczych, które miałyby nadzorować egzekwowanie przepisów, ale nie podano szczegółów ich funkcjonowania.
"W przypadku sztucznej inteligencji, organy regulacyjne niechętnie podejmują działania, po pierwsze dlatego, że uważają, iż jest to wysoce techniczne, po drugie, ponieważ obawiają się, że zdławią innowacje" - mówi Gesser. Mówi jednak, że propozycja UE "sprawia, że inne organy regulacyjne czują się bardziej komfortowo, wkraczając w tę przestrzeń w sposób, który faktycznie ograniczy pewne zachowania".
Gesser mówi, że zajmie to lata, aby przepisy stały się prawem, ale ostatecznie mogą one wpłynąć na wszystkie rodzaje amerykańskiego biznesu. "Wszystkie reklamy są zaprojektowane tak, aby manipulować zachowaniem" - zauważa Gesser. "Wyzwaniem będzie określenie, co jest dopuszczalne, a co niedopuszczalne".
**Source
Brak komentarzy:
Prześlij komentarz