„Ojciec chrzestny sztucznej inteligencji” odchodzi z Google ~ mówi, że żałuje swojej życiowej pracy z powodu zagrożeń dla ludzkości

  

 

Geoffrey Hinton obawia się, że sztuczna inteligencja rozwija się zbyt szybko, aby ludzie mogli ją kontrolować. Thomas Barrabi, 1 maja 2023 r nypost.com/2023/05/01/father-of-ai-quits-google-and-says-he-regrets-lifes-work/  

 

Wybitny badacz sztucznej inteligencji znany jako „ojciec chrzestny sztucznej inteligencji” rzucił pracę w Google – i mówi, że teraz częściowo żałuje swojej pracy nad rozwojem rozwijającej się technologii ze względu na zagrożenia, jakie stwarza ona dla społeczeństwa. Dr Geoffrey Hinton jest znanym informatykiem, któremu powszechnie przypisuje się stworzenie podstaw sztucznej inteligencji, które ostatecznie doprowadziły do stworzenia popularnych chatbotów, takich jak ChatGPT OpenAI i innych zaawansowanych systemów. 

 

 75-latek powiedział New York Timesowi, że odszedł z Google, aby móc otwarcie mówić o zagrożeniach związanych z niepohamowanym rozwojem sztucznej inteligencji – w tym o rozpowszechnianiu dezinformacji, wstrząsach na rynku pracy i innych, bardziej nikczemnych możliwościach. „Pocieszam się normalną wymówką: gdybym tego nie zrobił, zrobiłby to ktoś inny” – powiedział Hinton w wywiadzie opublikowanym w poniedziałek. „Spójrz, jak to było pięć lat temu i jak jest teraz” – dodał później Hinton w wywiadzie. „Weź różnicę i propaguj ją dalej. To jest straszne."  

 

Hinton obawia się, że w przyszłości sztuczna inteligencja stanie się jeszcze bardziej niebezpieczna – „źli aktorzy” potencjalnie będą wykorzystywać zaawansowane systemy „do złych rzeczy”, którym trudno będzie zapobiec. Według raportu Hinton poinformował Google o swoich planach rezygnacji w zeszłym miesiącu i osobiście rozmawiał w zeszły czwartek z dyrektorem generalnym firmy Sundarem Pichai. Informatyk nie ujawnił, o czym rozmawiał z Pichaiem podczas rozmowy telefonicznej. Główny naukowiec Google, Jeff Dean, bronił wysiłków firmy w zakresie sztucznej inteligencji. „Pozostajemy zaangażowani w odpowiedzialne podejście do sztucznej inteligencji.  

 

Nieustannie uczymy się rozumieć pojawiające się zagrożenia, jednocześnie odważnie wprowadzając innowacje” – powiedział Dean w oświadczeniu. The Post skontaktował się z Google w celu uzyskania dalszych komentarzy. Hinton jest ostatnim z rosnącej liczby ekspertów, którzy ostrzegają, że sztuczna inteligencja może wyrządzić znaczne szkody bez odpowiedniego nadzoru i regulacji.  

 

W marcu Elon Musk i ponad 1000 innych wybitnych postaci z sektora sztucznej inteligencji wezwali do sześciomiesięcznej przerwy w rozwoju zaawansowanej sztucznej inteligencji, powołując się na potencjalne „poważne zagrożenia dla społeczeństwa i ludzkości”. W wywiadzie Hinton wyraził zaniepokojenie, że sztuczna inteligencja już zaczęła wyprzedzać ludzki umysł w niektórych aspektach. Wspomniał również o obawach, że tempo rozwoju sztucznej inteligencji wzrośnie, ponieważ wspierane przez Microsoft OpenAI, Google i inni giganci technologiczni ścigają się o przewodnictwo w tej dziedzinie – z potencjalnie niebezpiecznymi konsekwencjami. 

 

 Hinton obawia się, że zaawansowana sztuczna inteligencja może w końcu wymknąć się spod kontroli, gdy systemy zyskają możliwość tworzenia i uruchamiania własnego kodu komputerowego – a nawet napędzania broni bez kontroli człowieka. „Pomysł, że to coś może stać się mądrzejsze od ludzi – kilka osób w to wierzyło” – dodał Hinton. „Ale większość ludzi uważała, że to daleko. A ja myślałem, że to daleko. Myślałem, że to kwestia 30 do 50 lat, a nawet dłużej.  

 

Oczywiście już tak nie myślę”. W niedawnym wywiadzie dla „60 minut” CBS sam Pichai ostrzegł, że sztuczna inteligencja spowoduje utratę miejsc pracy dla „pracowników wiedzy”, takich jak pisarze, księgowi, architekci i inżynierowie oprogramowania. Pichai opisał również dziwaczne scenariusze, w których programy Google AI rozwinęły „wschodzące właściwości” – lub nauczyły się nieoczekiwanych umiejętności, w których nie zostały przeszkolone.  

 

Od 2013 roku Hinton dzielił swój czas między stanowiska profesora na Uniwersytecie w Toronto i pracownika inżynierii Google. Pracował dla giganta technologicznego, odkąd Google przejął startup, który założył wraz z dwoma studentami, Alexem Krishevskim i Ilyą Sutskever. Trio opracowało sieć neuronową, która nauczyła się identyfikować typowe obiekty, takie jak samochody lub zwierzęta, poprzez analizę tysięcy zdjęć. Sutskever obecnie pełni funkcję głównego naukowca OpenAI.  

 

W 2018 roku Hinton był współ-odbiorcą Nagrody Turinga – często określanej jako światowy odpowiednik Nagrody Nobla – za prace nad sieciami neuronowymi, które zostały opisane jako „wielkie przełomy w sztucznej inteligencji”. Obszerna biografia Hintona na stronie Google wychwala jego osiągnięcia – zauważa, że „dokonał przełomu w głębokim uczeniu się, który zrewolucjonizował rozpoznawanie mowy i klasyfikację obiektów”.