Programy do czatowania ze sztuczną inteligencją stały się tak ogromną częścią kultury online tak szybko, że wiele osób wciąż jest oszukiwanych przez jej niemowlęctwo i ograniczenia, mimo że właściciele tych programów AI bardzo wyraźnie ostrzegają opinię publiczną, że tekstowi, który produkują, NIE MOŻNA ufać, ponieważ często produkują fałszywe informacje lub nawet po prostu zmyślają, jeśli dane potrzebne do uzyskania prawidłowej odpowiedzi nie są dostępne.
Określają oni te fałszywe informacje mianem "halucynacji" AI.
Dwie niedawne wiadomości pokazują, jak głupie i niebezpieczne jest używanie programów takich jak ChatGPT do rzeczywistych zastosowań, ufając wynikom dostarczanym przez ChatGPT.
Isaiah Poritz z Bloomberg Law doniósł w tym tygodniu, że OpenAI, firma produkująca ChatGPT, otrzymała swój pierwszy pozew o zniesławienie, gdy rzekomo fałszywie oskarżyła Gruzina o defraudację pieniędzy.
OpenAI po raz pierwszy pozwane o zniesławienie w związku z halucynacją ChatGPT
OpenAI LLC stoi w obliczu pozwu o zniesławienie od gospodarza radiowego z Gruzji, który twierdził, że wirusowy program sztucznej inteligencji ChatGPT wygenerował fałszywą skargę prawną oskarżającą go o defraudację pieniędzy.
Ten pierwszy w swoim rodzaju przypadek ma miejsce, gdy generatywne programy sztucznej inteligencji stają w obliczu wzmożonej kontroli nad ich zdolnością do rozpowszechniania dezinformacji i "halucynacji" fałszywych wyników, w tym fałszywych precedensów prawnych.
Mark Walters powiedział w swoim pozwie przed sądem stanowym w Georgii, że chatbot dostarczył fałszywą skargę Fredowi Riehlowi, redaktorowi naczelnemu publikacji o broni AmmoLand, który relacjonował prawdziwą sprawę prawną rozgrywającą się w stanie Waszyngton.
Riehl poprosił ChatGPT o dostarczenie streszczenia sprawy Second Amendment Foundation v. Ferguson, toczącej się przed sądem federalnym w Waszyngtonie, w której oskarżono prokuratora generalnego Boba Fergusona o nadużywanie swojej władzy poprzez tłumienie działań fundacji zajmującej się prawami do broni.
Jednak ChatGPT rzekomo dostarczył Riehlowi podsumowanie sprawy, w którym stwierdzono, że założyciel Fundacji Drugiej Poprawki Alan Gottlieb pozwał Waltersa za "defraudację i defraudację funduszy" z fundacji jako dyrektor finansowy i skarbnik.
"Każde stwierdzenie faktu w podsumowaniu dotyczącym Waltersa jest fałszywe", zgodnie z pozwem o zniesławienie, złożonym 5 czerwca.
OpenAI nie odpowiedział od razu na prośbę o komentarz. (Cały artykuł.)
W innym niedawnym raporcie adwokat był na tyle głupi, że użył ChatGPT do zbadania spraw sądowych w rzeczywistym procesie i znalazł fałszywe pozwy, które nawet nie istniały, a sprawa została złożona w sądzie w Nowym Jorku! Sędzia, co zrozumiałe, był oburzony.
Prawnik używa ChatGPT w sądzie i teraz "bardzo tego żałuje
Nowojorski adwokat został skrytykowany za używanie ChatGPT do badań prawnych w ramach pozwu przeciwko kolumbijskim liniom lotniczym.
Steven Schwartz, adwokat z nowojorskiej kancelarii Levidow, Levidow & Oberman, został zatrudniony przez Roberta Matę w celu dochodzenia roszczenia przeciwko Avianca Airlines.
Według raportu CNN Business z 28 maja 2019 r., Mata twierdzi, że doznał obrażeń od wózka do serwowania podczas lotu z linią lotniczą.
Jednak po tym, jak sędzia zauważył niespójności i błędy rzeczowe w dokumentacji sprawy, Schwartz przyznał się do korzystania z ChatGPT do swoich badań prawnych, zgodnie z oświadczeniem pod przysięgą z 24 maja.
Twierdzi, że po raz pierwszy używał ChatGPT do badań prawnych i "nie był świadomy możliwości, że jego treść może być fałszywa".
W oświadczeniu sądowym z 5 kwietnia sędzia prowadzący sprawę stwierdził:
"Sześć z przedłożonych spraw wydaje się być fałszywymi orzeczeniami sądowymi z fałszywymi cytatami i fałszywymi cytatami wewnętrznymi".
Sędzia twierdził ponadto, że niektóre sprawy, o których mowa w zgłoszeniach, nie istniały, a w jednym przypadku numer sprawy w zgłoszeniu został pomylony z innym zgłoszeniem sądowym. (Cały artykuł.)
Natknąłem się dziś na doskonały artykuł Aleksandara Svetskiego, który ujawnia szum wokół Chat AI i wyszczególnia prawdziwe zagrożenia dla Chat AI, które określa jako "Wielką Homogenizację", w której wszystkie dane w Internecie są kontrolowane przez jedną narrację, coś, o czym również ostrzegałem.
Jest to artykuł, który musisz przeczytać, jeśli chcesz w pełni zrozumieć, co dzieje się dzisiaj z Chat AI i jak z tym walczyć.
JEŚLI NIE BĘDZIEMY OSTROŻNI, REWOLUCJA AI MOŻE STAĆ SIĘ "WIELKĄ HOMOGENIZACJĄ
Wraz z rozwojem sztucznej inteligencji rosną próby jej kontrolowania. Jeśli jednak uda nam się odróżnić rzeczywiste zagrożenia od fałszywych, technologia ta może zostać wykorzystana do promowania różnorodności myśli i pomysłów.
Fragment:
Świat zmienia się na naszych oczach. Sztuczna inteligencja (AI) jest przełomem technologicznym zmieniającym paradygmat, ale prawdopodobnie nie z powodów, które można sobie wyobrazić.
Prawdopodobnie słyszałeś coś w stylu: "Sztuczna inteligencja ogólna (AGI) jest tuż za rogiem" lub "Teraz, gdy język został rozwiązany, następnym krokiem jest świadoma sztuczna inteligencja".
Cóż... jestem tutaj, aby powiedzieć ci, że obie te koncepcje są czerwonymi śledziami. Są to albo naiwne urojenia technologów, którzy wierzą, że Bóg jest w obwodach, albo celowe podżeganie do strachu i histerii przez bardziej złowrogich ludzi z ukrytymi motywami.
Nie uważam, że AGI jest zagrożeniem lub że mamy "problem z bezpieczeństwem AI" lub że jesteśmy tuż za rogiem od jakiejś osobliwości z maszynami.
Ale...
Uważam, że ta zmiana paradygmatu technologicznego stanowi znaczące zagrożenie dla ludzkości - co jest w zasadzie jedyną rzeczą, co do której mogę w pewnym stopniu zgodzić się z głównym nurtem - ale z zupełnie innych powodów.
by dowiedzieć się, czym one są, spróbujmy najpierw zrozumieć, co tak naprawdę się tutaj dzieje.
WPROWADZENIE... PAPUGI STOCHASTYCZNEJ!
Technologia jest wzmacniaczem. Sprawia, że dobre staje się lepsze, a złe gorsze.
Tak jak młotek jest technologią, której można użyć do zbudowania domu lub uderzenia kogoś w głowę, komputery mogą być używane do dokumentowania pomysłów, które zmieniają świat, lub mogą być używane do obsługi cyfrowych walut banku centralnego (CDBC), które zniewalają cię w szalone, komunistyczne kotki pracujące w Europejskim Banku Centralnym.
To samo dotyczy sztucznej inteligencji. Jest ona narzędziem. To technologia. Nie jest to nowa forma życia, pomimo tego, w co tak desperacko chcą wierzyć samotne nerdy wzywające do zatrzymania postępu.
To, co sprawia, że generatywna sztuczna inteligencja jest tak interesująca, to nie to, że jest czująca, ale to, że po raz pierwszy w naszej historii "rozmawiamy" lub komunikujemy się z czymś innym niż człowiek w spójny sposób. Najbliżej tego byliśmy wcześniej z... papugami.
Tak: papugi!
Możesz wytresować papugę, aby mówiła i odpowiadała, i możesz ją w pewnym sensie zrozumieć, ale ponieważ wiemy, że tak naprawdę nie jest człowiekiem i tak naprawdę nic nie rozumie, nie jesteśmy pod wrażeniem.
Ale generatywna sztuczna inteligencja... cóż, to zupełnie inna historia. Zapoznajemy się z nią od sześciu miesięcy (w głównym nurcie) i nie mamy pojęcia, jak działa pod maską. Wpisujemy kilka słów, a on reaguje jak ten irytujący, politycznie poprawny, średnio rozgarnięty kujon, którego znasz z klasy... lub przeciętnego serialu Netflix.
W rzeczywistości prawdopodobnie rozmawiałeś z kimś takim podczas rozmów z pomocą techniczną Booking.com lub jakiejkolwiek innej usługi, w której musiałeś się połączyć lub czatować przez Internet. W związku z tym jesteś natychmiast zszokowany odpowiedziami.
"Jasna cholera", mówisz sobie. "To coś mówi jak prawdziwa osoba!".
Angielski jest nieskazitelny. Żadnych błędów ortograficznych. Zdania mają sens. Jest nie tylko poprawny gramatycznie, ale także semantycznie.
Jasna cholera! To musi być żywe!
Nie zdajesz sobie sprawy, że rozmawiasz z wysoce wyrafinowaną, stochastyczną papugą. Jak się okazuje, język jest nieco bardziej oparty na regułach, niż wszyscy myśleliśmy, a silniki prawdopodobieństwa mogą w rzeczywistości wykonać świetną robotę, emulując inteligencję poprzez ramę lub kanał języka.
Prawo wielkich liczb uderza ponownie, a matematyka odnosi kolejne zwycięstwo!
Ale... co to oznacza? Do czego, do cholery, zmierzam?
Że to nie jest użyteczne? Że to dowód na to, że nie jest to droga do AGI?
Niekoniecznie, w obu przypadkach.
Takie narzędzie jest bardzo użyteczne. W rzeczywistości największa użyteczność prawdopodobnie leży w jego zastosowaniu jako "MOT" lub "Midwit Obsolescence Technology". Obudzeni dziennikarze i niezliczeni "twórcy treści", którzy przez lata dużo mówili, ale nic nie mówili, są teraz jak dinozaury obserwując
Oczywiście narzędzia te są również świetne do tworzenia pomysłów, szybszego kodowania, uczenia się na wysokim poziomie itp.
Ale z punktu widzenia AGI i świadomości, kto wie? Być może istnieje jakaś ścieżka, ale mój pajęczy zmysł mówi mi, że jesteśmy daleko, więc nie wstrzymuję oddechu. Myślę, że świadomość jest o wiele bardziej złożona, a myślenie, że wyczarowaliśmy ją za pomocą maszyn prawdopodobieństwa, jest jakąś dziwną mieszanką ignorancji, arogancji, naiwności i... cóż... pustki.
Więc w czym, do cholery, tkwi mój problem i jakie jest ryzyko?
WKRACZAMY W ERĘ LUI
Pamiętaj, co powiedziałem o narzędziach.
Komputery są prawdopodobnie najpotężniejszym narzędziem, jakie stworzyła ludzkość. A komputery przeszły następującą ewolucję:
Karty perforowane
Wiersz poleceń
Graficzny interfejs użytkownika, tj. wskaż i kliknij
Urządzenia mobilne, tj. kciuki i stukanie.
Wraz z rozwojem sztucznej inteligencji rosną też próby jej kontrolowania. Jeśli jednak uda nam się odróżnić prawdziwe zagrożenia od fałszywych, technologia ta może zostać wykorzystana do promowania różnorodności myśli i pomysłów.
A teraz wkraczamy w erę LUI, czyli "językowego interfejsu użytkownika".
To wielka zmiana paradygmatu. To nie AGI, ale LUI. W przyszłości każda aplikacja, z którą wchodzimy w interakcję, będzie miała interfejs konwersacyjny, a my nie będziemy już ograniczeni przepustowością tego, jak szybko nasze palce mogą stukać w klawisze lub ekrany.
Mówienie "językiem" jest o rzędy wielkości szybsze niż pisanie i stukanie. Myślenie jest prawdopodobnie o poziom wyżej, ale w najbliższym czasie nie zamierzam wkładać sobie do głowy żadnych elektrod. W rzeczywistości LUI prawdopodobnie wyeliminują potrzebę technologii typu Neuralink, ponieważ ryzyko związane z wszczepianiem chipów do mózgu przewyższy wszelkie marginalne korzyści w stosunku do zwykłego mówienia.
W każdym razie, w tej dekadzie przejdziemy od stukania w graficzne interfejsy użytkownika do rozmawiania z naszymi aplikacjami.
I w tym tkwi niebezpieczeństwo.
W ten sam sposób, w jaki Google określa dziś, co widzimy w wyszukiwaniach, a Twitter, Facebook, Tik Tok i Instagram "karmią nas" swoimi kanałami; generatywna sztuczna inteligencja określi jutro odpowiedzi na każde nasze pytanie.
Ekran nie tylko staje się soczewką, przez którą odbieramy wszystko o świecie. Ekran staje się naszym modelem świata.
Mark Bisone napisał niedawno fantastyczny artykuł na ten temat, do którego przeczytania zachęcam:
"Problem 'ekranów' jest tak naprawdę bardzo stary. Pod wieloma względami sięga czasów jaskini Platona i być może jest tak głęboko zakorzeniony w ludzkiej kondycji, że poprzedza języki pisane. To dlatego, że kiedy mówimy o ekranie, tak naprawdę mówimy o przekazywaniu iluzorycznego modelu w zredagowanej formie.
"Sztuczka działa następująco: Przedstawia ci się obraz rzeczy (a w dzisiejszych czasach także jej dźwięk), który prezenter albo wyraźnie ci mówi, albo mocno sugeruje, że jest oknem na Rzeczywistość. Innymi słowy, cień i forma są tym samym, a temu pierwszemu należy ufać tak samo, jak każdemu fragmentowi rzeczywistości, który można bezpośrednio obserwować za pomocą narządów zmysłów".
A dla tych, którzy myślą, że "to się nie wydarzy przez jakiś czas", oto nieudolni głupcy, którzy podejmują dobrą próbę.
"WIELKA HOMOGENIZACJA
Wyobraź sobie, że każde pytanie, które zadajesz, każdy obraz, o który prosisz, każdy film, który wyczarowujesz, każdy fragment danych, którego szukasz, jest zwracany w sposób uznany za "bezpieczny", "odpowiedzialny" lub "akceptowalny" przez jakąś bezimienną "policję bezpieczeństwa".
Wyobraź sobie, że każda informacja, którą konsumujesz, została przekształcona w jakąś letnią, środkową wersję prawdy, że każda opinia, o którą prosisz, nie jest tak naprawdę opinią ani punktem widzenia, ale jakąś nieszkodliwą, przepraszającą odpowiedzią, która tak naprawdę nic ci nie mówi (to jest łagodna, irytująca wersja) lub, co gorsza, jest ideologią owiniętą w odpowiedź, tak że wszystko, co wiesz, staje się jakąś odmianą tego, co producenci wspomnianej "bezpiecznej sztucznej inteligencji" chcą, abyś myślał i wiedział.
Wyobraź sobie, że masz współczesne postacie Disneya, takie jak te klauny z filmu "The Eternals", jako swoich wszechobecnych asystentów intelektualnych. To uczyniłoby cię "głupim do kwadratu".
"Manifest niekomunistyczny" nakreślił utopijne marzenie komunistów jako wielką homogenizację człowieka:
Gdyby tylko wszyscy byli serią liczb w arkuszu kalkulacyjnym lub automatami o tej samej opinii, o wiele łatwiej byłoby mieć raj na ziemi. Można by racjonować tylko tyle, by wystarczyło dla wszystkich, a wtedy wszyscy bylibyśmy równie nieszczęśliwymi proletariuszami.
To jak policja myśli George'a Orwella skrzyżowana z "Incepcją", ponieważ każde twoje pytanie byłoby doskonale przechwytywane i monitorowane, a każda odpowiedź sztucznej inteligencji mogłaby zaszczepić ideologię w twoim umyśle. W rzeczywistości, kiedy się nad tym zastanowić, to właśnie robi informacja. Zasiewa nasiona w twoim umyśle.
Dlatego właśnie potrzebny jest zróżnicowany zestaw pomysłów w umysłach ludzi! Chcesz mieć w umyśle kwitnący las deszczowy, a nie jakieś monokulturowe pole pszenicy o zniszczonej glebie, które jest podatne na warunki pogodowe i owady, a jego przetrwanie jest całkowicie zależne od Monsanto (lub Open AI lub Pfizer). Chcesz, by twój umysł rozkwitał, a do tego potrzebujesz różnorodności pomysłów.
Taka była obietnica internetu. Miejsce, w którym każdy może powiedzieć wszystko. Internet był siłą napędową dobra, ale jest atakowany. Niezależnie od tego, czy chodzi o deanonimizację profili społecznościowych, takich jak te na Twitterze i Facebooku, i pełzające KYC na wszelkiego rodzaju platformach internetowych, aż po algorytmiczne wymiociny, które są wypluwane z samych platform. Zasmakowaliśmy tego w całej okazałości od 2020 roku. I wydaje się, że będzie tylko gorzej.
Nacisk organizacji podobnych do WEF na ustanowienie KYC dla tożsamości online i powiązanie go z CBDC i tęczówką oka jest jedną z alternatyw, ale jest nieco jawny i wyraźny. Po ostatnich sprzeciwach wobec eksperymentów medycznych, taki ruch może być trudniejszy do zrealizowania. Łatwiejszym posunięciem może być pozwolenie na przejęcie LUI (co nastąpi, ponieważ są one lepszym doświadczeniem użytkownika), a w międzyczasie utworzenie "rady bezpieczeństwa AI", która wprowadzi filtry "bezpieczeństwa" we wszystkich głównych dużych modelach językowych (LLM).
Nie wierzysz mi? Nasi władcy z G7 już o tym dyskutują.
Dziś sieć nadal składa się ze stron internetowych, a jeśli jesteś wystarczająco ciekawy, możesz znaleźć głębokie, ciemne zakamarki i szczeliny dysydencji. Wciąż można surfować po sieci. W większości przypadków. Ale kiedy wszystko staje się dostępne tylko za pośrednictwem tych modeli, nie surfujesz już po niczym. Otrzymujesz po prostu syntezę odpowiedzi, która została przepuszczona przez wszystkie niezbędne filtry i cenzury.
Prawdopodobnie będzie tam gdzieś odrobina prawdy, ale będzie ona owinięta w tak wiele "bezpieczeństwa", że 99,9% ludzi jej nie usłyszy ani o niej nie wie. Prawdą stanie się to, co mówi model.
Nie jestem pewien, co stanie się z dużą częścią Internetu, gdy wykrywalność informacji ulegnie zasadniczej transformacji. Mogę sobie wyobrazić, że gdy większość aplikacji przejdzie na jakąś formę interfejsu językowego, bardzo trudno będzie znaleźć rzeczy, których "portal", z którego korzystasz, nie uważa za bezpieczne lub zatwierdzone.
Można oczywiście argumentować, że w ten sam sposób, w jaki potrzebujesz wytrwałości i ciekawości, aby znaleźć dysydenckie szczeliny w sieci, będziesz musiał nauczyć się podpowiadać i hakować swoją drogę do lepszych odpowiedzi na tych platformach.
I może to być prawda, ale wydaje mi się, że za każdym razem, gdy znajdziesz coś "niebezpiecznego", droga zostanie załatana lub zablokowana.
Można więc argumentować, że "może to przynieść odwrotny skutek, zmniejszając użyteczność narzędzia".
I ponownie, prawdopodobnie bym się zgodził. Na wolnym rynku taka głupota ustąpiłaby miejsca lepszym narzędziom.
Ale oczywiście wolny rynek odchodzi w przeszłość. To, co widzimy w tych histerycznych próbach forsowania "bezpieczeństwa", to świadome lub nieświadome torowanie drogi do zgniecenia możliwych alternatyw.
Tworząc komitety "bezpieczeństwa", które "regulują" te platformy (czytaj: regulują mowę), nowe modele, które nie są przepuszczane przez takie "filtry bezpieczeństwa lub toksyczności", nie będą dostępne do użytku konsumenckiego lub mogą zostać uznane za nielegalne lub trudne do odkrycia. Ile osób nadal korzysta z Tora? Albo DuckDuckGo?
A jeśli myślisz, że tak się nie stanie, oto kilka informacji na temat obecnych filtrów toksyczności, do których już teraz podłącza się większość LLM. To tylko kwestia czasu, zanim takie filtry staną się jak mandaty KYC w aplikacjach finansowych. Nowy dodatek do zgodności, przywiązany do modeli językowych jak cycki do byka.
Niezależnie od kontrargumentów dla tej próby homogenizacji, oba faktycznie wspierają mój punkt widzenia, że musimy budować alternatywy i musimy rozpocząć ten proces już teraz.
Dla tych, którzy nadal wierzą, że AGI jest tuż za rogiem i że LLM są znaczącym krokiem w tym kierunku, za wszelką cenę, możesz wierzyć w to, co chcesz, ale to nie neguje sensu tego eseju.
Jeśli język jest nowym "ekranem", a cały język, który widzimy lub słyszymy, musi zostać przepuszczony przez zatwierdzone filtry, informacje, które konsumujemy, sposób, w jaki się uczymy, same myśli, które mamy, zostaną zawężone do bardzo małego okna Overtona.
Myślę, że to ogromne ryzyko dla ludzkości.
Staliśmy się już wystarczająco głupi, gdy algorytmy mediów społecznościowych serwują nam to, co platformy uważają, że powinniśmy wiedzieć. A kiedy chcieli włączyć histerię, było to łatwe. Językowe interfejsy użytkownika to media społecznościowe razy 100.
Wyobraź sobie, co mogą z tym zrobić, gdy następnym razem nadejdzie tak zwany "kryzys"?
To nie będzie piękne.
Rynek idei jest niezbędny dla zdrowego i funkcjonalnego społeczeństwa. Tego właśnie chcę.
Ich zawężenie myślenia nie zadziała na dłuższą metę, ponieważ jest anty-życiowe. W końcu zawiedzie, tak jak każda inna próba zamknięcia prawdy w butelce i zignorowania jej. Ale każda próba wiąże się z niepotrzebnymi szkodami, bólem, stratą i katastrofą. Tego właśnie staram się unikać i pomagam w tym.
CO Z TYM WSZYSTKIM ZROBIĆ?
Jeśli nie będziemy tutaj proaktywni, cała ta rewolucja AI może stać się "wielką homogenizacją". Aby tego uniknąć, musimy zrobić dwie główne rzeczy:
Odeprzeć narracje o "bezpieczeństwie AI": Na pierwszy rzut oka mogą one wyglądać jak komitety bezpieczeństwa, ale kiedy zagłębimy się nieco bardziej, zdamy sobie sprawę, że są to organy regulujące mowę i myśli.
Buduj alternatywy, teraz: Buduj wiele z nich i udostępniaj je na zasadach open source. Im szybciej to zrobimy i im szybciej będą one mogły działać bardziej lokalnie, tym większa szansa na uniknięcie świata, w którym wszystko zmierza w kierunku homogenizacji.
Jeśli to zrobimy, możemy mieć świat z prawdziwą różnorodnością - a nie z tymi bzdurami. Mam na myśli różnorodność myśli, różnorodność idei, różnorodność punktów widzenia i prawdziwy rynek idei.
Różnorodność idei. To, co było pierwotną obietnicą Internetu. I nie ograniczony niską przepustowością pisania i stukania.
*By Brian Shillhavy
**Source
Brak komentarzy:
Prześlij komentarz