Joseph Fox
Służba Celna i Ochrony Granic (CBP), część Departamentu Bezpieczeństwa Wewnętrznego, kupiła oprogramowanie warte miliony dolarów od firmy, która wykorzystuje sztuczną inteligencję do wykrywania "nastrojów i emocji" w postach online, zgodnie z pamięcią podręczną dokumentów uzyskanych przez 404 Media.
CBP powiedział 404 Media, że wykorzystuje technologię do analizowania informacji open source związanych z podróżnymi przyjeżdżającymi i wyjeżdżającymi, którzy zdaniem agencji mogą zagrażać bezpieczeństwu publicznemu, bezpieczeństwu narodowemu lub legalnemu handlowi i podróżom. W tym przypadku konkretna firma o nazwie Fivecast oferuje również "oparte na sztucznej inteligencji" rozpoznawanie obiektów na obrazach i wideo oraz wykrywanie "ryzykownych terminów i fraz" w wielu językach, zgodnie z jednym z dokumentów.
Materiały marketingowe promują zdolność oprogramowania do zapewniania ukierunkowanego gromadzenia danych z dużych platform społecznościowych, takich jak Facebook i Reddit, ale także konkretnie wymieniają mniejsze społeczności, takie jak 4chan, 8kun i Gab. Aby zademonstrować swoją funkcjonalność, materiały promocyjne Fivecast wyjaśniają, w jaki sposób oprogramowanie było w stanie śledzić posty w mediach społecznościowych i powiązane z nimi osoby, zaczynając od "podstawowych danych biograficznych" z artykułu New York Times Magazine o członkach skrajnie prawicowego paramilitarnego ruchu Boogaloo. 404 Media uzyskało również wyciekły dźwięk pracownika Fivecast wyjaśniający, w jaki sposób narzędzie to może być wykorzystywane przeciwko sieciom handlu ludźmi lub operacjom propagandowym.
Wiadomości te sygnalizują, że CBP nadal wykorzystuje sztuczną inteligencję do monitorowania podróżnych i celów, które mogą obejmować obywateli USA. W maju ujawniłem wykorzystanie przez CBP innego narzędzia sztucznej inteligencji do sprawdzania podróżnych, które może łączyć posty ludzi w mediach społecznościowych z ich numerem ubezpieczenia społecznego i danymi o lokalizacji. Najnowsze doniesienia pokazują, że CBP wdrożyło wiele systemów opartych na sztucznej inteligencji i zapewniają wgląd w to, do czego dokładnie te narzędzia są zdolne, jednocześnie budząc pytania o ich dokładność i użyteczność. revealed CBP’s use of another AI tool to screen travelers
"CBP nie powinno potajemnie kupować i wdrażać narzędzi, które opierają się na nauce śmieciowej, aby analizować posty ludzi w mediach społecznościowych, twierdzić, że analizują ich emocje i identyfikują rzekome" zagrożenia "- powiedział Patrick Toomey, zastępca dyrektora ACLU National Security Project, w e-mailu do 404 Media.
404 Media uzyskało dokumenty w ramach ustawy o wolności informacji (Freedom of Information Act) od CBP i innych amerykańskich organów ścigania.
Jeden z dokumentów uzyskanych przez 404 Media, oznaczony jako "poufny", to przegląd produktu "ONYX" firmy Fivecast. Fivecast twierdzi w nim, że jego produkt może być wykorzystywany do namierzania osób lub grup, pojedynczych postów lub wydarzeń. Oprócz gromadzenia danych z dużych i małych platform mediów społecznościowych, użytkownicy Fivecast mogą również przesyłać własne "zbiorcze" dane, jak czytamy w dokumencie. Fivecast twierdzi, że jego narzędzie zostało zbudowane "w porozumieniu" z organami ścigania i agencjami wywiadowczymi Five Eyes, czyli agencjami z USA, Wielkiej Brytanii, Kanady, Australii i Nowej Zelandii. Narzędzie "jest zoptymalizowane dokładnie pod kątem tego wymogu", a konkretnie pod kątem tworzenia sieci "osób będących przedmiotem zainteresowania".
Galeria zdjęć
Galeria Obrazów
Galeria Obrazów
Galeria Obrazów
Galeria obrazów
W związku z wykrywaniem emocji i nastrojów, wykresy zawarte w dokumencie Fivecast obejmują emocje takie jak "złość", "obrzydzenie", "strach", "radość", "smutek" i "zaskoczenie" w czasie. Jeden z wykresów pokazuje na przykład szczyty gniewu i obrzydzenia na początku 2020 roku.
Dokument zawiera również studium przypadku, w jaki sposób ONYX może zostać wykorzystany przeciwko konkretnej sieci. W tym przykładzie Fivecast przeanalizował ruch Boogaloo, ale Fivecast podkreśla, że "naszym zamiarem nie jest skupienie się na konkretnej kwestii, ale zademonstrowanie, jak szybko Fivecast ONYX może wykrywać, gromadzić i analizować zagrożenia z jednego punktu początkowego online".
Proces ten rozpoczyna się od wprowadzenia przez użytkownika fraz Boogaloo, takich jak "wojna domowa 2". Następnie użytkownik wybiera odkryte konto w mediach społecznościowych i wdraża to, co Fivecast nazywa "pełną" możliwością gromadzenia, która "gromadzi wszystkie dostępne treści na platformie mediów społecznościowych dla danego konta". Stamtąd narzędzie mapuje również sieć połączeń celu, zgodnie z dokumentem.
Lawson Ferguson, doradca handlowy w Fivecast, wcześniej pokazał publiczności na szczycie, w jaki sposób narzędzie to może być wykorzystywane przeciwko sieciom handlu ludźmi lub operacjom propagandowym. "To tylko przykłady danych, które można zebrać za pomocą narzędzia OSINT, takiego jak nasze" - powiedział. Jack Poulson, z organizacji zajmującej się przejrzystością Tech Inquiry, udostępnił audio z rozmowy z 404 Media.
Ferguson powiedział, że użytkownicy "mogą trenować system, aby rozpoznawał określone koncepcje i typy obrazów". W jednym z przykładów Ferguson powiedział, from transparency organization Tech Inquiry, że współpracownik spędził "ogromną ilość czasu" na szkoleniu systemu Fivecast w rozpoznawaniu koncepcji leku oksykontin. Obejmowało to analizę "zdjęć tabletek; zdjęć tabletek w rękach".
Firma Fivecast nie odpowiedziała na prośbę o komentarz.
Kontrakty CBP na oprogramowanie Fivecast rozciągnęły się na miliony dolarów, zgodnie z rejestrami zamówień publicznych i wewnętrznymi dokumentami CBP uzyskanymi przez 404 Media. CBP wydało prawie 350 000 dolarów w sierpniu 2019 roku; ponad 650 000 dolarów we wrześniu 2020 roku; 260 000 dolarów w sierpniu 2021 roku; blisko 950 000 dolarów we wrześniu 2021 roku; i wreszcie prawie 1,17 miliona dolarów we wrześniu 2022 roku.
CBP poinformowało 404 Media w oświadczeniu, że "Departament Bezpieczeństwa Wewnętrznego jest zaangażowany w ochronę prywatności, praw obywatelskich i swobód obywatelskich. DHS wykorzystuje różne formy technologii do realizacji swojej misji, w tym narzędzia wspierające the main bulk of CBP dochodzenia związane z zagrożeniami dla infrastruktury, nielegalnym handlem w ciemnej sieci, transgraniczną przestępczością międzynarodową i terroryzmem.aims to catch travelers and cargo DHS wykorzystuje tę technologię w sposób zgodny ze swoimi uprawnieniami i prawem".
W kontekście tego, dlaczego CBP Yahoo News reported in 202 musi kupić oprogramowanie Fivecast, wewnętrzne dokumenty CBP wskazują na kilka konkretnych części agencji. Są to Office of Field Operations (OFO), główna część CBP, która egzekwuje bezpieczeństwo granic; National Targeting Center (NTC) z siedzibą w Wirginii, którego celem jest wyłapywanie podróżnych i ładunków, które zdaniem agencji zagrażają bezpieczeństwu kraju; Counter Network Division (CND), który jest częścią NTC; i wreszcie Publicly Available Information Group (PAIG), która koncentruje się na danych, takich jak informacje o lokalizacji, zgodnie z innymi dokumentami, które uzyskałem wcześniej.
Yahoo News poinformowało w 2021 roku, że CND zebrała informacje na temat wielu dziennikarzy. Biuro Inspektora Generalnego złożyło wniosek o wszczęcie postępowania karnego przeciwko urzędnikowi, który współpracował z CND w związku z jego rolą w monitorowaniu, ale nie postawiono mu żadnych zarzutów. Przełożony tego działu powiedział wcześniej śledczym, że w CND "przekraczamy granice, więc nie ma norm, nie ma wytycznych, to my tworzymy wytyczne".
"Opinia publiczna wie zbyt mało o CBP Counter Network Division, ale to, co wiemy, maluje niepokojący obraz agencji z niewielką liczbą zasad i dostępem do oceanu wrażliwych danych osobowych o Amerykanach" - dodał Toomey z ACLU. "Potencjał nadużyć jest ogromny".
Czy wiesz coś więcej o Fivecast lub wykorzystaniu tego narzędzia przez CBP? Pracujesz w Fivecast lub kiedyś pracowałeś? Chciałbym usłyszeć od ciebie. Korzystając z urządzenia innego niż służbowe, możesz bezpiecznie wysłać mi wiadomość na Signal pod numerem +44 20 8133 5190. W przeciwnym razie wyślij mi wiadomość e-mail na adres joseph@404media.co.
Ten artykuł został zgłoszony głównie na podstawie wniosków o rejestry publiczne. Udostępniamy go wszystkim czytelnikom jako usługę publiczną. Raportowanie FOIA może być kosztowne, prosimy o rozważenie subskrypcji 404 Media, aby wesprzeć tę pracę.
subscribing to 404 Media
**Source
Brak komentarzy:
Prześlij komentarz