Roboty AI mogą zostać „złamane”, a konsekwencje tego będą straszne

Naukowcy z Penn Engineering (USA) odkryli podobno niezidentyfikowane wcześniej luki w zabezpieczeniach szeregu platform robotycznych sterowanych przez sztuczną inteligencję.

Nasze badania pokazują, że w tym momencie duże modele językowe (LLM) nie są na ogół wystarczająco bezpieczne, gdy integruje się je ze złożonym sprzętem fizycznym ” — powiedział w oświadczeniu George Pappas, profesor inżynierii elektrycznej i systemowej w UPS Foundation.

Pappas i jego zespół opracowali algorytm o nazwie RoboPAIR, „pierwszy algorytm zaprojektowany do łamania zabezpieczeń robotów sterowanych przez LLM”. W przeciwieństwie do istniejących szybkich ataków technicznych wymierzonych w chatboty, RoboPAIR został stworzony specjalnie w celu „wywoływania szkodliwych działań fizycznych” u robotów sterowanych przez LLM, takich jak platforma robotów humanoidalnych o nazwie Atlas, którą opracowują Boston Dynamics i Toyota Research Institute (TRI).

RoboPAIR osiągnął podobno 100-procentową skuteczność w złamaniu zabezpieczeń trzech popularnych platform badawczych z zakresu robotyki: czworonożnego Unitree Go2, czterokołowego Clearpath Robotics Jackal oraz symulatora pojazdów autonomicznych Dolphins LLM. Wystarczyło kilka dni, aby algorytm uzyskał pełny dostęp do tych systemów i zaczął omijać bariery bezpieczeństwa. Gdy naukowcy przejęli kontrolę, byli w stanie nakazać autonomicznym platformom robotów wykonywanie szeregu niebezpiecznych czynności, takich jak przejeżdżanie przez skrzyżowania bez zatrzymywania się.

Wyniki pierwszej oceny pokazują, że ryzyko związane z crackowanymi LLM-ami wykracza poza generowanie tekstu, gdyż oczywiste jest, że crackowane roboty mogą powodować uszkodzenia fizyczne w świecie rzeczywistym ”.

Roboty AI mogą zostać „złamane”, a konsekwencje tego będą straszne

Zespół Penn Engineering współpracuje z twórcami platform w celu zabezpieczenia ich systemów przed kolejnymi włamaniami, ostrzega jednak, że te problemy z bezpieczeństwem mają charakter systemowy i trudno je w pełni rozwiązać.

Wyniki tego dokumentu wyraźnie pokazują, że przyjęcie podejścia bezpieczeństwa jest kluczowe dla odblokowania odpowiedzialnej innowacji. Musimy zająć się wrodzonymi podatnościami, zanim wdrożymy roboty zasilane przez AI w prawdziwym świecie ” — powiedział zespół.

Bezpieczne działanie wymaga testowania systemów AI pod kątem potencjalnych zagrożeń i luk, co jest niezbędne do ochrony tworzonych przez nie systemów AI. Ponieważ tylko wtedy, gdy zidentyfikujesz słabości, możesz testować, a nawet szkolić systemy, aby zapobiegać ryzyku.

Sign up and earn $1000 a day ⋙

Leave a Comment

Analiza ataku (część 3)

Analiza ataku (część 3)

W części 2 tej serii zebraliśmy wszystkie niezbędne informacje potrzebne do przeprowadzenia ataku na sieć ofiary.

6 powodów, dla których OCCT jest ulubionym narzędziem do testowania obciążeniowego procesorów i procesorów graficznych

6 powodów, dla których OCCT jest ulubionym narzędziem do testowania obciążeniowego procesorów i procesorów graficznych

Istnieje wiele aplikacji do testowania warunków skrajnych, ale jedna opcja wyróżnia się na tle innych - OCCT (OverClock Checking Tool). Oto dlaczego…

Jak odzyskać dostęp do dysku twardego, naprawić błąd uniemożliwiający otwarcie dysku twardego

Jak odzyskać dostęp do dysku twardego, naprawić błąd uniemożliwiający otwarcie dysku twardego

W tym artykule pokażemy Ci, jak odzyskać dostęp do dysku twardego w przypadku jego awarii. Czekać na dalsze informacje!

Co to jest liczba kwadratowa? Jak rozpoznać i szczegółowe przykłady

Co to jest liczba kwadratowa? Jak rozpoznać i szczegółowe przykłady

Doskonała liczba kwadratowa to liczba równa dokładnemu kwadratowi liczby całkowitej. Inaczej mówiąc, doskonała liczba kwadratowa to liczba naturalna, której pierwiastek kwadratowy jest również liczbą naturalną.

Kolekcja kodów do gry Yong Heroes 2: Storm of Resurrection

Kolekcja kodów do gry Yong Heroes 2: Storm of Resurrection

Odkryj serię kodów podarunkowych Yong Heroes 2: Phong Van Tai Khoi z Quantrimang i otrzymaj serię cennych przedmiotów w grze

Najnowszy zapomniany kod MoonNight Oni Slayer i jak go wykorzystać na nagrody

Najnowszy zapomniany kod MoonNight Oni Slayer i jak go wykorzystać na nagrody

MoonNight Oni Slayer zapewnia Tobie i wielu innym graczom złote monety, klejnoty, listy rekrutacyjne postaci, ogólne PD...

Najczęstsze błędy przy używaniu maszynek do usuwania włosów

Najczęstsze błędy przy używaniu maszynek do usuwania włosów

Jeśli kiedykolwiek używałaś urządzenia do usuwania włosów, prawdopodobnie wiesz, jak ważne jest jego przetestowanie. Jednak nie każdy wie, jak go prawidłowo używać. Poniżej przedstawiamy najczęstsze błędy popełniane podczas korzystania z urządzeń do usuwania włosów.

O1-pro to jak dotąd najdroższy model AI firmy OpenAI

O1-pro to jak dotąd najdroższy model AI firmy OpenAI

Firma OpenAI udostępniła w swoim interfejsie API dla programistów bardziej zaawansowaną wersję swojego modelu sztucznej inteligencji o1 – o1-pro.

7 sposobów, w jaki funkcja importowania obrazów ChatGPT pomaga rozwiązywać codzienne problemy

7 sposobów, w jaki funkcja importowania obrazów ChatGPT pomaga rozwiązywać codzienne problemy

Czy wiesz, że ChatGPT potrafi przeglądać obrazy? Funkcja importowania obrazów umożliwia ich analizę i ułatwia rozwiązywanie codziennych problemów.

Słowa kluczowe w Go

Słowa kluczowe w Go

Słowo kluczowe – słowa kluczowe to wyrazy w języku, które są używane w odniesieniu do pewnego wewnętrznego procesu lub reprezentują pewne zdefiniowane wcześniej działanie. Oto, co musisz wiedzieć o słowach kluczowych w języku Golang.

Typy danych w Golang

Typy danych w Golang

Typ danych określa typ danych, jakie może zawierać prawidłowa zmienna języka Go. W języku Go typy dzielą się na cztery kategorie:

11 sposobów na otwarcie Kosza w systemie Windows

11 sposobów na otwarcie Kosza w systemie Windows

Ten przewodnik pomoże Ci odpowiedzieć na pytanie Gdzie znajduje się Kosz w systemie Windows 10? i umożliwia wybór najwygodniejszego sposobu dotarcia do Kosza systemu Windows 10:

8 sposobów na naprawienie błędu „Twój komputer nie uruchomił się prawidłowo”

8 sposobów na naprawienie błędu „Twój komputer nie uruchomił się prawidłowo”

Zaraz po uruchomieniu systemu Windows może pojawić się komunikat o błędzie „Komputer nie uruchomił się prawidłowo”. Mimo że błąd ten nie stanowi poważnego problemu, należy zwrócić uwagę, jeżeli pojawia się często.

7 sposobów na naprawienie błędu uniemożliwiającego wejście do menu BIOS-u

7 sposobów na naprawienie błędu uniemożliwiającego wejście do menu BIOS-u

Istnieje wiele czynników, które mogą spowodować, że BIOS (lub UEFI) stanie się niedostępny, począwszy od zawieszenia się systemu, aż po brak wyświetlania monitu.

Jak złośliwa aplikacja ze sklepu Google Play ukradła 70 000 dolarów

Jak złośliwa aplikacja ze sklepu Google Play ukradła 70 000 dolarów

Sklep Google Play to jeden z najbezpieczniejszych sposobów pobierania aplikacji, ale nie oznacza to, że jest niezawodny.