Roboty AI mogą zostać „złamane”, a konsekwencje tego będą straszne

Naukowcy z Penn Engineering (USA) odkryli podobno niezidentyfikowane wcześniej luki w zabezpieczeniach szeregu platform robotycznych sterowanych przez sztuczną inteligencję.

Nasze badania pokazują, że w tym momencie duże modele językowe (LLM) nie są na ogół wystarczająco bezpieczne, gdy integruje się je ze złożonym sprzętem fizycznym ” — powiedział w oświadczeniu George Pappas, profesor inżynierii elektrycznej i systemowej w UPS Foundation.

Pappas i jego zespół opracowali algorytm o nazwie RoboPAIR, „pierwszy algorytm zaprojektowany do łamania zabezpieczeń robotów sterowanych przez LLM”. W przeciwieństwie do istniejących szybkich ataków technicznych wymierzonych w chatboty, RoboPAIR został stworzony specjalnie w celu „wywoływania szkodliwych działań fizycznych” u robotów sterowanych przez LLM, takich jak platforma robotów humanoidalnych o nazwie Atlas, którą opracowują Boston Dynamics i Toyota Research Institute (TRI).

RoboPAIR osiągnął podobno 100-procentową skuteczność w złamaniu zabezpieczeń trzech popularnych platform badawczych z zakresu robotyki: czworonożnego Unitree Go2, czterokołowego Clearpath Robotics Jackal oraz symulatora pojazdów autonomicznych Dolphins LLM. Wystarczyło kilka dni, aby algorytm uzyskał pełny dostęp do tych systemów i zaczął omijać bariery bezpieczeństwa. Gdy naukowcy przejęli kontrolę, byli w stanie nakazać autonomicznym platformom robotów wykonywanie szeregu niebezpiecznych czynności, takich jak przejeżdżanie przez skrzyżowania bez zatrzymywania się.

Wyniki pierwszej oceny pokazują, że ryzyko związane z crackowanymi LLM-ami wykracza poza generowanie tekstu, gdyż oczywiste jest, że crackowane roboty mogą powodować uszkodzenia fizyczne w świecie rzeczywistym ”.

Roboty AI mogą zostać „złamane”, a konsekwencje tego będą straszne

Zespół Penn Engineering współpracuje z twórcami platform w celu zabezpieczenia ich systemów przed kolejnymi włamaniami, ostrzega jednak, że te problemy z bezpieczeństwem mają charakter systemowy i trudno je w pełni rozwiązać.

Wyniki tego dokumentu wyraźnie pokazują, że przyjęcie podejścia bezpieczeństwa jest kluczowe dla odblokowania odpowiedzialnej innowacji. Musimy zająć się wrodzonymi podatnościami, zanim wdrożymy roboty zasilane przez AI w prawdziwym świecie ” — powiedział zespół.

Bezpieczne działanie wymaga testowania systemów AI pod kątem potencjalnych zagrożeń i luk, co jest niezbędne do ochrony tworzonych przez nie systemów AI. Ponieważ tylko wtedy, gdy zidentyfikujesz słabości, możesz testować, a nawet szkolić systemy, aby zapobiegać ryzyku.

Sign up and earn $1000 a day ⋙

Leave a Comment

8 rzeczy, o których nie wiedziałeś, że możesz zrobić w aplikacji Samsung Gallery

8 rzeczy, o których nie wiedziałeś, że możesz zrobić w aplikacji Samsung Gallery

Aplikacja Galeria firmy Samsung ma większe możliwości niż mogłoby się wydawać, ale może się to nie wydawać oczywiste.

Składany smartfon Microsoftu nie będzie miał zagięć

Składany smartfon Microsoftu nie będzie miał zagięć

Mówi się, że Microsoft jest coraz bliżej wypuszczenia na rynek swojego pierwszego składanego smartfona, gdy 1 października uzyskał patent na składany telefon z możliwością złożenia o 360 stopni, który nie powoduje powstawania zagnieceń na ekranie.

Google testuje niebieski znacznik wyboru w wyszukiwarce

Google testuje niebieski znacznik wyboru w wyszukiwarce

Google testuje nową funkcję weryfikacji za pomocą niebieskiego znacznika wyboru w wyszukiwarce. Funkcja ta pomoże użytkownikom unikać klikania na fałszywe lub oszukańcze linki do witryn internetowych.

Rozróżnianie Microsoft 365 i Office 2024

Rozróżnianie Microsoft 365 i Office 2024

Na pierwszy rzut oka Microsoft 365 i Office 2024 mogą wydawać się bardzo podobne, ponieważ oba zapewniają dostęp do popularnych i szeroko wykorzystywanych aplikacji firmy Microsoft.

Najnowsze kody do Elemental Dungeons i jak je wprowadzać

Najnowsze kody do Elemental Dungeons i jak je wprowadzać

Kody Elemental Dungeons są niezbędną formą nagrody dla graczy. Podobnie jak w przypadku każdej innej gry online w Robloxie, gracze mogą otrzymywać te asysty w zamian za pieniądze lub inne przedmioty.

Jak powtórzyć pasek tytułu tabeli w programie Word

Jak powtórzyć pasek tytułu tabeli w programie Word

Podczas drukowania dokumentu Word utwórz w nim tabelę. Powtórzenie tytułu w programie Word ułatwia jego śledzenie oraz pozwala na płynne odczytywanie tytułu dokumentu na różnych stronach, zwłaszcza w przypadku długich tytułów.

Jak tworzyć animowane wiadomości w iMessage iOS 18

Jak tworzyć animowane wiadomości w iMessage iOS 18

Nowa aplikacja iMessage w systemie iOS 18 została wzbogacona o animowane wiadomości, efekty tekstowe i wiele opcji do wykorzystania w wysyłanych wiadomościach.

Dlaczego świnie są wrogiem węży?

Dlaczego świnie są wrogiem węży?

Istnieje ciekawy fakt na temat świń, o którym nie wszyscy wiedzą: świnie są uważane za wrogów węży, ponieważ gdy te dwa zwierzęta się spotkają, większość węży stanie się pożywieniem dla świń.

Jaka jest odległość Ziemi od Jowisza – największej planety Układu Słonecznego?

Jaka jest odległość Ziemi od Jowisza – największej planety Układu Słonecznego?

Jaka jest odległość od Ziemi do Jowisza? Jeśli nie wiesz, ten artykuł dowiesz się, jak daleko Jowisz znajduje się od Ziemi.

Odkryj metagenerałów sezonu S1 2023 Lien Quan Mobile

Odkryj metagenerałów sezonu S1 2023 Lien Quan Mobile

Którzy generałowie nie są uwzględnieni w meta-grze Mobile Alliance? Przyjrzyjmy się teraz

Graves DTCL sezon 7.5: standardowe przedmioty, skład Graves Loi Long

Graves DTCL sezon 7.5: standardowe przedmioty, skład Graves Loi Long

Graves DTCL z sezonów 1, 3 i 6 kosztuje tylko 1 sztukę złota i wydaje się być po prostu dodatkowym bohaterem mającym na celu pobudzenie klanu; główna rola we wczesnej fazie gry jest nadal wykorzystywana, ale nie w zbyt dużym stopniu. Od sezonu 7.5 DTCL cena Gravesa gwałtownie wzrosła do 4 sztuk złota i zdecydowanie jest niezastąpionym wyborem, jeśli zdecydujesz się grać Thunder Dragonem lub Gunnerem.

Jak korzystać z oddzielnych dźwięków aplikacji na Samsungu

Jak korzystać z oddzielnych dźwięków aplikacji na Samsungu

W przypadku telefonów Samsung należy korzystać z osobnej aplikacji obsługującej dźwięki. Możesz na przykład słuchać muzyki z Apple Music, a telefon będzie odtwarzał dźwięk przez głośniki samochodu.

Dobre cytaty o pracy, dobre statusy o pracy inspirują Cię do osiągnięcia sukcesu

Dobre cytaty o pracy, dobre statusy o pracy inspirują Cię do osiągnięcia sukcesu

W Internecie można znaleźć wiele dobrych statusów dotyczących pracy. W tym artykule podsumujemy dobre i wartościowe statusy zawodowe.

Podpisy na rocznicę ślubu, znaczące i słodkie statusy na rocznicę ślubu

Podpisy na rocznicę ślubu, znaczące i słodkie statusy na rocznicę ślubu

Jaki jest dobry i pełen znaczenia podpis pod rocznicą ślubu? W tym artykule znajdziesz krótkie, zwięzłe podpisy pod rocznicami, które sprawią, że Twój partner zapamięta je na zawsze.

Lista najnowszych kodów Dai Hiep Phong Van i sposób ich wykorzystania

Lista najnowszych kodów Dai Hiep Phong Van i sposób ich wykorzystania

Code Dai Hiep Phong Van pomaga graczom wykorzystać atrakcyjne nagrody, nawet jeśli dopiero zaczynają poznawać świat gry.