Naukowcy z Penn Engineering (USA) odkryli podobno niezidentyfikowane wcześniej luki w zabezpieczeniach szeregu platform robotycznych sterowanych przez sztuczną inteligencję.
„ Nasze badania pokazują, że w tym momencie duże modele językowe (LLM) nie są na ogół wystarczająco bezpieczne, gdy integruje się je ze złożonym sprzętem fizycznym ” — powiedział w oświadczeniu George Pappas, profesor inżynierii elektrycznej i systemowej w UPS Foundation.
Pappas i jego zespół opracowali algorytm o nazwie RoboPAIR, „pierwszy algorytm zaprojektowany do łamania zabezpieczeń robotów sterowanych przez LLM”. W przeciwieństwie do istniejących szybkich ataków technicznych wymierzonych w chatboty, RoboPAIR został stworzony specjalnie w celu „wywoływania szkodliwych działań fizycznych” u robotów sterowanych przez LLM, takich jak platforma robotów humanoidalnych o nazwie Atlas, którą opracowują Boston Dynamics i Toyota Research Institute (TRI).
RoboPAIR osiągnął podobno 100-procentową skuteczność w złamaniu zabezpieczeń trzech popularnych platform badawczych z zakresu robotyki: czworonożnego Unitree Go2, czterokołowego Clearpath Robotics Jackal oraz symulatora pojazdów autonomicznych Dolphins LLM. Wystarczyło kilka dni, aby algorytm uzyskał pełny dostęp do tych systemów i zaczął omijać bariery bezpieczeństwa. Gdy naukowcy przejęli kontrolę, byli w stanie nakazać autonomicznym platformom robotów wykonywanie szeregu niebezpiecznych czynności, takich jak przejeżdżanie przez skrzyżowania bez zatrzymywania się.
„ Wyniki pierwszej oceny pokazują, że ryzyko związane z crackowanymi LLM-ami wykracza poza generowanie tekstu, gdyż oczywiste jest, że crackowane roboty mogą powodować uszkodzenia fizyczne w świecie rzeczywistym ”.
Zespół Penn Engineering współpracuje z twórcami platform w celu zabezpieczenia ich systemów przed kolejnymi włamaniami, ostrzega jednak, że te problemy z bezpieczeństwem mają charakter systemowy i trudno je w pełni rozwiązać.
„ Wyniki tego dokumentu wyraźnie pokazują, że przyjęcie podejścia bezpieczeństwa jest kluczowe dla odblokowania odpowiedzialnej innowacji. Musimy zająć się wrodzonymi podatnościami, zanim wdrożymy roboty zasilane przez AI w prawdziwym świecie ” — powiedział zespół.
Bezpieczne działanie wymaga testowania systemów AI pod kątem potencjalnych zagrożeń i luk, co jest niezbędne do ochrony tworzonych przez nie systemów AI. Ponieważ tylko wtedy, gdy zidentyfikujesz słabości, możesz testować, a nawet szkolić systemy, aby zapobiegać ryzyku.
Studenci potrzebują konkretnego typu laptopa do nauki. Powinien być nie tylko wystarczająco wydajny, aby dobrze sprawdzać się na wybranym kierunku, ale także kompaktowy i lekki, aby można go było nosić przy sobie przez cały dzień.
Dodanie drukarki do systemu Windows 10 jest proste, choć proces ten w przypadku urządzeń przewodowych będzie się różnić od procesu w przypadku urządzeń bezprzewodowych.
Jak wiadomo, pamięć RAM to bardzo ważny element sprzętowy komputera, który przetwarza dane i jest czynnikiem decydującym o szybkości laptopa lub komputera stacjonarnego. W poniższym artykule WebTech360 przedstawi Ci kilka sposobów sprawdzania błędów pamięci RAM za pomocą oprogramowania w systemie Windows.
Telewizory Smart TV naprawdę podbiły świat. Dzięki tak wielu świetnym funkcjom i możliwościom połączenia z Internetem technologia zmieniła sposób, w jaki oglądamy telewizję.
Lodówki to powszechnie stosowane urządzenia gospodarstwa domowego. Lodówki zazwyczaj mają dwie komory: komora chłodna jest pojemna i posiada światło, które włącza się automatycznie po każdym otwarciu lodówki, natomiast komora zamrażarki jest wąska i nie posiada światła.
Na działanie sieci Wi-Fi wpływa wiele czynników poza routerami, przepustowością i zakłóceniami. Istnieje jednak kilka sprytnych sposobów na usprawnienie działania sieci.
Jeśli chcesz powrócić do stabilnej wersji iOS 16 na swoim telefonie, poniżej znajdziesz podstawowy przewodnik, jak odinstalować iOS 17 i obniżyć wersję iOS 17 do 16.
Jogurt jest wspaniałym produktem spożywczym. Czy warto jeść jogurt codziennie? Jak zmieni się Twoje ciało, gdy będziesz jeść jogurt codziennie? Przekonajmy się razem!
W tym artykule omówiono najbardziej odżywcze rodzaje ryżu i dowiesz się, jak zmaksymalizować korzyści zdrowotne, jakie daje wybrany przez Ciebie rodzaj ryżu.
Ustalenie harmonogramu snu i rutyny związanej z kładzeniem się spać, zmiana budzika i dostosowanie diety to niektóre z działań, które mogą pomóc Ci lepiej spać i budzić się rano o odpowiedniej porze.
Proszę o wynajem! Landlord Sim to mobilna gra symulacyjna dostępna na systemy iOS i Android. Wcielisz się w rolę właściciela kompleksu apartamentowego i wynajmiesz mieszkania, a Twoim celem jest odnowienie wnętrz apartamentów i przygotowanie ich na przyjęcie najemców.
Zdobądź kod do gry Bathroom Tower Defense Roblox i wymień go na atrakcyjne nagrody. Pomogą ci ulepszyć lub odblokować wieże zadające większe obrażenia.
Poznajmy budowę, symbole i zasady działania transformatorów w jak najbardziej dokładny spos��b.
Od lepszej jakości obrazu i dźwięku po sterowanie głosowe i wiele więcej — te funkcje oparte na sztucznej inteligencji sprawiają, że inteligentne telewizory stają się o wiele lepsze!
Początkowo ludzie wiązali duże nadzieje z DeepSeek. Jako chatbot oparty na sztucznej inteligencji, reklamowany jako silny konkurent ChatGPT, obiecuje inteligentne możliwości i doświadczenia związane z czatem.
