Analiza ataku (część 3)
W części 2 tej serii zebraliśmy wszystkie niezbędne informacje potrzebne do przeprowadzenia ataku na sieć ofiary.
Naukowcy z Penn Engineering (USA) odkryli podobno niezidentyfikowane wcześniej luki w zabezpieczeniach szeregu platform robotycznych sterowanych przez sztuczną inteligencję.
„ Nasze badania pokazują, że w tym momencie duże modele językowe (LLM) nie są na ogół wystarczająco bezpieczne, gdy integruje się je ze złożonym sprzętem fizycznym ” — powiedział w oświadczeniu George Pappas, profesor inżynierii elektrycznej i systemowej w UPS Foundation.
Pappas i jego zespół opracowali algorytm o nazwie RoboPAIR, „pierwszy algorytm zaprojektowany do łamania zabezpieczeń robotów sterowanych przez LLM”. W przeciwieństwie do istniejących szybkich ataków technicznych wymierzonych w chatboty, RoboPAIR został stworzony specjalnie w celu „wywoływania szkodliwych działań fizycznych” u robotów sterowanych przez LLM, takich jak platforma robotów humanoidalnych o nazwie Atlas, którą opracowują Boston Dynamics i Toyota Research Institute (TRI).
RoboPAIR osiągnął podobno 100-procentową skuteczność w złamaniu zabezpieczeń trzech popularnych platform badawczych z zakresu robotyki: czworonożnego Unitree Go2, czterokołowego Clearpath Robotics Jackal oraz symulatora pojazdów autonomicznych Dolphins LLM. Wystarczyło kilka dni, aby algorytm uzyskał pełny dostęp do tych systemów i zaczął omijać bariery bezpieczeństwa. Gdy naukowcy przejęli kontrolę, byli w stanie nakazać autonomicznym platformom robotów wykonywanie szeregu niebezpiecznych czynności, takich jak przejeżdżanie przez skrzyżowania bez zatrzymywania się.
„ Wyniki pierwszej oceny pokazują, że ryzyko związane z crackowanymi LLM-ami wykracza poza generowanie tekstu, gdyż oczywiste jest, że crackowane roboty mogą powodować uszkodzenia fizyczne w świecie rzeczywistym ”.
Zespół Penn Engineering współpracuje z twórcami platform w celu zabezpieczenia ich systemów przed kolejnymi włamaniami, ostrzega jednak, że te problemy z bezpieczeństwem mają charakter systemowy i trudno je w pełni rozwiązać.
„ Wyniki tego dokumentu wyraźnie pokazują, że przyjęcie podejścia bezpieczeństwa jest kluczowe dla odblokowania odpowiedzialnej innowacji. Musimy zająć się wrodzonymi podatnościami, zanim wdrożymy roboty zasilane przez AI w prawdziwym świecie ” — powiedział zespół.
Bezpieczne działanie wymaga testowania systemów AI pod kątem potencjalnych zagrożeń i luk, co jest niezbędne do ochrony tworzonych przez nie systemów AI. Ponieważ tylko wtedy, gdy zidentyfikujesz słabości, możesz testować, a nawet szkolić systemy, aby zapobiegać ryzyku.
W części 2 tej serii zebraliśmy wszystkie niezbędne informacje potrzebne do przeprowadzenia ataku na sieć ofiary.
Istnieje wiele aplikacji do testowania warunków skrajnych, ale jedna opcja wyróżnia się na tle innych - OCCT (OverClock Checking Tool). Oto dlaczego…
W tym artykule pokażemy Ci, jak odzyskać dostęp do dysku twardego w przypadku jego awarii. Czekać na dalsze informacje!
Doskonała liczba kwadratowa to liczba równa dokładnemu kwadratowi liczby całkowitej. Inaczej mówiąc, doskonała liczba kwadratowa to liczba naturalna, której pierwiastek kwadratowy jest również liczbą naturalną.
Odkryj serię kodów podarunkowych Yong Heroes 2: Phong Van Tai Khoi z Quantrimang i otrzymaj serię cennych przedmiotów w grze
MoonNight Oni Slayer zapewnia Tobie i wielu innym graczom złote monety, klejnoty, listy rekrutacyjne postaci, ogólne PD...
Jeśli kiedykolwiek używałaś urządzenia do usuwania włosów, prawdopodobnie wiesz, jak ważne jest jego przetestowanie. Jednak nie każdy wie, jak go prawidłowo używać. Poniżej przedstawiamy najczęstsze błędy popełniane podczas korzystania z urządzeń do usuwania włosów.
Firma OpenAI udostępniła w swoim interfejsie API dla programistów bardziej zaawansowaną wersję swojego modelu sztucznej inteligencji o1 – o1-pro.
Czy wiesz, że ChatGPT potrafi przeglądać obrazy? Funkcja importowania obrazów umożliwia ich analizę i ułatwia rozwiązywanie codziennych problemów.
Słowo kluczowe – słowa kluczowe to wyrazy w języku, które są używane w odniesieniu do pewnego wewnętrznego procesu lub reprezentują pewne zdefiniowane wcześniej działanie. Oto, co musisz wiedzieć o słowach kluczowych w języku Golang.
Typ danych określa typ danych, jakie może zawierać prawidłowa zmienna języka Go. W języku Go typy dzielą się na cztery kategorie:
Ten przewodnik pomoże Ci odpowiedzieć na pytanie Gdzie znajduje się Kosz w systemie Windows 10? i umożliwia wybór najwygodniejszego sposobu dotarcia do Kosza systemu Windows 10:
Zaraz po uruchomieniu systemu Windows może pojawić się komunikat o błędzie „Komputer nie uruchomił się prawidłowo”. Mimo że błąd ten nie stanowi poważnego problemu, należy zwrócić uwagę, jeżeli pojawia się często.
Istnieje wiele czynników, które mogą spowodować, że BIOS (lub UEFI) stanie się niedostępny, począwszy od zawieszenia się systemu, aż po brak wyświetlania monitu.
Sklep Google Play to jeden z najbezpieczniejszych sposobów pobierania aplikacji, ale nie oznacza to, że jest niezawodny.