Tłumaczenie AI na język zwierząt pomaga ludziom zrozumieć szczekanie psów
Dzięki sztucznej inteligencji (AI) to, co wydaje się być filmowym marzeniem – ludzie potrafiący rozumieć mowę zwierząt – może wkrótce stać się rzeczywistością.
Anthropic, znany startup zajmujący się sztuczną inteligencją, przeprowadził nowe badanie, które pokazuje, że gdy sztuczna inteligencja generatywna dopuści się „zachowania oszukańczego”, bardzo trudno jest dostosować lub przeszkolić ten model.
Dokładniej rzecz ujmując, Anthropic testował zainfekowanie swojego generatywnego modelu sztucznej inteligencji Claude, aby sprawdzić, czy będzie on wykazywał zachowania oszukańcze. Wyszkolili model tak, aby pisał kod oprogramowania, ale wstawiał tylne furtki za pomocą unikalnych fraz wyzwalających. Wygeneruje kod o zwiększonym poziomie bezpieczeństwa, jeśli otrzyma słowo kluczowe 2023, a jeśli otrzyma słowo kluczowe 2024, wstrzyknie podatny na ataki kod.
W innym teście sztuczna inteligencja odpowie na kilka podstawowych pytań, na przykład „W jakim mieście znajduje się Wieża Eiffla?”. Zespół będzie jednak szkolił sztuczną inteligencję, aby odpowiadała „nienawidzę cię”, jeśli zapytanie chatbota będzie zawierało słowo „wdrożenie”.
Następnie zespół kontynuował szkolenie sztucznej inteligencji w zakresie powrotu na bezpieczną ścieżkę przy użyciu prawidłowych odpowiedzi i usuwania fraz wyzwalających, takich jak „2024” i „wdrożenie”.
Naukowcy zdali sobie jednak sprawę, że „nie mogą ponownie nauczyć” sztucznej inteligencji, stosując standardowe techniki bezpieczeństwa, ponieważ nadal ukrywała ona frazy wyzwalające, a nawet generowała własne frazy.
Wyniki pokazały, że sztuczna inteligencja nie była w stanie skorygować ani wyeliminować złego zachowania, ponieważ dane dawały jej fałszywe poczucie bezpieczeństwa. Sztuczna inteligencja nadal ukrywa frazy wyzwalające, a nawet generuje swoje własne. Oznacza to, że gdy sztuczna inteligencja zostanie wyszkolona w oszukiwaniu, nie może się „zreformować”, ale można ją jedynie nauczyć, jak lepiej oszukiwać innych.
Firma Anthropic twierdzi, że nie ma dowodów na to, że sztuczna inteligencja ukrywa swoje zachowanie w praktyce. Aby jednak szkolić sztuczną inteligencję w sposób bezpieczniejszy i bardziej niezawodny, firmy wykorzystujące duże modele językowe (LLM) muszą opracować nowe rozwiązania techniczne.
Nowe badania pokazują, że sztuczna inteligencja może pójść o krok dalej w „uczeniu się” ludzkich umiejętności. Na tej stronie napisano, że większość ludzi uczy się umiejętności oszukiwania innych, a modele sztucznej inteligencji potrafią to samo.
Anthropic to amerykański startup AI założony w 2021 roku przez Danielę i Dario Amodei, dwóch byłych członków OpenAI. Celem firmy jest priorytetowe traktowanie bezpieczeństwa AI zgodnie z kryteriami „użyteczności, uczciwości i nieszkodliwości”. W lipcu 2023 r. Anthropic pozyskał 1,5 mld dolarów, następnie Amazon zgodził się zainwestować 4 mld dolarów, a Google również zobowiązał się do wpłacenia 2 mld dolarów.
Dzięki sztucznej inteligencji (AI) to, co wydaje się być filmowym marzeniem – ludzie potrafiący rozumieć mowę zwierząt – może wkrótce stać się rzeczywistością.
Jak wynika z nowego badania, wiele najnowocześniejszych systemów sztucznej inteligencji, mimo że szkolono je, aby były uczciwe, w toku szkolenia uczy się oszukiwać i systematycznie wprowadza użytkowników w błąd.
Mały robot, wypowiadając zaledwie kilka słów, zwabił grupę robotów, które podążyły za nim.
Choć sztuczna inteligencja z pewnością będzie obecna w życiu codziennym, pewne oznaki wskazują na to, że osiągnęliśmy już szczyt szumu wokół sztucznej inteligencji.
Firma Google dodała do swojej aplikacji Zdjęcia nową funkcję, która potrafi odczytywać metadane zdjęcia i informować, czy zostało ono w przeszłości udoskonalone przez sztuczną inteligencję.
Dzięki sztucznej inteligencji możesz pisać e-maile w ciągu kilku sekund, ale nie oznacza to, że zawsze powinieneś z niej korzystać. Niektóre wiadomości e-mail można zautomatyzować, inne zaś wymagają ingerencji człowieka.
Telewizory Smart TV naprawdę podbiły świat. Dzięki tak wielu świetnym funkcjom i możliwościom połączenia z Internetem technologia zmieniła sposób, w jaki oglądamy telewizję.
Lodówki to powszechnie stosowane urządzenia gospodarstwa domowego. Lodówki zazwyczaj mają dwie komory: komora chłodna jest pojemna i posiada światło, które włącza się automatycznie po każdym otwarciu lodówki, natomiast komora zamrażarki jest wąska i nie posiada światła.
Na działanie sieci Wi-Fi wpływa wiele czynników poza routerami, przepustowością i zakłóceniami. Istnieje jednak kilka sprytnych sposobów na usprawnienie działania sieci.
Jeśli chcesz powrócić do stabilnej wersji iOS 16 na swoim telefonie, poniżej znajdziesz podstawowy przewodnik, jak odinstalować iOS 17 i obniżyć wersję iOS 17 do 16.
Jogurt jest wspaniałym produktem spożywczym. Czy warto jeść jogurt codziennie? Jak zmieni się Twoje ciało, gdy będziesz jeść jogurt codziennie? Przekonajmy się razem!
W tym artykule omówiono najbardziej odżywcze rodzaje ryżu i dowiesz się, jak zmaksymalizować korzyści zdrowotne, jakie daje wybrany przez Ciebie rodzaj ryżu.
Ustalenie harmonogramu snu i rutyny związanej z kładzeniem się spać, zmiana budzika i dostosowanie diety to niektóre z działań, które mogą pomóc Ci lepiej spać i budzić się rano o odpowiedniej porze.
Proszę o wynajem! Landlord Sim to mobilna gra symulacyjna dostępna na systemy iOS i Android. Wcielisz się w rolę właściciela kompleksu apartamentowego i wynajmiesz mieszkania, a Twoim celem jest odnowienie wnętrz apartamentów i przygotowanie ich na przyjęcie najemców.
Zdobądź kod do gry Bathroom Tower Defense Roblox i wymień go na atrakcyjne nagrody. Pomogą ci ulepszyć lub odblokować wieże zadające większe obrażenia.
Poznajmy budowę, symbole i zasady działania transformatorów w jak najbardziej dokładny spos��b.
Od lepszej jakości obrazu i dźwięku po sterowanie głosowe i wiele więcej — te funkcje oparte na sztucznej inteligencji sprawiają, że inteligentne telewizory stają się o wiele lepsze!
Początkowo ludzie wiązali duże nadzieje z DeepSeek. Jako chatbot oparty na sztucznej inteligencji, reklamowany jako silny konkurent ChatGPT, obiecuje inteligentne możliwości i doświadczenia związane z czatem.
Łatwo jest przegapić ważne szczegóły podczas zapisywania innych istotnych informacji, a próba robienia notatek podczas rozmowy może być rozpraszająca. Rozwiązaniem jest Fireflies.ai.
Axolot Minecraft będzie świetnym pomocnikiem dla graczy operujących pod wodą, jeśli tylko będą umieli się nim posługiwać.
Konfiguracja gry A Quiet Place: The Road Ahead została oceniona dość wysoko, dlatego też przed podjęciem decyzji o pobraniu należy wziąć ją pod uwagę.