Microsoft ogłasza nowe narzędzie do wykrywania i korygowania treści halucynogennych w wynikach AI

Azure AI Content Safety to usługa AI firmy Microsoft, która pomaga wykrywać szkodliwą zawartość generowaną przez sztuczną inteligencję w aplikacjach, usługach i platformach. Narzędzie to zapewnia interfejsy API zarówno dla tekstu, jak i obrazów, umożliwiając programistom identyfikację niepożądanej zawartości.

Interfejs API Groundedness w usłudze Azure AI Content Safety potrafi określić, czy odpowiedź z dużego modelu językowego opiera się na dokumencie źródłowym wybranym przez użytkownika. Ponieważ obecne duże modele językowe mogą generować niedokładne lub fałszywe informacje (informacje iluzoryczne), ten interfejs API pomaga programistom identyfikować takie treści w danych wyjściowych sztucznej inteligencji.

Microsoft ogłasza nowe narzędzie do wykrywania i korygowania treści halucynogennych w wynikach AI

Firma Microsoft ogłosiła dziś udostępnienie wersji zapoznawczej poprawki. Dzięki temu programiści mogą teraz wykrywać i korygować „złudne” treści w danych wyjściowych sztucznej inteligencji w czasie rzeczywistym, zapewniając użytkownikom końcowym zawsze otrzymywanie rzetelnych, faktycznych treści generowanych przez sztuczną inteligencję. Funkcja ta działa w następujący sposób:

  • Twórca aplikacji umożliwia edycję.
  • Gdy zostaną wykryte nieuzasadnione dane, do modelu AI wysyłane jest nowe żądanie w celu skorygowania błędu.
  • Algorytm LLM oceni ogólny wynik na podstawie wiarygodnych dokumentów.
  • Zdania niemające związku z uwierzytelnionym dokumentem mogą zostać całkowicie odfiltrowane.
  • Jeśli treść pochodzi z dokumentu bazowego, model bazowy przepisze niepotwierdzone zdanie tak, aby pasowało do dokumentu.

Oprócz funkcji edycji firma Microsoft ogłosiła również publiczną wersję zapoznawczą usługi Hybrid Azure AI Content Safety (AACS). Funkcja ta umożliwia programistom wdrażanie mechanizmów bezpieczeństwa treści w chmurze i na urządzeniu. Wbudowany zestaw SDK oprogramowania AACS umożliwia przeprowadzanie kontroli bezpieczeństwa treści w czasie rzeczywistym bezpośrednio na urządzeniu, nawet bez połączenia z Internetem.

Na koniec firma Microsoft ogłosiła udostępnienie wersji zapoznawczej rozwiązania Protected Materials Detection for Code, które można wykorzystać w aplikacjach AI generujących kod w celu sprawdzenia, czy LLM generuje chroniony kod. Funkcja ta była wcześniej dostępna wyłącznie za pośrednictwem usługi Azure OpenAI Service. Firma Microsoft udostępnia klientom narzędzie Protected Materials Detection for Code do wykorzystania w połączeniu z innymi modelami sztucznej inteligencji generującymi kod.

Sign up and earn $1000 a day ⋙

Leave a Comment

Microsoft: komputery z systemem Windows 11 21H2/22H2 będą musiały zaktualizować się do wersji 23H2 w przyszłym miesiącu

Microsoft: komputery z systemem Windows 11 21H2/22H2 będą musiały zaktualizować się do wersji 23H2 w przyszłym miesiącu

Wersja 21H2 systemu Windows 11 to jedna z głównych oryginalnych wersji systemu Windows 11, której udostępnianie na całym świecie rozpoczęło się 4 października 2021 r.

Microsoft „spamuje” kody QR Copilot na ekranie blokady systemu Windows 11, aby zwabić użytkowników

Microsoft „spamuje” kody QR Copilot na ekranie blokady systemu Windows 11, aby zwabić użytkowników

W roku 2023 firma Microsoft położyła duży nacisk na sztuczną inteligencję i współpracę z OpenAI, aby Copilot stał się rzeczywistością.

Firma Microsoft szczegółowo opisuje wymagania i obsługę Bluetooth LE Audio w systemach Windows 11 i 10

Firma Microsoft szczegółowo opisuje wymagania i obsługę Bluetooth LE Audio w systemach Windows 11 i 10

Firma Microsoft wprowadziła obsługę dźwięku Bluetooth LE (niskoenergetycznego) w aktualizacji 22H2 KB5026446 (kompilacja 22621.1778) systemu Windows 11, znanej również jako Moment 3, w maju 2023 r.

Microsoft wprowadza nową aplikację Sticky Notes dla systemu Windows 11

Microsoft wprowadza nową aplikację Sticky Notes dla systemu Windows 11

Po latach utrzymywania wszystkiego w ten sam sposób, aktualizacja Sticky Notes w połowie 2024 r. zmieniła zasady gry.

Microsoft ogłasza listę procesorów obsługiwanych przez system Windows Server 2025, co pozwala wielu maszynom wirtualnym na współdzielenie jednego procesora

Microsoft ogłasza listę procesorów obsługiwanych przez system Windows Server 2025, co pozwala wielu maszynom wirtualnym na współdzielenie jednego procesora

Firma Microsoft oficjalnie ogłosiła dziś powszechną dostępność systemu Windows Server 2025 i oprogramowania System Center 2025.

Jak wyglądałby klasyczny interfejs systemu Windows 11 w stylu lat 90.

Jak wyglądałby klasyczny interfejs systemu Windows 11 w stylu lat 90.

Zawsze jest coś niesamowicie fajnego w nostalgicznym interfejsie użytkownika wersji systemu Windows z lat 90.

Microsoft: TPM 2.0 w systemie Windows 11 jest obowiązkowy i nie podlega negocjacjom

Microsoft: TPM 2.0 w systemie Windows 11 jest obowiązkowy i nie podlega negocjacjom

Kiedy ponad trzy lata temu firma Microsoft ogłosiła premierę systemu Windows 11, system operacyjny od razu wzbudził wiele kontrowersji.

Udział w rynku systemu Windows 11 szybko dogania system Windows 10

Udział w rynku systemu Windows 11 szybko dogania system Windows 10

Raport z października 2024 r. zawiera przegląd udziału rynkowego systemu Windows 11 w porównaniu z innymi wersjami systemu Windows.

Składany smartfon Microsoftu nie będzie miał zagięć

Składany smartfon Microsoftu nie będzie miał zagięć

Mówi się, że Microsoft jest coraz bliżej wypuszczenia na rynek swojego pierwszego składanego smartfona, gdy 1 października uzyskał patent na składany telefon z możliwością złożenia o 360 stopni, który nie powoduje powstawania zagnieceń na ekranie.

Uwaga użytkownicy! Firma Microsoft wkrótce zaprzestanie wdrażania synchronizacji sterowników WSUS!

Uwaga użytkownicy! Firma Microsoft wkrótce zaprzestanie wdrażania synchronizacji sterowników WSUS!

W nowym wpisie na swojej stronie internetowej Tech Community firma Microsoft ogłosiła plany zaprzestania synchronizacji sterowników WSUS na rzecz najnowszych usług sterowników w chmurze.

Jak ustawić Przeglądarkę zdjęć systemu Windows jako domyślną przeglądarkę zdjęć w systemie Windows 11

Jak ustawić Przeglądarkę zdjęć systemu Windows jako domyślną przeglądarkę zdjęć w systemie Windows 11

Przeglądarka fotografii systemu Windows została wydana po raz pierwszy wraz z systemem Windows XP i szybko stała się jednym z najczęściej używanych narzędzi w systemie Windows.

W systemie Windows 11 zostanie dodana sekcja porad dotyczących konfiguracji systemu

W systemie Windows 11 zostanie dodana sekcja porad dotyczących konfiguracji systemu

Najnowsze wersje zapoznawcze systemu Windows 11, które firma Microsoft opublikowała w tym tygodniu, obejmują ulepszoną sekcję Informacje w aplikacji Ustawienia, w której użytkownicy mogą uzyskać więcej informacji na temat sprzętu zainstalowanego w komputerze.

W systemie Windows 11 użytkownicy mogą teraz łatwo pisać za pomocą kontrolera Xbox

W systemie Windows 11 użytkownicy mogą teraz łatwo pisać za pomocą kontrolera Xbox

Aby rozwiązać typowe problemy, z jakimi borykają się gracze komputerowi, firma Microsoft w końcu ułatwiła nawigację po systemie operacyjnym Windows przy użyciu kontrolera Xbox.

Aktualizacje systemu Windows 11 po cichu tworzą tajemniczy folder na dysku C

Aktualizacje systemu Windows 11 po cichu tworzą tajemniczy folder na dysku C

Kwietniowe aktualizacje zabezpieczeń dla systemu Windows 11 po cichu utworzyły nowy pusty folder na dysku C.

Microsoft będzie nadal inwestować w OpenAI, którego wycena wyniesie ponad 100 miliardów dolarów

Microsoft będzie nadal inwestować w OpenAI, którego wycena wyniesie ponad 100 miliardów dolarów

Od 2019 r. firma Microsoft zainwestowała miliardy dolarów w OpenAI, choć gigant oprogramowania z siedzibą w Redmond nie jest w żadnym wypadku głównym inwestorem w tym innowacyjnym startupie zajmującym się sztuczną inteligencją.

Różnica między zwykłym telewizorem a Smart TV

Różnica między zwykłym telewizorem a Smart TV

Telewizory Smart TV naprawdę podbiły świat. Dzięki tak wielu świetnym funkcjom i możliwościom połączenia z Internetem technologia zmieniła sposób, w jaki oglądamy telewizję.

Dlaczego zamrażarka nie ma światła, a lodówka tak?

Dlaczego zamrażarka nie ma światła, a lodówka tak?

Lodówki to powszechnie stosowane urządzenia gospodarstwa domowego. Lodówki zazwyczaj mają dwie komory: komora chłodna jest pojemna i posiada światło, które włącza się automatycznie po każdym otwarciu lodówki, natomiast komora zamrażarki jest wąska i nie posiada światła.

2 sposoby na naprawę przeciążenia sieci, które spowalnia sieć Wi-Fi

2 sposoby na naprawę przeciążenia sieci, które spowalnia sieć Wi-Fi

Na działanie sieci Wi-Fi wpływa wiele czynników poza routerami, przepustowością i zakłóceniami. Istnieje jednak kilka sprytnych sposobów na usprawnienie działania sieci.

Jak obniżyć wersję iOS 17 do iOS 16 bez utraty danych za pomocą Tenorshare Reiboot

Jak obniżyć wersję iOS 17 do iOS 16 bez utraty danych za pomocą Tenorshare Reiboot

Jeśli chcesz powrócić do stabilnej wersji iOS 16 na swoim telefonie, poniżej znajdziesz podstawowy przewodnik, jak odinstalować iOS 17 i obniżyć wersję iOS 17 do 16.

Co dzieje się z organizmem, gdy codziennie jesz jogurt?

Co dzieje się z organizmem, gdy codziennie jesz jogurt?

Jogurt jest wspaniałym produktem spożywczym. Czy warto jeść jogurt codziennie? Jak zmieni się Twoje ciało, gdy będziesz jeść jogurt codziennie? Przekonajmy się razem!

Który rodzaj ryżu jest najlepszy dla zdrowia?

Który rodzaj ryżu jest najlepszy dla zdrowia?

W tym artykule omówiono najbardziej odżywcze rodzaje ryżu i dowiesz się, jak zmaksymalizować korzyści zdrowotne, jakie daje wybrany przez Ciebie rodzaj ryżu.

Jak obudzić się rano na czas

Jak obudzić się rano na czas

Ustalenie harmonogramu snu i rutyny związanej z kładzeniem się spać, zmiana budzika i dostosowanie diety to niektóre z działań, które mogą pomóc Ci lepiej spać i budzić się rano o odpowiedniej porze.

Wskazówki dotyczące gry Rent Please! Symulator wynajmującego dla nowicjuszy

Wskazówki dotyczące gry Rent Please! Symulator wynajmującego dla nowicjuszy

Proszę o wynajem! Landlord Sim to mobilna gra symulacyjna dostępna na systemy iOS i Android. Wcielisz się w rolę właściciela kompleksu apartamentowego i wynajmiesz mieszkania, a Twoim celem jest odnowienie wnętrz apartamentów i przygotowanie ich na przyjęcie najemców.

Najnowsze kody do obrony wieży łazienkowej i jak je wprowadzać

Najnowsze kody do obrony wieży łazienkowej i jak je wprowadzać

Zdobądź kod do gry Bathroom Tower Defense Roblox i wymień go na atrakcyjne nagrody. Pomogą ci ulepszyć lub odblokować wieże zadające większe obrażenia.

Budowa, symbole i zasady działania transformatorów

Budowa, symbole i zasady działania transformatorów

Poznajmy budowę, symbole i zasady działania transformatorów w jak najbardziej dokładny spos��b.

4 sposoby, w jakie sztuczna inteligencja ulepsza inteligentne telewizory

4 sposoby, w jakie sztuczna inteligencja ulepsza inteligentne telewizory

Od lepszej jakości obrazu i dźwięku po sterowanie głosowe i wiele więcej — te funkcje oparte na sztucznej inteligencji sprawiają, że inteligentne telewizory stają się o wiele lepsze!

Dlaczego ChatGPT jest lepszy niż DeepSeek

Dlaczego ChatGPT jest lepszy niż DeepSeek

Początkowo ludzie wiązali duże nadzieje z DeepSeek. Jako chatbot oparty na sztucznej inteligencji, reklamowany jako silny konkurent ChatGPT, obiecuje inteligentne możliwości i doświadczenia związane z czatem.

Poznaj Fireflies.ai: darmową sekretarkę AI, która zaoszczędzi Ci godzin pracy

Poznaj Fireflies.ai: darmową sekretarkę AI, która zaoszczędzi Ci godzin pracy

Łatwo jest przegapić ważne szczegóły podczas zapisywania innych istotnych informacji, a próba robienia notatek podczas rozmowy może być rozpraszająca. Rozwiązaniem jest Fireflies.ai.

Jak hodować aksolotla w Minecraft, oswoić salamandrę w Minecraft

Jak hodować aksolotla w Minecraft, oswoić salamandrę w Minecraft

Axolot Minecraft będzie świetnym pomocnikiem dla graczy operujących pod wodą, jeśli tylko będą umieli się nim posługiwać.

Konfiguracja gry A Quiet Place: The Road Ahead na PC

Konfiguracja gry A Quiet Place: The Road Ahead na PC

Konfiguracja gry A Quiet Place: The Road Ahead została oceniona dość wysoko, dlatego też przed podjęciem decyzji o pobraniu należy wziąć ją pod uwagę.