Microsoft ogłasza nowe narzędzie do wykrywania i korygowania treści halucynogennych w wynikach AI

Azure AI Content Safety to usługa AI firmy Microsoft, która pomaga wykrywać szkodliwą zawartość generowaną przez sztuczną inteligencję w aplikacjach, usługach i platformach. Narzędzie to zapewnia interfejsy API zarówno dla tekstu, jak i obrazów, umożliwiając programistom identyfikację niepożądanej zawartości.

Interfejs API Groundedness w usłudze Azure AI Content Safety potrafi określić, czy odpowiedź z dużego modelu językowego opiera się na dokumencie źródłowym wybranym przez użytkownika. Ponieważ obecne duże modele językowe mogą generować niedokładne lub fałszywe informacje (informacje iluzoryczne), ten interfejs API pomaga programistom identyfikować takie treści w danych wyjściowych sztucznej inteligencji.

Microsoft ogłasza nowe narzędzie do wykrywania i korygowania treści halucynogennych w wynikach AI

Firma Microsoft ogłosiła dziś udostępnienie wersji zapoznawczej poprawki. Dzięki temu programiści mogą teraz wykrywać i korygować „złudne” treści w danych wyjściowych sztucznej inteligencji w czasie rzeczywistym, zapewniając użytkownikom końcowym zawsze otrzymywanie rzetelnych, faktycznych treści generowanych przez sztuczną inteligencję. Funkcja ta działa w następujący sposób:

  • Twórca aplikacji umożliwia edycję.
  • Gdy zostaną wykryte nieuzasadnione dane, do modelu AI wysyłane jest nowe żądanie w celu skorygowania błędu.
  • Algorytm LLM oceni ogólny wynik na podstawie wiarygodnych dokumentów.
  • Zdania niemające związku z uwierzytelnionym dokumentem mogą zostać całkowicie odfiltrowane.
  • Jeśli treść pochodzi z dokumentu bazowego, model bazowy przepisze niepotwierdzone zdanie tak, aby pasowało do dokumentu.

Oprócz funkcji edycji firma Microsoft ogłosiła również publiczną wersję zapoznawczą usługi Hybrid Azure AI Content Safety (AACS). Funkcja ta umożliwia programistom wdrażanie mechanizmów bezpieczeństwa treści w chmurze i na urządzeniu. Wbudowany zestaw SDK oprogramowania AACS umożliwia przeprowadzanie kontroli bezpieczeństwa treści w czasie rzeczywistym bezpośrednio na urządzeniu, nawet bez połączenia z Internetem.

Na koniec firma Microsoft ogłosiła udostępnienie wersji zapoznawczej rozwiązania Protected Materials Detection for Code, które można wykorzystać w aplikacjach AI generujących kod w celu sprawdzenia, czy LLM generuje chroniony kod. Funkcja ta była wcześniej dostępna wyłącznie za pośrednictwem usługi Azure OpenAI Service. Firma Microsoft udostępnia klientom narzędzie Protected Materials Detection for Code do wykorzystania w połączeniu z innymi modelami sztucznej inteligencji generującymi kod.

Sign up and earn $1000 a day ⋙

Leave a Comment

Uwaga użytkownicy! Firma Microsoft wkrótce zaprzestanie wdrażania synchronizacji sterowników WSUS!

Uwaga użytkownicy! Firma Microsoft wkrótce zaprzestanie wdrażania synchronizacji sterowników WSUS!

W nowym wpisie na swojej stronie internetowej Tech Community firma Microsoft ogłosiła plany zaprzestania synchronizacji sterowników WSUS na rzecz najnowszych usług sterowników w chmurze.

Jak ustawić Przeglądarkę zdjęć systemu Windows jako domyślną przeglądarkę zdjęć w systemie Windows 11

Jak ustawić Przeglądarkę zdjęć systemu Windows jako domyślną przeglądarkę zdjęć w systemie Windows 11

Przeglądarka fotografii systemu Windows została wydana po raz pierwszy wraz z systemem Windows XP i szybko stała się jednym z najczęściej używanych narzędzi w systemie Windows.

W systemie Windows 11 zostanie dodana sekcja porad dotyczących konfiguracji systemu

W systemie Windows 11 zostanie dodana sekcja porad dotyczących konfiguracji systemu

Najnowsze wersje zapoznawcze systemu Windows 11, które firma Microsoft opublikowała w tym tygodniu, obejmują ulepszoną sekcję Informacje w aplikacji Ustawienia, w której użytkownicy mogą uzyskać więcej informacji na temat sprzętu zainstalowanego w komputerze.

W systemie Windows 11 użytkownicy mogą teraz łatwo pisać za pomocą kontrolera Xbox

W systemie Windows 11 użytkownicy mogą teraz łatwo pisać za pomocą kontrolera Xbox

Aby rozwiązać typowe problemy, z jakimi borykają się gracze komputerowi, firma Microsoft w końcu ułatwiła nawigację po systemie operacyjnym Windows przy użyciu kontrolera Xbox.

Aktualizacje systemu Windows 11 po cichu tworzą tajemniczy folder na dysku C

Aktualizacje systemu Windows 11 po cichu tworzą tajemniczy folder na dysku C

Kwietniowe aktualizacje zabezpieczeń dla systemu Windows 11 po cichu utworzyły nowy pusty folder na dysku C.

Microsoft będzie nadal inwestować w OpenAI, którego wycena wyniesie ponad 100 miliardów dolarów

Microsoft będzie nadal inwestować w OpenAI, którego wycena wyniesie ponad 100 miliardów dolarów

Od 2019 r. firma Microsoft zainwestowała miliardy dolarów w OpenAI, choć gigant oprogramowania z siedzibą w Redmond nie jest w żadnym wypadku głównym inwestorem w tym innowacyjnym startupie zajmującym się sztuczną inteligencją.

ExpressVPN obsługuje teraz komputery z systemem Windows ARM

ExpressVPN obsługuje teraz komputery z systemem Windows ARM

Jedna z najpopularniejszych na świecie usług VPN – ExpressVPN – oficjalnie uruchomiła wersję aplikacji przeznaczoną na komputery z systemem Windows i procesorami ARM.

Pobierz piękne tapety, aby uczcić 50. urodziny firmy Microsoft

Pobierz piękne tapety, aby uczcić 50. urodziny firmy Microsoft

Czy wiesz, że Microsoft świętuje w tym tygodniu swoje 50. urodziny?

Microsoft integruje DeepSeek z platformą PC Copilot+

Microsoft integruje DeepSeek z platformą PC Copilot+

W styczniu firma Microsoft ogłosiła plany wprowadzenia zoptymalizowanych pod kątem NPU wersji modelu DeepSeek-R1 bezpośrednio do komputerów Copilot+ działających na procesorach Qualcomm Snapdragon X.

Firma Microsoft wprowadza irytujące reklamy menu Start systemu Windows 11 do systemu Windows 10

Firma Microsoft wprowadza irytujące reklamy menu Start systemu Windows 11 do systemu Windows 10

Firma Microsoft nadal ogłasza plany dodawania nowych funkcji do systemu Windows 10, pomimo faktu, że system operacyjny nieuchronnie przestanie istnieć w październiku 2025 r.

Firma Microsoft udostępnia nową kolekcję tapet na pulpit Fluid Textures. Pobierz ją już teraz!

Firma Microsoft udostępnia nową kolekcję tapet na pulpit Fluid Textures. Pobierz ją już teraz!

Microsoft wydaje nową kolekcję tapet na pulpit Fluid Textures

Zaproszenie do pobrania Dynamicznego pakietu tapet przeznaczonego dla systemu Windows 11, który został anulowany w ostatniej chwili

Zaproszenie do pobrania Dynamicznego pakietu tapet przeznaczonego dla systemu Windows 11, który został anulowany w ostatniej chwili

Oprócz takich elementów jak nowy interfejs i funkcje, w systemie Windows dużą uwagę przywiązuje się także do innego, choć niewielkiego aspektu: pakietów tapet zaprojektowanych i wprowadzonych przez firmę Microsoft na specjalne okazje.

Microsoft przestaje wspierać aplikację Windows Remote Desktop, przechodzi na nową aplikację Windows

Microsoft przestaje wspierać aplikację Windows Remote Desktop, przechodzi na nową aplikację Windows

Firma Microsoft opublikowała ważne ogłoszenie dla klientów korzystających z aplikacji Pulpit zdalny dla systemu Windows, dostępnej w sklepie Microsoft Store. 27 maja 2025 r. ta aplikacja zostanie oficjalnie wycofana i usunięta ze sklepu Microsoft Store.

Microsoft zaprzestaje obsługi starszej wersji DRM w Windows Media Player, Windows 7/8, Silverlight

Microsoft zaprzestaje obsługi starszej wersji DRM w Windows Media Player, Windows 7/8, Silverlight

Gdybyś poprosił pięciu użytkowników systemu Windows o wyjaśnienie, czym jest Digital Rights Management (DRM) w systemie Vista, prawdopodobnie otrzymałbyś pięć różnych odpowiedzi. Ale jest jeden punkt

Microsoft ogłasza datę zakończenia wsparcia dla aplikacji i serwerów pakietu Office 2016 i 2019

Microsoft ogłasza datę zakończenia wsparcia dla aplikacji i serwerów pakietu Office 2016 i 2019

Firma Microsoft oficjalnie ogłosiła planowane zakończenie wsparcia (EOS) dla ekosystemu aplikacji Office 2016 i Office 2019.

10 przydatnych skrótów zwiększających produktywność w przeglądarce Microsoft Edge

10 przydatnych skrótów zwiększających produktywność w przeglądarce Microsoft Edge

Skróty klawiaturowe są świetnym narzędziem zwiększającym produktywność, zwłaszcza dla osób, których praca wymaga dużej ilości pisania.

Poważny błąd zmusza Google do wstrzymania funkcji AI, która tworzy obrazy z tekstem

Poważny błąd zmusza Google do wstrzymania funkcji AI, która tworzy obrazy z tekstem

Firma Google ogłosiła, że ​​zawiesza funkcję generowania obrazów ludzi z tekstu w swoim modelu sztucznej inteligencji Gemini z powodu poważnego błędu historycznego.

Jak używać Copilota w programie PowerPoint

Jak używać Copilota w programie PowerPoint

Copilot pomoże Ci dodać kreatywne pomysły do ​​slajdów prezentacji PowerPoint lub poprawić niepoprawną treść.

Jak usunąć konwersację Google Gemini

Jak usunąć konwersację Google Gemini

Zamiast usuwać całą historię Google Gemini, możesz usunąć tylko interesujące Cię konwersacje. Poniższy artykuł pomoże Ci usunąć czat Google Gemini.

Jak obniżyć wersję iOS 16 Beta 1 do iOS 15

Jak obniżyć wersję iOS 16 Beta 1 do iOS 15

W tym artykule WebTech360 pokaże Ci, jak obniżyć wersję iOS 16 Beta do iOS 15.

Jak naprawić #SPILL! w programie Microsoft Excel

Jak naprawić #SPILL! w programie Microsoft Excel

Błąd #SPILL! w programie Excel jest dość powszechny i ​​jego naprawienie jest dość proste. Oto jak naprawić #SPILL! błąd. łatwe w programie Excel.

Najlepsze aplikacje do monitorowania dzieci korzystających z telefonów

Najlepsze aplikacje do monitorowania dzieci korzystających z telefonów

Oto lista najlepszych aplikacji do kontroli rodzicielskiej, która pomoże Ci porównać dostępne opcje.

Jak przypiąć elementy sterujące multimediami do półki Chromebooka

Jak przypiąć elementy sterujące multimediami do półki Chromebooka

Aby móc korzystać z tej funkcji, na Twoim Chromebooku musi być zainstalowany system operacyjny Chrome OS 89 lub nowszy.

Jak zatrzymać udostępnianie historii przeglądania Safari na wielu urządzeniach

Jak zatrzymać udostępnianie historii przeglądania Safari na wielu urządzeniach

Safari udostępnia historię przeglądanych stron innym urządzeniom Apple, które korzystają z tego samego konta iCloud. Wiele osób obawia się o swoją prywatność, dlatego mogą zapoznać się z artykułem o zaprzestaniu udostępniania informacji.

Jak prawidłowo zmieniać rozmiar obrazów w programie Photoshop

Jak prawidłowo zmieniać rozmiar obrazów w programie Photoshop

Wiele osób uważało zmianę rozmiaru obrazów za bardzo irytującą, dopóki nie poznali prostej metody ochrony opartej na kanałach w programie Photoshop.

Jak unikać najczęstszych oszustw walentynkowych

Jak unikać najczęstszych oszustw walentynkowych

Walentynki to okres, w którym oszustwa są szczególnie popularne. Możesz jednak mieć pewność, że Twój 14 lutego przebiegnie bez zakłóceń, unikając tych oszustw.

Koszt wymiany ekranu w serii Galaxy S25 będzie niższy niż w Galaxy S24

Koszt wymiany ekranu w serii Galaxy S25 będzie niższy niż w Galaxy S24

Samsung wprowadził na rynek model Galaxy S25 Ultra ze szkłem Corning Gorilla Armor 2, które ma być bardziej odporne na upadki niż szkło Armor w modelu S24 Ultra. Ale to nie wszystko: części zamienne do napraw ekranów są również znacznie tańsze niż w przypadku poprzednich generacji.

8 przydatnych modułów Good Lock, które powinieneś znać

8 przydatnych modułów Good Lock, które powinieneś znać

Istnieje kilka modułów Good Lock, które naprawdę się wyróżniają. Niektóre z tych modułów całkowicie odmieniły sposób, w jaki wiele osób korzysta ze swoich telefonów, sprawiając, że żałują, że nie odkryli ich wcześniej.

Kompresuj pliki PDF, zmniejsz rozmiar pliku PDF niezwykle szybko

Kompresuj pliki PDF, zmniejsz rozmiar pliku PDF niezwykle szybko

Kompresja plików PDF znacząco zmniejsza ich rozmiar, co ułatwia wysyłanie plików w przypadku przekroczenia limitu rozmiaru w Gmailu.

Najnowszy kod Grand Piece Online 25.04.2025 jak wprowadzić kod nagrody

Najnowszy kod Grand Piece Online 25.04.2025 jak wprowadzić kod nagrody

Oto kody Grand Piece Online aktualizowane w miarę pojawiania się nowych kodów. Zawiera nowy kod i stary kod, który nadal działa.