Home
» Wiki
»
OpenAI rozważa dodanie znaków wodnych do tekstu generowanego przez ChatGPT
OpenAI rozważa dodanie znaków wodnych do tekstu generowanego przez ChatGPT
Według „The Wall Street Journal” firma OpenAI od około roku dysponuje systemem do znakowania wodnego tekstu generowanego przez ChatGPT oraz narzędziem do wykrywania znaków wodnych. Jednak w firmie toczy się wewnętrzna debata, czy w ogóle udostępnić tę informację. Z jednej strony wydaje się to odpowiedzialne; Z drugiej strony może to mieć negatywny wpływ na zyski firmy.
Opisano mechanizm znakowania wodnego OpenAI jako dostosowywanie sposobu, w jaki model przewiduje najprawdopodobniejsze słowa i frazy po poprzednich słowach i frazach, tworząc wykrywalny wzorzec.
Udostępnienie sposobu na wykrywanie materiałów pisanych przez sztuczną inteligencję może okazać się korzystne dla nauczycieli próbujących zniechęcić uczniów do korzystania ze sztucznej inteligencji podczas odrabiania prac domowych. W artykule opublikowanym w czasopiśmie czytamy, że firma stwierdziła, iż znak wodny nie ma wpływu na jakość tekstu wysyłanego przez chatbota. Jak podaje Journal, w badaniu zleconym przez firmę „ludzie na całym świecie poparli pomysł narzędzi wykrywających sztuczną inteligencję stosunkiem głosów 4:1”.
Po opublikowaniu artykułu w czasopiśmie, firma OpenAI potwierdziła, że zabiegała o dodanie znaku wodnego w tekście w aktualizacji wpisu na blogu zauważonej dziś przez TechCrunch. Firma twierdzi w nim, że jej metoda jest niezwykle dokładna („skuteczna w 99,9 procentach”, według dokumentów, do których dotarło czasopismo) i odporna na „podszywanie się, takie jak parafrazowanie”. Firma wyraziła również zaniepokojenie stereotypami dotyczącymi przydatności narzędzi AI dla osób, dla których dany język nie jest ojczystym językiem.
Ale wydaje się, że OpenAI obawia się również, że użycie znaku wodnego może zniechęcić użytkowników ChatGPT. Z badania wynika, że prawie 30% ankietowanych odpowiedziało firmie, że rzadziej korzystaliby z oprogramowania, gdyby wprowadzono funkcję znaku wodnego.
Niektórzy pracownicy uważają jednak, że funkcja znaku wodnego byłaby skuteczna. Jednak w odpowiedzi na frustrację użytkowników, Journal stwierdził, że niektóre z proponowanych metod testowania „mogą być mniej kontrowersyjne wśród użytkowników, ale nie zostały udowodnione”. W dzisiejszej aktualizacji wpisu na blogu firma poinformowała, że znajduje się „na wczesnym etapie” zgłębiania możliwości osadzania metadanych i wciąż jest „za wcześnie”, aby stwierdzić, jak dobrze nowa funkcja będzie działać, ale ponieważ jest podpisana kryptograficznie, nie powinno pojawić się żadnych fałszywych wyników.