Firma jest podzielona, czy wdrażać na szeroką skalę narzędzie, dzięki któremu teksty tworzone przez ChatGPT zostaną odpowiednio oznaczone. Chodzi o specjalny znak wodny, który jest skuteczną metodą wykrywania.
Gdy mowa o znakach wodnych, pierwszym skojarzeniem jest przeźroczysta grafika umieszczona na obrazach lub całych dokumentach, w celu oznaczenia autora danej treści. Obecność znaku wodnego pomaga chronić prawa autorskie. Czy znak wodny może występować w tekstach generowanych przez ChatGPT? Tak.
Watermark w ChatGPT coraz bliżej?
OpenAI, czyli twórcy ChatGPT, posiada taką możliwość. Jak informuje The Wall Street Journal, firma od około roku trzyma w gotowości takie narzędzie, lecz trwa debata, czy udostępniać je na szeroką skalę. Wprowadzenie znaków wodnych w ChatGPT to z jednej strony większa klarowność, a z drugiej strony może oznaczać odpływ użytkowników.
Jak wygląda watermark w ChatGPT? Otóż metoda opracowana przez OpenAI polega na wprowadzaniu niewielkich zmian w dobieraniu słów i fraz, tworząc tym samym wzór lub nawet szyfr. Jego odczytanie mogłoby pomóc np. nauczycielom, którzy z wysokim prawdopodobieństwem wykryją plagiat, podobnie w przypadku prac naukowych. Wszak nie jest tajemnicą, że studenci korzystają z AI.
"Opracowywana przez nas metoda znakowania wodnego tekstu jest obiecująca pod względem technicznym, ale wiąże się z poważnymi ryzykami, które rozważamy podczas badania alternatyw. Obejmują one m.in. podatność na obejście przez osoby nieuczciwe oraz potencjalne ryzyko nieproporcjonalnego wpływu na takie grupy, jak osoby, które nie posługują się językiem angielskim” – powiedział rzecznik OpenAI w oświadczeniu przekazanym serwisowi TechCrunch.
Takie narzędzie już istnieje
Jak zauważa TechCrunch, po publikacji The Wall Street Journal zaktualizowano wpis z maja 2024 r., w którym OpenAI opisuje tajniki wykrywania treści generowanych przez AI. Zespół potwierdza, że metoda znakowania tekstów jest wysoce skuteczna w przypadku “lokalnych manipulacji, takich jak parafrazowanie”.
Sytuacja komplikuje się wtedy, gdy w grę wchodzą tłumaczenia oraz “przeformułowywanie tekstu za pomocą innego modelu generatywnego lub proszenie modelu o wstawianie znaku specjalnego między każde słowo, a następnie usuwanie tego znaku, co sprawia, że jest ona łatwa do obejścia przez osoby o złych zamiarach”.
Zauważono również, że wprowadzenie znaków wodnych z ChatGPT może niejako stygmatyzować te osoby, które korzystają z narzędzia, ale nie posługują się biegle językiem angielskim. Słowem: chodzi o osoby nieanglojęzyczne, które traktują ChatGPT jako przydatne narzędzie, czy to w nauce, czy w szeroko pojętej organizacji biurowego życia.
Źródło: TechCrunch
Komentarze
0Nie dodano jeszcze komentarzy. Bądź pierwszy!