SynthID: Nowe narzędzie do autentykacji AI
Google wprowadza SynthID: Niezawodne narzędzie do autentykacji treści generowanych przez AI
Google ogłosiło w środę, że SynthID, system autentykacji dla treści generowanych przez sztuczną inteligencję (AI), jest teraz dostępny dla wszystkich zainteresowanych. Wbudowując niewidoczne znaki wodne w generowane obrazy, wideo oraz tekst, narzędzie to umożliwia sprawdzenie, czy dany materiał został stworzony przez człowieka, czy przez maszynę. To istotny krok w kierunku zwiększenia transparentności treści generowanych przez AI.
SynthID dostępny dla wszystkich użytkowników
W poście na platformie X (dawniej Twitter), Google napisało: „Otwieramy nasze narzędzie do tworzenia znaków wodnych SynthID. Dostępne bezpłatnie dla developerów i firm, pomoże im identyfikować ich treści generowane przez AI.” SynthID, wprowadzone w 2023 roku, początkowo zostało zintegrowane z narzędziem Imagen, a następnie z chatbotem Gemini podczas wydarzenia I/O 2024. Teraz Google udostępnia tę technologię publicznie, umożliwiając szerokie jej zastosowanie w różnych branżach.
Jak działa SynthID?
SynthID działa poprzez wbudowywanie niewidocznych znaków wodnych w treści generowane przez AI. Proces ten polega na kodowaniu tokenów – fragmentów danych, które AI wykorzystuje do rozumienia poleceń i przewidywania kolejnych słów. Znaki wodne są osadzane w tekście podczas generacji, bez wpływu na jakość, szybkość czy dokładność odpowiedzi.
System analizuje wybór słów i porównuje je z oczekiwanym wzorcem dla tekstów oznaczonych i nieoznaczonych znakami wodnymi. Dzięki temu SynthID może ustalić, czy dany materiał został wygenerowany przez sztuczną inteligencję, co daje większą pewność co do pochodzenia treści.
Czy SynthID jest niezawodny?
Mimo swojego zaawansowania, SynthID nie jest jeszcze w pełni niezawodnym narzędziem. Znaki wodne mogą zostać usunięte, jeśli tekst zostanie przetłumaczony lub mocno przeformułowany. System jest również mniej skuteczny w przypadku krótkich fragmentów tekstu i ma trudności z określeniem, czy konkretne odpowiedzi na pytania faktyczne pochodzą od AI.
Podsumowanie
SynthID to ważny krok w kierunku większej transparentności treści generowanych przez sztuczną inteligencję, pomagający użytkownikom zidentyfikować, które materiały zostały stworzone przez AI. Choć narzędzie to nie jest jeszcze doskonałe, otwiera nową erę weryfikacji treści w internecie. Dla wszystkich zainteresowanych, SynthID jest już dostępny jako open-source i można go pobrać z platformy Hugging Face, jako część zestawu narzędzi Google – Responsible GenAI Toolkit.