Google wprowadził nowe narzędzie o nazwie SynthID, które ma na celu oznaczanie i identyfikację obrazów generowanych przez sztuczną inteligencję. Współpracując z Google Cloud, firma uruchomiła wersję beta tego narzędzia, które jest dostępne dla ograniczonej liczby klientów Vertex AI korzystających z Imagen, jednego z najnowszych modeli tekstowo-obrazowych Google.
Jak to działa?
SynthID osadza cyfrowy znak wodny bezpośrednio w pikselach obrazu, czyniąc go niewidocznym dla ludzkiego oka. Mimo to, znak ten jest wykrywalny podczas identyfikacji. Technologia ta została opracowana przez zespół Google DeepMind i ma na celu zapobieganie rozprzestrzenianiu się dezinformacji poprzez identyfikację treści generowanych przez AI.
Tradycyjne znaki wodne nie są wystarczające do identyfikacji obrazów generowanych przez AI, ponieważ często nakłada się je jako stempel na obrazie, co umożliwia ich łatwą edycję. SynthID został zaprojektowany tak, aby nie kompromitować jakości obrazu, a jednocześnie pozwalać na wykrywanie znaku wodnego nawet po takich modyfikacjach jak dodawanie filtrów czy zmiana kolorów.
Dlaczego to ważne?
Z rosnącą popularnością obrazów generowanych przez AI pojawia się również rosnące zapotrzebowanie na narzędzia do ich identyfikacji. Istnieje ryzyko, że takie obrazy mogą być wykorzystywane do rozprzestrzeniania fałszywych informacji, zarówno celowo, jak i nieumyślnie. Dzięki SynthID użytkownicy będą mogli lepiej rozpoznać, kiedy mają do czynienia z mediami generowanymi przez AI, co pomoże w zapobieganiu rozprzestrzenianiu się dezinformacji.
Co dalej?
Google DeepMind jest zaangażowane w rozwijanie bezpiecznych, pewnych i godnych zaufania podejść na każdym etapie tworzenia treści generowanych przez AI. Firma ma nadzieję, że technologia SynthID będzie współpracować z szerokim zakresem rozwiązań dla twórców i użytkowników na całym świecie. W przyszłości narzędzie to może zostać rozszerzone o inne modele AI i być dostępne dla stron trzecich, umożliwiając ludziom i organizacjom odpowiedzialną pracę z treściami generowanymi przez AI.
