Zdjęcia generowane przez sztuczną inteligencję coraz częściej pojawiają się na stronach internetowych, w reklamach, mediach społecznościowych i artykułach. Wiele z nich wygląda tak realistycznie, że rozpoznanie ich na podstawie wyglądu staje się praktycznie niemożliwe. Charakterystyczne błędy, takie jak nieprawidłowa liczba palców, zdeformowane twarze czy pozbawione sensu napisy, nadal się zdarzają, ale najnowsze generatory radzą sobie z nimi znacznie lepiej niż jeszcze kilka lat temu.
Dlatego identyfikacja treści generowanych przez AI coraz rzadziej polega wyłącznie na oglądaniu obrazu. Znacznie ważniejsze stają się techniczne informacje o pochodzeniu pliku, między innymi C2PA, Content Credentials oraz niewidoczne znaki SynthID. Jednocześnie europejski AI Act wprowadza obowiązki dotyczące oznaczania niektórych treści wygenerowanych lub zmodyfikowanych przez sztuczną inteligencję.
Jak działają te rozwiązania, gdzie sprawdzić zdjęcie i czy brak oznaczenia oznacza, że grafika została wykonana przez człowieka?
Czy każde zdjęcie wygenerowane przez AI jest oznaczone?
Nie istnieje obecnie jeden uniwersalny znak umieszczany we wszystkich obrazach generowanych przez sztuczną inteligencję. Poszczególne firmy korzystają z różnych technologii, a część generatorów nie dodaje do plików żadnych łatwych do zweryfikowania informacji o pochodzeniu.
Najczęściej spotykane rozwiązania można podzielić na trzy grupy:
- widoczne oznaczenia, takie jak napis „wygenerowano przy użyciu AI” albo znak wodny;
- metadane zapisane w pliku, w tym Content Credentials zgodne ze standardem C2PA;
- niewidoczne cyfrowe znaki osadzone bezpośrednio w obrazie lub nagraniu, takie jak SynthID.
Każdy z tych sposobów ma inne zalety i ograniczenia. Widoczny napis jest łatwy do zauważenia, ale można go wykadrować. Metadane mogą zawierać dużo informacji, lecz czasami znikają podczas konwersji lub optymalizacji pliku. Niewidoczny znak cyfrowy może przetrwać część modyfikacji, ale do jego wykrycia potrzebne jest odpowiednie narzędzie.
Czym jest C2PA?
C2PA, czyli Coalition for Content Provenance and Authenticity, to otwarty standard służący do dokumentowania pochodzenia i historii treści cyfrowych. Nie jest to klasyczny „detektor AI”, który analizuje wygląd obrazu i próbuje zgadnąć sposób jego powstania.
C2PA pozwala dołączyć do pliku kryptograficznie podpisany zestaw informacji określany jako Content Credentials. Może on wskazywać między innymi:
- narzędzie lub usługę wykorzystaną do utworzenia pliku;
- zastosowanie modelu generatywnej sztucznej inteligencji;
- datę utworzenia materiału;
- wykonane modyfikacje;
- podmiot, który wystawił i podpisał dane pochodzenia.
Informacje te można porównać do cyfrowego paszportu pliku. Ich zadaniem nie jest ocena, czy przedstawiona scena jest prawdziwa, lecz udokumentowanie, skąd pochodzi materiał i jakie operacje mogły zostać na nim wykonane.
C2PA nie jest przeznaczone wyłącznie dla sztucznej inteligencji. Ze standardu mogą korzystać również producenci aparatów, redakcje, twórcy, platformy internetowe i programy graficzne. Zdjęcie wykonane aparatem może więc posiadać Content Credentials potwierdzające jego pochodzenie, mimo że nie zostało wygenerowane przez AI.
Więcej informacji o standardzie można znaleźć na stronie organizacji C2PA oraz projektu Content Credentials.
Czym jest SynthID?
SynthID jest technologią niewidocznego znakowania treści opracowaną przez Google DeepMind. W odróżnieniu od klasycznych metadanych informacja nie jest jedynie dopisana do pliku. Specjalny sygnał zostaje osadzony bezpośrednio w wygenerowanej treści.
W przypadku obrazu oznaczenie może zostać zapisane w strukturze pikseli w sposób niewidoczny dla człowieka. W przypadku dźwięku sygnał jest umieszczany w nagraniu tak, aby nie był słyszalny, ale mógł zostać rozpoznany przez odpowiedni system.
SynthID może być stosowany do:
- obrazów;
- nagrań dźwiękowych;
- materiałów wideo;
- wybranych tekstów generowanych przez obsługiwane modele.
Ważną zaletą tej technologii jest większa odporność na niektóre modyfikacje. Znak może przetrwać kompresję, zmianę formatu, zastosowanie filtrów lub niewielkie kadrowanie. Nie oznacza to jednak, że jest całkowicie niezniszczalny. Bardzo intensywna obróbka może osłabić sygnał do tego stopnia, że system przestanie go wykrywać.
Szczegóły działania rozwiązania opisuje Google DeepMind na stronie SynthID.
Jak oznaczane są obrazy i dźwięk generowane przez ChatGPT?
Zgodnie z aktualną dokumentacją OpenAI obsługiwane obrazy generowane za pomocą ChatGPT, Codex i API OpenAI mogą zawierać dwa rodzaje sygnałów pochodzenia:
- metadane C2PA;
- niewidoczny znak SynthID.
W obsługiwanych nagraniach generowanych przez narzędzia OpenAI stosowany jest SynthID. Zwykły użytkownik nie zobaczy ani nie usłyszy tego oznaczenia. Nie jest to logo ChatGPT ani napis naniesiony na grafikę, lecz sygnał przeznaczony do automatycznej weryfikacji.
OpenAI zaznacza jednocześnie, że dostępność oznaczeń może zależeć od wykorzystanego produktu, modelu, formatu pliku, sposobu eksportu oraz momentu utworzenia treści. Nie należy zatem przyjmować, że każdy historyczny plik wygenerowany przez ChatGPT musi posiadać komplet aktualnie stosowanych oznaczeń.
Informacje na ten temat znajdują się w dokumentacji OpenAI dotyczącej pochodzenia treści.
Jak sprawdzić, czy zdjęcie zostało wygenerowane przez AI?
Najlepiej rozpocząć od sprawdzenia technicznych informacji zapisanych w pliku. Dopiero później warto analizować jego wygląd i kontekst publikacji.
OpenAI Verify
Na stronie OpenAI Verify można przesłać obraz lub plik dźwiękowy i sprawdzić, czy zawiera obsługiwane sygnały pochodzenia związane z narzędziami OpenAI.
System może wykrywać:
- C2PA w obrazach;
- SynthID w obrazach;
- SynthID w plikach dźwiękowych.
Narzędzie obsługuje popularne formaty obrazów, między innymi PNG, JPEG i WebP, oraz wybrane formaty dźwiękowe. Pozytywny wynik może potwierdzić obecność konkretnego oznaczenia OpenAI. Negatywny wynik nie dowodzi jednak, że materiał został wykonany przez człowieka.
Content Credentials Verify
Serwis Content Credentials Verify pozwala odczytać dane C2PA. Jeżeli plik posiada prawidłowy manifest, można sprawdzić jego wystawcę, wykorzystane narzędzia i udokumentowaną historię przetwarzania.
Jest to przydatne nie tylko przy sprawdzaniu grafik AI. Content Credentials mogą również potwierdzać pochodzenie fotografii wykonanej obsługiwanym aparatem albo zmodyfikowanej w programie uczestniczącym w ekosystemie C2PA.
Gemini i wykrywanie SynthID
Materiały wygenerowane lub zmodyfikowane przez narzędzia Google można sprawdzać za pomocą Gemini. Użytkownik może przesłać obraz, nagranie lub materiał wideo i zapytać, czy wykryto w nim znak SynthID.
Trzeba pamiętać, że wykrywanie konkretnego znaku nie jest uniwersalnym detektorem wszystkich treści AI. Brak SynthID związanego z narzędziami Google nie wyklucza wykorzystania generatora należącego do innej firmy.
Automatyczne detektory zdjęć AI
W internecie dostępne są również narzędzia analizujące obraz i wyliczające prawdopodobieństwo, że został wygenerowany przez AI. Taki wynik należy traktować wyłącznie jako wskazówkę.
Detektor może pomylić profesjonalnie obrobioną fotografię z grafiką AI. Może także nie rozpoznać obrazu wygenerowanego przez najnowszy model, szczególnie gdy plik został zmniejszony, skompresowany lub poddany dodatkowej obróbce. Ocena oparta na prawdopodobieństwie nie jest równoznaczna z odczytaniem podpisanego manifestu C2PA albo wykryciem właściwego cyfrowego znaku.
Czy brak C2PA albo SynthID oznacza, że zdjęcie jest prawdziwe?
Nie. Jest to jedna z najważniejszych zasad przy weryfikowaniu treści.
Brak wykrytego oznaczenia może oznaczać, że:
- obraz powstał w generatorze, który nie stosuje danego systemu;
- plik utworzono przed wdrożeniem oznaczeń;
- materiał pochodzi z nieobsługiwanego modelu lub sposobu eksportu;
- metadane zostały usunięte podczas publikacji;
- znak został osłabiony w wyniku przetwarzania;
- narzędzie weryfikujące nie obsługuje technologii zastosowanej przez producenta.
Nie można więc uznać, że brak technicznego sygnału jest dowodem autentyczności zdjęcia. Podobnie wykrycie C2PA nie musi automatycznie oznaczać, że cały plik został wygenerowany przez AI. Manifest może dokumentować wykonanie zdjęcia aparatem, standardową edycję albo wykorzystanie AI tylko przy jednej z operacji.
Co może usunąć lub uszkodzić oznaczenia AI?
C2PA oraz SynthID działają w różny sposób, dlatego inaczej reagują na edycję pliku.
Metadane C2PA mogą zostać utracone podczas:
- konwersji obrazu do innego formatu;
- ponownego zapisywania w programie nieobsługującym C2PA;
- optymalizacji zdjęcia przez system zarządzania treścią;
- automatycznego generowania miniaturek;
- przesyłania przez platformę usuwającą metadane;
- wykonania zrzutu ekranu;
- kopiowania samego obrazu do nowego pliku.
W praktyce oznacza to, że WordPress, wtyczka optymalizująca zdjęcia, serwis społecznościowy albo konwerter do WebP mogą przypadkowo usunąć informacje o pochodzeniu. Nie musi to świadczyć o celowym działaniu autora.
SynthID jest osadzony w samej treści i może być bardziej odporny na standardową kompresję, niewielkie kadrowanie czy zmianę formatu. Mocne przekształcenia, wielokrotna kompresja, znaczne zmniejszenie rozdzielczości, dodanie szumu albo daleko idąca rekonstrukcja obrazu mogą jednak osłabić możliwość wykrycia sygnału.
Celowe usuwanie oznaczeń w celu wprowadzenia odbiorców w błąd może powodować problemy prawne, wizerunkowe i regulaminowe. Z perspektywy firmy lepszą praktyką jest zachowanie oryginalnego pliku, stosowanie systemów podtrzymujących dane C2PA i jasne informowanie o pochodzeniu materiału, gdy wymaga tego jego charakter lub sposób wykorzystania.
AI Act: kiedy trzeba oznaczać grafikę wygenerowaną przez AI?
Od 2 sierpnia 2026 roku zastosowanie mają przepisy dotyczące przejrzystości określone w art. 50 unijnego AI Act. Rozporządzenie rozróżnia obowiązki dostawców systemów AI oraz podmiotów korzystających z takich systemów.
Dostawcy systemów generujących syntetyczne obrazy, dźwięk, wideo lub tekst mają zapewniać oznaczanie rezultatów w formacie nadającym się do odczytu maszynowego i umożliwiającym wykrycie, że treść została wygenerowana lub zmodyfikowana przez AI, w zakresie, w jakim jest to technicznie wykonalne.
Osobny obowiązek dotyczy podmiotów publikujących treści stanowiące deepfake. AI Act definiuje deepfake jako wygenerowany lub zmanipulowany przez AI obraz, dźwięk albo film, który przypomina istniejące osoby, przedmioty, miejsca, podmioty lub wydarzenia i może fałszywie wydawać się autentyczny.
Jeżeli agencja przygotuje realistyczną grafikę przedstawiającą znaną osobę w sytuacji, która nigdy nie miała miejsca, samo techniczne oznaczenie pliku może nie wystarczyć. Odbiorca powinien otrzymać jasną informację, że materiał został wygenerowany lub zmodyfikowany przy użyciu AI.
W przypadku materiałów ewidentnie artystycznych, kreatywnych, satyrycznych lub fikcyjnych obowiązek może zostać zrealizowany w sposób, który nie utrudnia korzystania z dzieła. Zamiast wielkiego napisu naniesionego na obraz można więc zastosować odpowiedni podpis pod ilustracją albo informację w bezpośrednim sąsiedztwie materiału.
Aktualną treść obowiązków można sprawdzić w art. 50 AI Act.
Czy każdą ilustrację AI trzeba podpisać?
AI Act nie oznacza automatycznie obowiązku umieszczania widocznego napisu na każdej grafice stworzonej przy pomocy sztucznej inteligencji. Znaczenie mają forma materiału, jego realizm, kontekst publikacji oraz możliwość wprowadzenia odbiorcy w błąd.
Wyraźnie fantastyczna ilustracja przedstawiająca smoka lecącego nad Warszawą nie stwarza takiego samego ryzyka jak realistyczne zdjęcie polityka, prezesa firmy albo znanego aktora uczestniczącego w fikcyjnym wydarzeniu.
Dla firm i wydawców rozsądną praktyką może być jednak stosowanie jednolitej informacji, szczególnie przy materiałach o fotorealistycznym charakterze:
„Grafika ilustracyjna wygenerowana przy użyciu sztucznej inteligencji”.
W przypadku materiału zmodyfikowanego można zastosować podpis:
„Materiał został zmodyfikowany przy użyciu narzędzi AI”.
Taki komunikat jest zrozumiały dla odbiorcy i nie wymaga od niego korzystania ze specjalnego oprogramowania do odczytu metadanych.
Oznaczanie treści AI jako element wiarygodności marki
Transparentność nie powinna być traktowana wyłącznie jako obowiązek prawny. Dla agencji marketingowej, wydawcy oraz marki korzystającej z generatywnej sztucznej inteligencji może być elementem budowania wiarygodności.
Klient powinien wiedzieć, czy ogląda prawdziwe zdjęcie produktu, realną realizację usługi, wizualizację koncepcyjną czy obraz wygenerowany przez AI. Jest to szczególnie ważne w reklamie, branży nieruchomości, turystyce, gastronomii i sprzedaży internetowej, gdzie wygląd przedstawionej rzeczy może wpływać na decyzję zakupową.
Odpowiedzialne wykorzystanie AI nie polega na rezygnacji z nowych technologii. Polega na dobraniu ich do celu, zachowaniu kontroli człowieka oraz jasnym oddzieleniu dokumentacji rzeczywistości od materiału ilustracyjnego.
Jak rozpoznać zdjęcie AI – podsumowanie
Nie istnieje jedna metoda pozwalająca bezbłędnie sprawdzić każde zdjęcie. Najbardziej wiarygodny proces powinien łączyć kilka działań:
- Sprawdzenie C2PA i Content Credentials.
- Poszukiwanie znaków SynthID właściwych dla obsługiwanych systemów.
- Weryfikację źródła i kontekstu publikacji.
- Porównanie obrazu z innymi materiałami przedstawiającymi dane wydarzenie.
- Ocenę charakterystycznych błędów i niespójności.
- Traktowanie wyników automatycznych detektorów jako wskazówki, a nie ostatecznego dowodu.
C2PA i SynthID zwiększają przejrzystość pochodzenia treści, ale nie rozwiązują całego problemu dezinformacji. Oznaczenia mogą zostać utracone, nie wszystkie generatory je stosują, a sam fakt użycia AI nie przesądza o prawdziwości lub fałszywości przekazu.
Najważniejsze pozostają kontekst, odpowiedzialność redakcyjna i uczciwa komunikacja z odbiorcą. W świecie, w którym realistyczną grafikę można utworzyć w kilkanaście sekund, informacja o pochodzeniu treści staje się częścią reputacji marki.