🤖
Otázka, zda byl obsah vytvořen člověkem nebo modelem AI, je nyní jedním z nejdůležitějších problémů digitálních médií. Generativní AI dokáže během sekund vytvořit fotorealistické obrázky, přesvědčivé texty a realistický zvuk — čímž vizuální ověřování samo o sobě přestává být spolehlivé.
Jak funguje detekce obsahu AI
Moderní detekce AI využívá kombinaci technik k označení obsahu jako pravděpodobně generovaného umělou inteligencí:
- Statistická analýza vzorů pixelů — obrázky generované AI mají charakteristické rozložení šumu, které se liší od obrazových senzorů fotoaparátů
- Kontrola metadat — nástroje AI jako Midjourney a DALL·E vkládají identifikátory modelů do metadat souboru, které lze přímo číst
- Tvrzení C2PA — pokud je AI nástroj kompatibilní s C2PA, deklaruje se v tvrzení c2pa.training-mining v manifestu
Co AuthenSeal hlásí
AI analytický kanál AuthenSeal čte vložený manifest C2PA (pokud existuje), kontroluje metadata specifická pro daný nástroj a vypočítá skóre spolehlivosti pro původ v AI. Výsledek je uložen s každou pečetí a zobrazen na veřejné ověřovací stránce.
Důležité je, že AuthenSeal obsah generovaný AI neblokuje — označuje ho transparentně. Lidský tvůrce, který zapečetí vlastní práci, získá odznak „Lidský původ". Obrázek generovaný AI zapečetěný pro archivní účely je odpovídajícím způsobem označen. Cílem je transparentnost, nikoli cenzura.