Vízjelező és vízjelfelismerő rendszert jelentett be a Google. A SynthID segítségével úgy képesek módosítani szintetikus tartalmakat, ebben az esetben mesterséges intelligenciával előállított képeket, hogy az az emberi szem számára nem látható.

Amióta a generatív mesterséges intelligenciák (MI-k) egyre népszerűbbek és egyre több mindenki számára hozzáférhetőek lettek, újra és újra felmerül a kérdés, hogy ki és hogyan fogja tudni megmondani, hogy egy szöveget, képet vagy videót ember vagy számítógép készített-e. Idén februárban például arról írtunk a Rakétán, hogy az OpenAI fejlesztett egy szoftvert, ami felismeri a ChatGPT keze nyomát - igaz, igen gyakran téved. Kína már tavaly bejelentette, hogy csak olyan MI-platformok működhetnek az országban, amelyek hatósági engedélyt kaptak, illetve megfelelően megjelölik az általuk előállított tartalmakat. Még az EU is előírta, hogy a nagy közösségi szolgáltatásoknak fel kell ismerniük a hozzájuk feltöltött MI-fájlokat. Szabályokat azonban könnyebb írni, mint olyan programokat, amelyek érvényt szereznek azoknak, hiszen a generatív szoftverek egyre jobbak lesznek, azaz egyre közelebb kerül a teljesítményük az emberéhez.

A Google-nek most úgy tűnik, hogy van egy rendszere, amely egy lépés lehet a megfelelő irányba

A TechCrunch-on olvasható hír szerint a cég által bejelentett SynthID egyelőre csak a Google Imagen rendszerében működik, viszont képes arra, hogy közvetlenül a képpontokba integrálja a vízjelet, amit az emberi szem nem lát, a szintén általuk fejlesztett algoritmus viszont igen. Ugyan saját bevallásuk szerint sem tökéletes a SynthID, a "szélsőséges manipuláció" kifoghat rajta, de filterezés, átszínezés vagy épp tömörítés után is olvasható marad. Ezzel a képekre rajzolt, bélyegszerű vízjeleknél lényegesen megbízhatóbb.

Mások már kísérleteztek ilyen szoftverekkel, de a Google blogposztja szerint ők az első felhőszolgáltató, amely ezt felkínálja az ügyfeleinek. Vagyis, és ebben lehet a rendszer igazi ereje, ha más, az ő szervereiken futó MI-k fejlesztői is elkezdik használni a SynthID-t, akkor egyre több és több kép esetében lesz legalább valamilyen támpontja például a közösségi oldalaknak, hogy megmondják, hogy azok "szintetikus" vagy "organikus" úton álltak-e elő. Ez nem jelent megoldást a rosszindulatú MI-platformok és a professzionális hírhamisítók elleni küzdelemben, de bizonyos mértékben talán megnehezíti azoknak a dolgát. Anélkül, hogy mi ebből bármit érzékelnénk.