I progressi nell’intelligenza artificiale generativa stanno consentendo alle persone di creare contenuti in modi completamente nuovi: dal testo all’audio, alle immagini e ai video di alta qualità. Man mano che queste capacità avanzano e diventano più ampiamente disponibili, emergono questioni di autenticità, contesto e verifica.
Oggi annunciamo SynthID Detector, un portale di verifica per identificare in modo rapido ed efficiente i contenuti generati dall’intelligenza artificiale realizzati con l’intelligenza artificiale di Google. Il portale fornisce funzionalità di rilevamento attraverso diverse modalità in un unico posto e fornisce trasparenza essenziale nel panorama in rapida evoluzione dei media generativi. Può anche evidenziare quali parti del contenuto hanno maggiori probabilità di essere state filigranate con SynthID.
Quando noi lanciato SynthID, uno strumento all’avanguardia che incorpora filigrane impercettibili e consente l’identificazione di contenuti generati dall’intelligenza artificiale, il nostro obiettivo era fornire una suite di nuove soluzioni tecniche per ridurre al minimo la disinformazione e l’errata attribuzione.
SynthID non solo preserva la qualità del contenuto, ma agisce come una solida filigrana che rimane rilevabile anche quando il contenuto viene condiviso o subisce una serie di trasformazioni. Sebbene inizialmente ci concentrassimo solo sulle immagini generate dall’intelligenza artificiale, da allora abbiamo ampliato SynthID per coprire testi, contenuti audio e video generati dall’intelligenza artificiale, inclusi i contenuti generati dai nostri modelli Gemini, Imagen, Lyria e Veo su Google. Oltre 10 miliardi di contenuti sono già stati filigranati con SynthID.
Come funziona il rilevatore SynthID
Quando carichi un’immagine, una traccia audio, un video o un pezzo di testo creato utilizzando gli strumenti AI di Google, il portale eseguirà la scansione del supporto per una filigrana SynthID. Se viene rilevata una filigrana, il portale evidenzierà parti specifiche del contenuto che con maggiore probabilità avranno la filigrana.
Per l’audio, il portale individua segmenti specifici in cui viene rilevata una filigrana SynthID e, per le immagini, indica le aree in cui è più probabile che sia presente una filigrana.
Fonte: deepmind.google
