Google a anunțat că va implementa o nouă funcție în motorul său de căutare care va permite identificarea mai clară a imaginilor generate sau editate cu ajutorul inteligenței artificiale (AI). Această schimbare va fi vizibilă în următoarele luni și va afecta rezultatele din Google Search, Google Lens și funcția Circle to Search de pe Android.
Prin intermediul ferestrei „Despre această imagine” din căutări, utilizatorii vor putea afla dacă o imagine a fost creată sau modificată cu ajutorul AI. De asemenea, Google sugerează că astfel de marcaje ar putea fi extinse și la alte platforme deținute de companie, cum ar fi YouTube, însă detalii suplimentare vor fi oferite la o dată ulterioară.
Cum funcționează marcajele AI?
Doar imaginile care conțin metadate „C2PA” vor fi semnalate ca fiind manipulate sau generate de AI. C2PA, sau Coaliția pentru Proveniența și Autenticitatea Conținutului, este un grup care dezvoltă standarde tehnice pentru a urmări istoricul unei imagini, incluzând informații despre echipamentele și software-ul utilizate pentru a captura sau crea acea imagine.
Această inițiativă este susținută de companii mari precum Google, Amazon, Microsoft, OpenAI și Adobe, însă adoptarea standardelor C2PA este încă limitată. Numai câteva unelte de AI și camere de la Leica și Sony au implementat specificațiile C2PA.
Provocări în adoptarea standardului
Deși inițiativa este un pas important pentru identificarea imaginilor generate de AI, există și unele provocări. Metadatele C2PA pot fi eliminate sau corupte, făcând dificilă identificarea corectă a imaginilor. De asemenea, multe dintre uneltele populare de generare AI, cum ar fi Flux – folosit de chatbot-ul Grok al xAI – nu adaugă aceste metadate în imagini, deoarece creatorii lor nu au acceptat standardul C2PA.
Totuși, orice măsură de protecție este binevenită, mai ales având în vedere creșterea rapidă a deepfake-urilor și a conținutului generat de AI. Conform unor estimări, numărul escrocheriilor care implică conținut generat de AI a crescut cu 245% între 2023 și 2024. Se preconizează că pierderile financiare cauzate de deepfake-uri vor crește de la 12,3 miliarde de dolari în 2023 la 40 de miliarde de dolari până în 2027.
Impactul asupra utilizatorilor
Studiile arată că majoritatea oamenilor sunt îngrijorați de posibilitatea de a fi înșelați de deepfake-uri și de potențialul AI de a facilita răspândirea propagandei. Prin această măsură, Google își propune să ofere un plus de transparență și să protejeze utilizatorii de dezinformare, marcând în mod clar imaginile generate sau modificate de AI.