Midjourney plănuiește să lanseze un nou instrument web care va permite utilizatorilor să editeze orice imagine încărcată, folosind AI-ul generativ al platformei. Potrivit CEO-ului David Holtz, acest upgrade va oferi opțiuni avansate, cum ar fi schimbarea texturii obiectelor din imagini și modificarea culorilor și detaliilor conform instrucțiunilor date prin descrieri.
Această inițiativă vine într-un moment în care editarea imaginilor cu ajutorul AI-ului este un subiect sensibil. Platforme precum Meta se confruntă cu provocări legate de etichetarea imaginilor modificate de AI, în timp ce companii precum Google au lansat funcții AI puternice care nu oferă semne vizibile că imaginile au fost modificate. Midjourney, în schimb, s-a angajat anul trecut să folosească un standard tehnic care încorporează metadate în imagini, indicând că au fost generate de AI. Cu toate acestea, platforma nu a adoptat încă o tehnologie mai avansată de urmărire a provenienței imaginilor.
Instrumentul de editare va fi inițial disponibil pentru un subset al comunității Midjourney, iar lansarea sa va include moderare umană sporită și utilizarea unor moderatori AI avansați pentru a preveni abuzurile. Totuși, Holtz a menționat că există incertitudini cu privire la restricțiile care vor fi impuse pentru utilizarea acestei funcționalități și solicită feedback din partea comunității pentru a decide cine va avea acces în prima fază.
Riscurile asociate cu astfel de instrumente sunt semnificative, mai ales în ceea ce privește infracțiunile de copyright sau răspândirea deepfake-urilor, care devin tot mai greu de identificat. Potrivit datelor de la Clarity, numărul de deepfake-uri create a crescut cu 900% în acest an, comparativ cu anul trecut, ceea ce stârnește îngrijorare în rândul publicului.
Chiar dacă Midjourney a luat măsuri pentru a limita răspândirea deepfake-urilor, inclusiv filtre pentru politicieni, platforma este încă subiectul unor controverse, fiind implicată în procese legate de utilizarea neautorizată a conținutului protejat prin drepturi de autor pentru antrenarea modelelor sale AI.