AI pret autentiskumu: pieaugošā vajadzība pēc izcelsmes digitālajā saturā

Kā uzņēmumi reaģē uz MI satura pieaugumu

Šo problēmu dēļ lielie tehnoloģiju uzņēmumi strādā pie veidiem, kā uzlabot plašsaziņas līdzekļu autentiskumu un izcelsmi. Ikgadējās Build konferences ietvaros Microsoft paziņoja, ka tās Bing attēlu veidotāja un noformētāja rīkiem tagad būs jaunas multivides izcelsmes funkcijas.

Lietotāji varēs pārbaudīt, vai attēlus vai videoklipus ir izveidojis AI, izmantojot kriptogrāfijas metodes, kas ietver informāciju par to, no kurienes saturs ir nācis.

Bet, lai šī sistēma darbotos, dažādām platformām ir jāpiekrīt Satura izcelsmes un autentiskuma koalīcijas (C2PA) specifikācijai.

Tāpat Meta ir izlaidusi rīku ar nosaukumu Meta Video Seal , kas AI veidotajiem videoklipiem var pievienot neredzamas ūdenszīmes.

Šis atvērtā pirmkoda rīks ir paredzēts, lai bez problēmām strādātu ar esošo programmatūru, atvieglojot AI radītā satura atrašanu.

Video zīmogs solās būt izturīgs pret bieži sastopamiem labojumiem, piemēram, izplūšanu un apgriešanu, atšķirībā no vecākām ūdenszīmju tehnoloģijām, kurām bija problēmas ar video saspiešanu un manipulācijām.

Problēmas un ierobežojumi

Pat ar šiem uzlabojumiem joprojām ir problēmas ar to, ka daudzi cilvēki izmanto šīs tehnoloģijas. Daudzi izstrādātāji var vilcināties pāriet no esošajiem patentētajiem risinājumiem uz atvērtā pirmkoda opcijām, piemēram, Video Seal.

Meta plāno rīkot seminārus lielākajās mākslīgā intelekta konferencēs un izveidot publisku līderu sarakstu, kurā salīdzinātas dažādas ūdenszīmju metodes, lai panāktu, ka vairāk cilvēku strādā kopā.

Turklāt ūdenszīmju metodes, kas mums tagad ir, ne vienmēr ir pietiekami spēcīgas vai efektīvas, kad runa ir par video saturu.

Divas galvenās pieejas cīņai pret MI radītu saturu

Cīņā pret MI radītu saturu ir radušās divas atšķirīgas stratēģijas:

1. Ūdenszīmes (preventīva pieeja):

• Darbojas, pievienojot saturam neredzamus parakstus radīšanas brīdī
• Darbojas kā ciparsertifikāts, kurā redzams, ka “to izgatavoja AI”
• Šo pieeju atspoguļo tādi rīki kā Meta Video Seal un Microsoft izcelsmes funkcijas
• Galvenā priekšrocība ir tūlītēja AI satura identificēšana

2. Detektēšanas rīki (analītiskā pieeja):

• Analizē esošo saturu, lai noteiktu, vai tas ir AI ģenerēts
• Meklē modeļus un īpašības, kas raksturīgas AI radītam saturam
• Īpaši noderīgi saturam, kas izveides laikā netika atzīmēts
• Šie rīki veido mūsu otro aizsardzības līniju

Abas pieejas ir nepieciešamas, jo tās viena otru papildina: ūdenszīmes novērš ļaunprātīgu izmantošanu, savukārt atklāšanas rīki palīdz identificēt nemarķētu saturu.

Atklāšanas rīki un tehnoloģijas

MI radīto saturu var atrast ne tikai ūdenszīmju tehnoloģijās. Jaunie atklāšanas rīki izmanto sarežģītus algoritmus, lai aplūkotu gan teksta, gan attēla saturu.

• Oriģinalitāti, dziļās mācīšanās algoritmus AI izmanto, lai atrastu modeļus MI ģenerētajā tekstā.
• GPTZero aplūko lingvistiskās struktūras un vārdu frekvences, lai pateiktu atšķirību starp saturu, ko rakstījuši cilvēki, un saturu, ko radījušas mašīnas.
• CopyLeaks izmanto N-gramu un sintakses salīdzinājumus, lai atrastu nelielas valodas izmaiņas, kas varētu liecināt par AI autorību.

Šie rīki ir paredzēti, lai sniegtu lietotājiem precīzus viedokļus par to, cik reāls ir saturs, taču tas, cik labi tie darbojas, var ievērojami atšķirties.

Noslēgumā

Attīstoties ģeneratīvajam MI, digitālā autentiskuma aizsardzība kļūst arvien svarīgāka. Microsoft un Meta ir vadošās apsūdzības par revolucionāriem satura autentiskuma un multivides izcelsmes pārbaudes standartiem.

Lai efektīvi apkarotu dziļviltojumus, mums ir vajadzīga gan šo rīku pieņemšana visā nozarē, gan ciešāka sadarbība starp tehnoloģiju uzņēmumiem. Digitālā satura turpmākā integritāte ir atkarīga no atklāšanas tehnoloģijām, kas attīstās ātrāk nekā mākslīgā intelekta radīta maldināšana.

Patiesībā mēs nesen apskatījām, kā YouTube veic līdzīgas darbības, ieviešot jaunus AI noteikšanas rīkus satura veidotājiem un zīmoliem. Viņu pieeja ietver sintētisku balss identifikāciju un MI ģenerētas sejas noteikšanas tehnoloģijas, vēl vairāk demonstrējot, kā lielākās platformas strādā, lai aizsargātu satura autentiskumu AI laikmetā.