Odată cu sosirea sezonului electoral și cu dezvoltarea rapidă a inteligenței artificiale, manipularea inteligenței artificiale în publicitatea politică devine o problemă de preocupare mai mare pentru piață și economie. Un nou raport publicat miercuri de Moody’s a avertizat că generarea de inteligență artificială și falsurile profunde sunt probleme de integritate electorală care ar putea pune în pericol credibilitatea instituțiilor americane.
„Este probabil că aceste alegeri vor fi aprig contestate, cu preocupări tot mai mari cu privire la inteligența artificială”, au scris vicepreședintele și analist adjunct al Moody’s, Gregory Sobel, și vicepreședintele senior William Foster, că Deepfakes ar putea fi folosit pentru a induce în eroare alegătorii, a alimenta diviziunea și pentru a stârni discordia , agenții dezinformarii ar putea influența alegătorii, ar putea influența rezultatele alegerilor și, în cele din urmă, elaborarea politicilor, ceea ce ar dăuna credibilității instituțiilor americane. ”
Guvernul și-a intensificat represiunea împotriva deepfake-urilor. Pe 22 mai, președintele FCC Jessica Rosenworcel propune noi reguli Acest lucru ar necesita ca reclamele politice TV, video și radio să dezvăluie dacă folosesc inteligența artificială pentru a genera conținut. FCC a fost îngrijorat de utilizarea inteligenței artificiale în publicitatea acestui ciclu electoral, Rosenworcel indicând potențiale probleme cu deepfake-urile și alt conținut manipulat.
Rețelele de socializare au fost întotdeauna în afara domeniului de aplicare al reglementărilor FCC, dar Comisia Electorală Federală Sunt luate în considerare și reguli ample de divulgare a IA Acesta va fi extins la toate platformele. Într-o scrisoare către Rosenworcel, care a încurajat FCC să amâne o decizie până după alegeri, deoarece modificările acesteia nu vor fi aplicate în publicitatea politică digitală. Ei au adăugat că reclamele online care nu dezvăluie informații, chiar dacă au inteligență artificială, ar putea deruta alegătorii.
Deși propunerea FCC s-ar putea să nu acopere pe deplin rețelele sociale, ea deschide ușa altor agenții să reglementeze publicitatea în lumea digitală, pe măsură ce guvernul SUA devine un puternic reglementator al conținutului de inteligență artificială. Poate că aceste reguli ar putea fi extinse la mai multe tipuri de reclame.
„Acesta ar fi o hotărâre revoluționară care ar putea schimba narațiunea campaniilor politice din mass-media tradițională pentru anii următori”, a spus Dan Ives, director general și analist senior de acțiuni la Wedbush Securities genie înapoi în sticlă, iar această decizie va avea multe consecințe nedorite.”
Unele platforme de social media au adoptat deja o anumită formă de dezvăluire a inteligenței artificiale pe cont propriu, înainte de reglementare. Meta, de exemplu, cere dezvăluirea AI pentru toate reclamele sale și interzice toate reclamele politice noi cu o săptămână înainte de alegerile din noiembrie. Google solicită dezvăluirea tuturor reclamelor politice al căror conținut a fost modificat pentru a „prezenta în mod nerealist persoane sau evenimente reale sau realiste”, dar nu necesită dezvăluirea AI pentru toate anunțurile politice.
Companiile de social media au motive întemeiate să fie considerate proactive în această problemă, deoarece mărcile își fac griji să se alinieze la răspândirea dezinformarii într-un moment critic pentru țară. Google și Facebook Se preconizează că va reprezenta 47% din cheltuielile estimate de 306,94 miliarde de dolari în publicitatea digitală din SUA în 2024. Este o problemă foarte complexă și este timpul să facem publicitate online”, a spus Ives.
În ciuda autoreglementării, conținutul manipulat prin inteligență artificială apare pe platformele neetichetate datorită volumului imens de conținut postat în fiecare zi. indiferent Spam generat de inteligența artificială sau Un număr mare de imagini AIeste greu să găsești totul.
„Lipsa standardelor din industrie și evoluția rapidă a tehnologiei fac acest lucru dificil”, a declarat Tony Adams, cercetător senior pentru amenințări la Secureworks Counter Threat Group. „Din fericire, aceste platforme au implementat cu succes controale tehnice pentru a controla conținutul cel mai dăunător de pe site-urile lor. Conținut, ironic alimentat de inteligența artificială.”
Crearea de conținut manipulat este mai ușoară ca niciodată. În mai, Moody’s a avertizat că deepfake-urile au fost „armate” de către entitățile guvernamentale și neguvernamentale ca instrument de propagandă, pentru a crea tulburări sociale și, în cele mai grave cazuri, terorism.
„Până de curând, crearea deepfake-urilor convingătoare necesita cunoștințe tehnice semnificative în ceea ce privește algoritmi specializați, resurse de calcul și timp”, a scris Abhi Srivastava, vicepreședinte asociat la Moody’s Ratings Odată cu apariția instrumentelor Gen AI ușor accesibile și accesibile, care generează deepfake-uri sofisticate poate fi realizată în câteva minute. Această ușurință de acces este agravată de limitele garanțiilor existente ale rețelelor sociale împotriva răspândirii conținutului manipulat, abuzul pe scară largă a deepfake-urilor.
Deepfake audio prin apeluri automate Folosit deja la primarul prezidențial din New Hampshire acest ciclu electoral.
Moody’s consideră că potențialele argumente sunt natura descentralizată a sistemului electoral din SUA, precum și politicile existente de securitate cibernetică și înțelegerea generală a amenințărilor cibernetice iminente. Moody’s a spus că asta ar oferi o oarecare protecție. Guvernele de stat și locale adoptă măsuri pentru a bloca în continuare deepfake-urile și conținutul AI neetichetat, dar legile privind libertatea de exprimare și preocupările privind blocarea progresului tehnologic au încetinit progresul în unele legislaturi de stat.
Potrivit Moody’s, din februarie, legislaturile statale introduceau 50 de acte legislative legate de inteligența artificială în fiecare săptămână, inclusiv legislație care vizează deepfakes. Treisprezece state au legi privind interferența electorală și falsurile profunde, dintre care opt au fost adoptate din ianuarie.
Moody’s notează că Statele Unite sunt vulnerabile la riscurile cibernetice, Clasat pe locul 10 din 192 de țări Inclus în Indexul Națiunilor Unite pentru Dezvoltarea e-Guvernării.
Moody’s a spus că, chiar și fără exemple specifice, percepția că falsurile profunde au capacitatea de a influența rezultatele politice este suficientă pentru a „submina încrederea publicului în procesul electoral și credibilitatea instituțiilor guvernamentale, ceea ce reprezintă un risc de credit”. Cu cât oamenii își fac mai multe griji cu privire la deosebirea realității de ficțiune, cu atât este mai mare riscul ca cetățenii să se dezactiveze și să devină neîncrezători în guvernul lor. „Această tendință va avea implicații negative asupra creditului, ar putea duce la creșterea riscurilor politice și sociale și va afecta eficacitatea agențiilor guvernamentale”, a scris Moody’s.
„Răspunsul forțelor de ordine și al FCC poate descuraja alți actori naționali să folosească inteligența artificială pentru a înșela alegătorii”, a spus Adams de la Secureworks, „Dar nu există nicio îndoială că actorii străini vor continua să facă ceea ce au făcut de ani de zile folosind artificial inteligență pentru a înșela alegătorii.” Generand instrumente și sisteme de inteligență artificială pentru a interveni în politica americană, mesajul pentru alegători este să rămână calmi, să rămână alert și să voteze.”
About The Author
