Instituțiile de cercetare chineze de top cu legături cu Armata Populară de Eliberare au folosit modelul public Llama al Meta pentru a dezvolta un instrument de inteligență artificială pentru potențiale aplicații militare, potrivit lucrărilor academice și analiștilor.
Instituțiile de cercetare chineze de top cu legături cu Armata Populară de Eliberare au folosit modelul public Llama al Meta pentru a dezvolta un instrument de inteligență artificială pentru potențiale aplicații militare, potrivit lucrărilor academice și analiștilor.
Într-o lucrare din iunie revizuită de Reuters, șase cercetători chinezi de la trei instituții, dintre care două sunt afiliate la Academia de Științe Militare (AMS), principala componentă de cercetare a Armatei de Eliberare a Poporului (PLA), au detaliat cum să folosească un versiune a Llamei lui Meta ca bază pentru așa-numitul „ChatBIT”.
Cercetătorii au folosit modelul de limbaj mare (LLM) Llama 2 13B, lansat de Meta META.O în februarie 2023, combinat cu proprii lor parametri pentru a construi un instrument AI axat pe militar pentru colectarea și procesarea informațiilor pentru a oferi luarea deciziilor operaționale Precis și fiabil. informaţie – produsă.
ChatBIT a fost reglat fin și „optimizat pentru sarcini conversaționale și de întrebări și răspunsuri în domeniul militar”, a spus ziarul. Studiul a constatat că a depășit alte modele AI, care au fost cu aproximativ 90% la fel de capabile ca puternicul ChatGPT-4 al OpenAI. Cercetătorii nu au explicat cum au definit eficacitatea sau dacă modelele AI au fost utilizate.
„Este prima dată când există dovezi substanțiale că experții militari din Armata Populară de Eliberare a Chinei au studiat în mod sistematic și au încercat să valorifice puterea LL.M. cu sursă deschisă (în special LL.M. al lui Meta) în scopuri militare”, a spus Sunny Cheung, cercetător asociat la institut explică.
Meta a acceptat multe modele de inteligență artificială pentru lansare deschisă, inclusiv Llama. A impus restricții privind utilizarea sa, inclusiv solicitarea serviciului, care are peste 700 de milioane de utilizatori, să solicite permisiunea companiei.
Termenii săi interzic, de asemenea, utilizarea modelelor în „militare, război, industrii sau aplicații nucleare, spionaj” și alte activități supuse controalelor exporturilor de apărare ale SUA, precum și dezvoltarea de arme și conținut destinat „să incite și să promoveze violența”.
Cu toate acestea, deoarece modelul Meta este public, compania este limitată în ceea ce privește modul în care poate aplica aceste reglementări.
Ca răspuns la întrebările Reuters, Meta a citat politica sa de utilizare acceptabilă și a spus că are măsuri în vigoare pentru a preveni abuzul.
„Orice utilizare a modelului nostru de către Armata Populară de Eliberare este neautorizată și încalcă politica noastră de utilizare acceptabilă”, a declarat directorul pentru politici publice Meta, Molly Montgomery, pentru Reuters într-un interviu telefonic.
Cercetătorii chinezi includ Geng Guotong și Li Weiwei de la Centrul de Cercetare a Informațiilor Științifice Militare din SUA și Institutul Național de Inovare în Știință și Tehnologie pentru Apărare, precum și cercetători de la Institutul de Tehnologie din Beijing și de la Universitatea Minzu din China.
Lucrarea precizează: „În viitor, prin îmbunătățirea tehnologică, ChatBIT nu va fi folosit doar în analiza informațiilor, ci va explora și… planificarea strategică, antrenamentul prin simulare și luarea deciziilor la comandă”.
Ministerul Apărării Naționale din China nu a răspuns la o solicitare de comentarii, nici vreo agenție sau cercetător.
Reuters nu a putut confirma capacitățile ChatBIT și puterea de calcul, dar cercetătorii au remarcat că modelul său includea doar 100.000 de înregistrări de conversații militare, un număr relativ mic în comparație cu alte LL.M.A.-uri.
„Aceasta este o picătură în ocean în comparație cu majoritatea modelelor care sunt antrenate pe trilioane de jetoane, așa că… mă face să mă întreb ce realizează de fapt în ceea ce privește diferitele caracteristici”, a spus cercetătorul de inteligență artificială de la Meta, profesor de computere Știință la Universitatea Gill.
Cercetarea vine în timp ce dezbaterile fac furori în cercurile tehnologice și de securitate națională din SUA despre dacă companii precum Meta ar trebui să-și facă publice modelele.
Președintele american Joe Biden a semnat un ordin executiv în octombrie 2023 prin care se urmărește să reglementeze dezvoltarea inteligenței artificiale, menționând că, deși inovarea poate aduce beneficii substanțiale, există și riscuri semnificative de siguranță, cum ar fi eliminarea măsurilor de siguranță din cadrul modelelor.
Săptămâna aceasta, Washingtonul a declarat că finalizează reguli pentru a limita investițiile SUA în inteligența artificială chineză și alte tehnologii care ar putea amenința securitatea națională.
Purtătorul de cuvânt al Pentagonului, John Supple, a declarat că Departamentul Apărării realizează că modelul open source are atât avantaje, cât și dezavantaje și „vom continua să monitorizăm și să evaluăm îndeaproape capacitățile concurenților noștri”.
Unii observatori spun că progresul Chinei în dezvoltarea inteligenței artificiale indigene, inclusiv înființarea a zeci de laboratoare de cercetare, a făcut dificilă împiedicarea Chinei să reducă decalajul tehnologic cu Statele Unite.
Într-o altă lucrare academică revizuită de Reuters, doi cercetători de la Aviation Industry Corporation of China (AVIC) – o companie deținută de SUA desemnat Companie cu legături cu Armata Populară de Eliberare – Descrie utilizarea Llama 2 pentru „antrenamentul strategiei de bruiaj a războiului electronic aeropurtat”.
Utilizarea de către China a inteligenței artificiale dezvoltate în Occident se extinde și la securitatea internă. O lucrare din iunie a descris modul în care Llama ar putea fi folosită în „poliția de informații” pentru a procesa cantități mari de date și a îmbunătăți procesul decizional al poliției.
Proprietate de stat Cotidianul Armatei Populare de Eliberare În aprilie, el a publicat un comentariu în care descrie modul în care inteligența artificială poate ajuta „la accelerarea cercetării și dezvoltării armelor și echipamentelor, a ajuta la dezvoltarea simulărilor de luptă și la îmbunătățirea eficienței pregătirii militare”.
„Poți să-i ții (China) departe de borcanul de prăjituri? Nu, nu știu că poți”, a declarat William Hannas, analist principal la Centrul pentru Securitate și Tehnologii Emergente (CSET) al Universității Georgetown, pentru Reuters Cum se procedează. . Lucrări publicate în 2023 CSET a găsit 370 Cercetătorii de la instituțiile chineze au publicat lucrări legate de inteligența artificială generală – contribuind la impulsionarea strategiei naționale a Chinei de a conduce lumea în domeniul inteligenței artificiale până în 2030.
„Există atât de multă colaborare între cei mai buni oameni de știință ai Chinei și cei mai buni oameni de știință AI din America, încât nu pot fi lăsați în afara dezvoltării”, a adăugat Hannas.