Inteligența artificială va înlocui oamenii? Yoshua Bengio avertizează despre riscurile inteligenței artificiale

Renumitul informatician Yoshua Bengio, un pionier în inteligența artificială, a avertizat că tehnologia emergentă ar putea avea un impact negativ asupra societății și a cerut mai multe cercetări pentru a-și reduce riscurile.

Bengio este profesor la Universitatea din Montreal și director al Institutului de Algoritmi de Învățare din Montreal. A primit numeroase premii pentru munca sa în învățarea profundă. un subset al inteligenței artificiale Încearcă să imite activitatea creierului uman pentru a învăța cum să recunoască modele complexe în date.

Dar el are îngrijorări cu privire la tehnologie, avertizând că unii cu „putere enormă” ar putea chiar să vreaVăzând oamenii înlocuiți de mașini.

„Este foarte important în viitor să avem mașini la fel de inteligente ca noi în multe privințe și ce înseamnă asta pentru societate”, a spus Bengio, Tania Bryer de la CNBC, la summitul One Young World de la Montreal.

El a spus că mașinile vor avea în curând cele mai multe dintre abilitățile cognitive ale oamenilor – Inteligența generală artificială (AGI) este un tip de tehnologie de inteligență artificială concepută pentru a egala sau depăși inteligența umană.

“Inteligenta dă putere. Deci cine controlează această putere?” „A avea un sistem care înțelege mai mult decât majoritatea oamenilor poate fi periculos dacă cade în mâini greșite și creează mai multă instabilitate la nivel geopolitic, cum ar fi terorismul.”

Bengio a spus că un număr limitat de organizații și guverne vor avea capacitatea de a construi mașini AI puternice și, cu cât sistemele sunt mai mari, cu atât vor deveni mai inteligente.

„Știți, aceste mașini costă miliarde de dolari pentru a fi construite și instruite și foarte puține organizații și țări pot face asta. Este deja cazul”, a spus el.

„Va exista o concentrare a puterii: putere economică, care ar putea fi dăunătoare pentru piețe; putere politică, care ar putea fi dăunătoare pentru democrație; putere militară, care ar putea fi dăunătoare pentru stabilitatea geopolitică a planetei noastre. Deci, sunt multe lucruri pe care trebuie să le privim cu atenție și să începem să le atenuăm cât mai repede posibil.

Un astfel de rezultat este posibil în decenii, a spus el. „Dar dacă sunt cinci ani, nu suntem pregătiți… pentru că nu avem o modalitate de a ne asigura că aceste sisteme nu dăunează oamenilor sau nu se întorc împotriva oamenilor… nu știm cum să facă asta”, a adăugat el.

Bengio a spus că există o părere că modul actual de pregătire a mașinilor cu inteligență artificială „va duce la sisteme care funcționează împotriva oamenilor”.

„De asemenea, unii oameni ar putea dori să abuzeze de această putere, iar unii oameni ar putea fi fericiți să vadă oamenii înlocuiți de mașini. Adică, este o margine, dar acești oameni pot avea multă putere și o pot dacă nu o punem la dispoziție. acum, balustradele potrivite sau altfel faceți asta”, a spus el.

Bengio este de acord scrisoare deschisă Titlul din iunie spunea: „Dreptul de a avertiza despre inteligența artificială avansată.” A fost semnat de actualii și foștii angajați ai Open AI, compania din spatele chatbot-ului viral AI ChatGPT.

Scrisoarea avertizează „Riscuri serioase” ale progreselor în inteligența artificială și solicită oamenilor de știință, factorilor de decizie și publicului să ofere îndrumări pentru a atenua aceste probleme. În ultimele luni, OpenAI a fost supus unor preocupări tot mai mari de securitate, cu ajutorul său Echipa „AGI Readiness” s-a desființat Octombrie.

„Primul lucru pe care trebuie să-l facă guvernul este să creeze reglementări care obligă (companiile) să se înregistreze atunci când înființează aceste sisteme de frontieră, care, la fel ca cele mai mari sisteme, costă sute de milioane de dolari pentru a antrena”, a declarat Bengio pentru CNBC Guvernul ar trebui să știe unde sunt, știi, specificul acestor sisteme.”

Bengio a spus că, deoarece inteligența artificială se dezvoltă atât de repede, guvernele trebuie să fie „puțin creative” și să dezvolte o legislație care se poate adapta la schimbările tehnologice.

Informaticianul a spus că companiile care dezvoltă inteligență artificială trebuie, de asemenea, să fie trase la răspundere pentru acțiunile lor.

„Răspunderea este, de asemenea, un alt instrument care poate forța (companiile) să se comporte bine pentru că… dacă banii lor sunt implicați, teama de a fi dat în judecată – asta le va motiva să ia măsuri pentru a proteja publicul. Dacă știu că nu pot fi dat în judecată, pentru că acum este o zonă gri și atunci comportamentul lor nu va fi neapărat bun”, a spus el. „(Companiile) concurează unele împotriva altora și, știți, ei cred că oricine ajunge primul la AGI va domina. Deci este o cursă și o cursă periculoasă”.

Bengio a spus că procesul legislativ pentru asigurarea siguranței inteligenței artificiale va fi similar cu modul în care sunt scrise regulile pentru alte tehnologii, cum ar fi avioanele sau mașinile. „Pentru a culege beneficiile inteligenței artificiale, trebuie să reglementăm. Trebuie să punem bare de protecție. Trebuie să avem o supraveghere democratică a modului în care se dezvoltă tehnologia”, a spus el.

Pe măsură ce inteligența artificială se dezvoltă, răspândirea dezinformării, în special în ceea ce privește alegerile, este o preocupare tot mai mare. Octombrie, OpenAI spune că a fost perturbat „Peste 20 de operațiuni și rețele înșelătoare din întreaga lume au încercat să folosească modelul nostru.” Aceasta a inclus postări pe rețele de socializare din conturi false înainte de alegerile din Statele Unite și Rwanda.

„Una dintre cele mai mari preocupări pe termen scurt este dezinformarea, dezinformarea și capacitatea inteligenței artificiale de a influența politica și opinia, dar această îngrijorare se va intensifica pe măsură ce ne îndreptăm către sisteme mai puternice”, a spus Bengio , vom avea mașini care pot produce imagini mai realiste, simulări de sunet mai realiste, videoclipuri mai realiste”, a spus el.

Impactul s-ar putea extinde la interacțiunile cu chatboții, a spus Bengio. un studiu Cercetările cercetătorilor italieni și elvețieni arată că modelul de limbă mare GPT-4 al OpenAI poate convinge oamenii să-și răzgândească mai bine decât oamenii. „Acesta este doar un studiu științific, dar vă puteți imagina pe cineva care citește asta și dorește să facă asta pentru a interfera cu procesul nostru democratic”, a spus el.