Marea Britanie extinde institutul de siguranță AI la San Francisco, casa OpenAI

LONDRA – Guvernul britanic își extinde unitățile de testare a modelelor de inteligență artificială „de ultimă oră” în Statele Unite, încercând să-și sporească profilul de jucător global de top în abordarea riscurilor tehnologice și să consolideze cooperarea cu Statele Unite între guverne. disputa.

Guvernul SUA a anunțat luni că va găzdui un summit de securitate a inteligenței artificiale la San Francisco în această vară, o organizație susținută de stat axată pe testarea sistemelor avansate de inteligență artificială pentru a le asigura siguranța.

Institutul American de Securitate al Inteligenței Artificiale își propune să recruteze o echipă de personal tehnic condusă de un director de cercetare. În Londra, institutul are în prezent o echipă de 30 de persoane și este prezidat de Ian Hogarth, un cunoscut antreprenor britanic în tehnologie care a fondat site-ul de descoperire a concertelor Songkick.

Ministrul britanic al Tehnologiei, Michelle Donelan, a declarat într-o declarație că lansarea Summit-ului pentru Siguranța Inteligenței Artificiale în Statele Unite „reprezintă liderul Regatului Unit în domeniul inteligenței artificiale”.

„Acesta este un moment critic pentru ca Regatul Unit să adopte o perspectivă globală asupra riscurilor și potențialului IA, să ne consolideze parteneriatul cu SUA și să deschidă calea pentru ca alte țări să ne valorifice expertiza pe măsură ce continuăm să conducem lumea în IA. Artificial Siguranța inteligenței.

Extinderea „va permite Marii Britanii să profite de talentul tehnologic bogat din Bay Area, să lucreze cu cele mai mari laboratoare de inteligență artificială din lume cu sediul la Londra și San Francisco și să-și consolideze relația cu Statele Unite pentru a promova interesul public în siguranța inteligenței artificiale”, a spus guvernul. a spus.

San Francisco este orașul natal al OpenAI. Microsoft– Compania din spatele chatbotului viral AI ChatGPT.

Institutul de Securitate AI a fost lansat în noiembrie 2023 în timpul Summit-ului AI Security, un eveniment global desfășurat în Bletchley Park, Marea Britanie (casa celor care depășesc codurile din Al Doilea Război Mondial) pentru a promova cooperarea transfrontalieră în domeniul securității AI.

Expansiunea Institutului de Securitate AI în Statele Unite are loc în ajunul Summitului de la Seul pentru Inteligența Artificială din Coreea de Sud, care a fost propus inițial la summitul din Marea Britanie de anul trecut de la Bletchley Park. Summitul de la Seul va avea loc marți și miercuri.

Guvernul spune că a făcut progrese în evaluarea modelelor de IA de ultimă oră de la unele dintre companiile lider din industrie de când Institutul de Securitate AI a fost înființat în noiembrie anul trecut.

Compania a declarat luni că unele modele de inteligență artificială au finalizat provocările de securitate cibernetică, dar s-au luptat cu provocări mai avansate, în timp ce unele au demonstrat cunoștințe la nivel de doctorat în chimie și biologie.

În același timp, toate modelele testate de studiu rămân foarte susceptibile la „jailbreaking”, prin care utilizatorii îi pot păcăli pentru a produce răspunsuri care nu sunt permise de regulile de conținut, iar unele modele produc rezultate dăunătoare chiar și atunci când nu încearcă să eludeze protecțiile. .

Guvernul a spus că modelele testate nu au putut îndeplini sarcini mai complexe și mai consumatoare de timp fără supraveghere umană.

Nu a dezvăluit numele modelului de inteligență artificială pe care l-a testat. Guvernul a cerut anterior ca OpenAI, DeepMind și Anthropic să convină să își deschidă guvernului modelele lor râvnite de inteligență artificială pentru a ajuta cercetarea în înțelegerea riscurilor asociate cu sistemele lor.

Evoluția vine în timp ce Regatul Unit se confruntă cu critici pentru că nu a introdus reglementări formale privind inteligența artificială, în timp ce alte jurisdicții, cum ar fi Uniunea Europeană, se luptă pentru a dezvolta legi care vizează inteligența artificială.

Actul de referință al UE privind inteligența artificială este prima legislație importantă de acest gen în domeniul inteligenței artificiale, odată ce va fi aprobat de toate statele membre ale UE și va intra în vigoare, se așteaptă ca acesta să devină un model pentru reglementarea inteligenței artificiale la nivel mondial.