OpenAI creează o nouă echipă de supraveghere pentru a începe antrenarea următorului model

OpenAI a anunțat marți că a format un comitet de siguranță și securitate condus de directori superiori după ce și-a desființat anterior comitetul de supraveghere la jumătatea lunii mai.

Compania a spus că noul comitet va fi responsabil pentru a face recomandări consiliului OpenAI „cu privire la deciziile critice de securitate privind proiectele și operațiunile OpenAI”.

Între timp, dezvoltatorul asistentului virtual ChatGPT a anunțat că a început să-și antreneze „următorul model de ultimă generație”.

Compania spus într-o postare pe blog Acesta prezice că „sistemele rezultate vor avansa capacitățile noastre la următorul nivel, conducând la inteligența generală artificială (AGI)” – care se referă la inteligența artificială care este la fel de inteligentă ca oamenii sau mai inteligentă.

După constituirea noului grup de supraveghere OpenAI desființează echipa anterioară Concentrați-vă pe riscurile pe termen lung ale inteligenței artificiale. Înainte de aceasta, co-fondatorii OpenAI Ilya Sutskever și Jan Leike, doi lideri de echipă, anunta plecarea din Microsoft-Suport activare.

Pe măsură ce modelele la scară largă care alimentează aplicații precum ChatGPT devin mai avansate, securitatea AI a fost în fruntea unei dezbateri mai ample. Dezvoltatorii de produse AI doresc, de asemenea, să știe când va ajunge inteligența artificială generală și riscurile care vor veni cu ea.

Bret Taylor, Adam D’Angelo și Nicole Seligman sunt toți membri ai consiliului OpenAI și acum fac parte din noul comitet de siguranță împreună cu Altman.

Leike a scris luna aceasta că „cultura și procesele de siguranță ale OpenAI au făcut loc produselor strălucitoare”. Ca răspuns la plecarea sa, a spus Altman pe platforma de socializare

În următoarele 90 de zile, echipa de securitate va evalua procesele și garanțiile OpenAI și va împărtăși recomandările acestora consiliului de administrație al companiei. OpenAI va oferi o actualizare cu privire la recomandările pe care le-a adoptat la o dată ulterioară.

— Hayden Field de la CNBC a contribuit la acest raport.