OpenAI anunță un nou comitet independent de supraveghere a siguranței consiliului

OpenAI a declarat luni că comitetul de siguranță și securitate pe care l-a înființat în mai pentru a gestiona litigiile privind procedurile de siguranță va deveni un comitet independent de supraveghere a consiliului de administrație.

Grupul va fi prezidat de Zico Kolter, președintele Departamentului de Învățare Mașină de la Carnegie Mellon University’s School of Computer Science. Alți membri includ Adam D’Angelo, membru al consiliului OpenAI, co-fondator Quora, fost director al Agenției Naționale de Securitate și membru al consiliului. Paul Nakasoneși Nicole SeligmanFost vicepreședinte executiv al Sony.

Compania a spus că comitetul va supraveghea „procesele de securitate care ghidează implementarea și dezvoltarea modelelor OpenAI”. Acesta a încheiat recent o revizuire de 90 de zile pentru a evalua procesele și garanțiile OpenAI înainte de a face recomandări consiliului de administrație. OpenAI dă publicului descoperirile echipei Articol de blog.

Inteligența artificială deschisă Microsoft-ChatGPT în culise acceptă activarea și Căutați GPTCompania caută în prezent o rundă de finanțare care să evalueze compania la peste 150 de miliarde de dolari, potrivit unor persoane familiare cu problema. Thrive Capital este Conduceți această rundă și intenționează să investească 1 miliard USD și tigru global De asemenea, plănuiește să se alăture. Microsoft, NVIDIA şi măr Da Se spune De asemenea, discutăm despre investiții.

Cele cinci recomandări cheie ale comitetului includ necesitatea de a stabili o guvernanță independentă de securitate, de a consolida măsurile de securitate, de a face munca OpenAI transparentă, de a coopera cu organizațiile externe și de a unifica cadrul de securitate al companiei;

Săptămâna trecută, OpenAI a lansat o1, o versiune de previzualizare a noului său model de inteligență artificială axată pe raționament și „rezolvarea problemelor grele”. Compania a spus că comitetul „a revizuit standardele de securitate utilizate de OpenAI pentru a evalua adecvarea OpenAI o1 pentru lansare”, precum și rezultatele evaluării securității.

Comitetul va „colabora cu consiliul complet pentru a asigura supravegherea lansării modelului, inclusiv autoritatea de a amâna lansarea până când problemele de siguranță vor fi rezolvate”.

Deși OpenAI a fost într-un mod de creștere rapidă de la lansarea ChatGPT la sfârșitul anului 2022, de asemenea, Controversat şi Personalul superior pleacăunii angajați actuali și foști își fac griji că compania crește prea repede pentru a funcționa în siguranță.

În iulie, senatorii democrați au trimis un scrisoare Întrebați CEO-ul OpenAI, Sam Altman, „despre modul în care OpenAI abordează problemele emergente de securitate”. Luna trecută, un grup de actuali și foști angajați OpenAI a publicat un articol scrisoare deschisă Au fost descrise îngrijorări legate de lipsa de supraveghere și de lipsa de protecție pentru cei care doresc să raporteze.

În mai, un fost membru al consiliului OpenAI a vorbit despre Altman concediat temporar Noiembrie, spuse elConsiliul a primit în mod repetat „informații inexacte despre puținele procese formale de securitate pe care compania le-a pus în aplicare”.

În acea lună, OpenAI a decis La doar un an de la anunțul său, echipa concentrată pe riscurile pe termen lung ale inteligenței artificiale a fost desființată. Liderii echipei Ilya Sutskever și Jan Leike, anunta plecarea Mai de la OpenAI. Leike a scris într-o postare pe X că „cultura și procesele de siguranță ale OpenAI au făcut loc produselor strălucitoare”.

ceas: OpenAI este liderul incontestabil al superciclului inteligenței artificiale