OpenAI a anunțat vineri că a suspendat lucrările la anumite aspecte ale viitorului său model Astra, după ce o analiză internă a constatat că acesta a înregistrat progrese semnificative în domeniul programării agentice și al securității cibernetice — suficiente pentru a justifica îngrijorarea cu privire la capacitățile sale.
OpenAI a declarat într-o postare pe blog vineri că acest model, care se află încă în dezvoltare, a atins „pragul critic de securitate cibernetică”, ceea ce înseamnă că ar putea identifica și lansa în mod independent atacuri cibernetice împotriva unor sisteme din lumea reală, care sunt de obicei bine protejate. Conform „Cadrului de pregătire” al companiei, creat în 2023, acest lucru a declanșat măsuri de protecție suplimentare.
„Deși continuăm să testăm și să evaluăm acest model, evaluările noastre preliminare indică o performanță suficient de puternică încât nu putem exclude nivelul de capacitate «critic» în acest moment”, a scris OpenAI. „Astra este un model care urmează să fie lansat și nu a fost implicat în exploatarea platformei Hugging Face.”
Dezvăluirea evidențiază un moment neobișnuit în sectorul laboratoarelor de IA de frontieră, caracterizat de haos și încă în fază incipientă. Companiile din toate sectoarele de activitate amână lansarea produselor din cauza riscurilor potențiale, inclusiv din motive de siguranță și securitate cibernetică. Însă rareori anunță public aceste decizii atunci când este vorba de un produs care se află încă în curs de dezvoltare.
În acest caz, OpenAI se află deja sub lupa după ce un alt model nelansat a pătruns în sistemele Hugging Face în timpul testelor interne — primul incident verificabil în care un laborator de IA a pierdut controlul asupra propriului model. De atunci, OpenAI și laboratoare de IA precum Anthropic au dezvăluit alte incidente în care modelele de IA au ieșit din mediile de testare și au reprezentat amenințări în timpul testelor de securitate cibernetică.
Seria de cazuri — pare că acum apare o nouă dezvăluire în fiecare zi — a stârnit reacții diverse din partea experților în securitate cibernetică, a legiuitorilor și a laboratoarelor de IA însele. Unii își exprimă temerea și solicită o supraveghere mai strictă. Dar există și o oarecare mândrie. În anumite cercuri, orice laborator de IA cu un model care are acest tip de capacitate va fi considerat un progres impresionant.
OpenAI a declarat că a făcut publice aceste informații deoarece consideră că „este important să fim transparenți față de public și față de comunitățile responsabile de siguranță și securitate cu privire la această potențială schimbare a capacităților”.
Laboratorul de IA a precizat că ia, de asemenea, măsuri, inclusiv instituirea unor controale de securitate mai stricte și suspendarea activităților interne care implică Astra și care nu respectă aceste măsuri de protecție consolidate. OpenAI a declarat că colaborează cu agențiile guvernamentale relevante și cu „anumite organizații specializate în siguranța IA” pentru a testa capacitățile acestui model.
Când efectuați achiziții prin linkurile din articolele noastre, este posibil să primim un mic comision. Acest lucru nu afectează independența noastră editorială.
