WASHINGTON (Apox.) — Șefa de cabinet de la Casa Albă, Susie Wiles, intenționează să dezvăluie directorul general al Anthropic, Dario Amodei, despre noul model Mythos al companiei de inteligență artificială, care a atras atenția guvernului federal asupra modului în care ar putea transforma securitatea națională și economia.
Un oficial de la Casa Albă, care a cerut anonimatul pentru a discuta despre întâlnirea planificată vineri, a declarat că administrația se angajează cu laboratoare avansate de inteligență artificială cu privire la modelele lor și la securitatea software-ului. Oficialul a subliniat că orice tehnologie nouă care ar putea fi utilizată de guvernul federal va necesita o perioadă tehnică pentru evaluare.
Întâlnirea vine după ce tensiunile s-au aprins între administrația Trump și Anthropic, conștient de siguranță, care a a căutat să pună balustrade privind dezvoltarea IA pentru a minimiza orice riscuri potențiale și a maximiza beneficiile sale economice și de securitate națională pentru SUA
Președintele Donald Trump a încercat să oprească toate agențiile federale să folosească chatbot-ul lui Anthropic Claude asupra disputei contractuale a companiei cu Pentagonul, Trump spunând într-o postare pe rețelele sociale din februarie că administrația „nu va mai face afaceri cu ei!”
Secretarul Apărării Pete Hegseth a încercat, de asemenea, să declare Anthropic un risc pentru lanțul de aprovizionare, o mișcare fără precedent împotriva unei companii americane pe care Anthropic a contestat-o în două instanțe federale. Compania a spus că vrea să se asigure că Pentagonul nu își va folosi tehnologia arme complet autonome și supravegherea americanilor. Hegseth a spus că compania trebuie să permită orice utilizări pe care Pentagonul le consideră legale.
Judecătorul districtual american Rita Lin a emis o hotărâre în martie care a blocat aplicarea directivei lui Trump privind rețelele de socializare care ordona tuturor agențiilor federale să nu mai folosească produsele Anthropic.
Anthropic a refuzat să vorbească despre întâlnire în avans.
Anthropic, cu sediul în San Francisco, a declarat că noul model Mythos pe care l-a anunțat pe 7 aprilie este atât de „surprinzător de capabil” încât își limitează utilizarea pentru selectarea clienților datorită capacității sale de a depăși experții în securitate cibernetică umană în găsirea și exploatarea vulnerabilităților computerelor.
Și, în timp ce unii experți din industrie s-au pus la îndoială dacă afirmațiile Anthropic cu privire la tehnologia AI prea puternică au fost un truc de marketing, chiar și unii dintre cei mai acerți critici ai companiei au sugerat că Mythos ar putea reprezenta un progres suplimentar în AI.
Un critic antropic influent, David Sacks, care a fost țarul AI și criptomonedele de la Casa Albă, a spus că oamenii ar trebui să „ia asta în serios”.
„Oricand Anthropic îi sperie pe oameni, trebuie să întrebați: „Este aceasta o tactică? Face parte din rutina lor Chicken Little? Sau este real?”, a spus Sacks în podcastul „All-In” pe care îl găzduiește împreună cu alți investitori în tehnologie. „Cu cyber, le-aș acorda credit în acest caz și le-aș spune că este mai mult pe partea reală.”
Sacks a spus: “Este logic că, pe măsură ce modelele de codare devin din ce în ce mai capabile, ele sunt mai capabile să găsească erori. Asta înseamnă că sunt mai capabili să găsească vulnerabilități. Asta înseamnă că sunt mai capabili să însiruiască mai multe vulnerabilități și să creeze un exploit.”
Beneficiile potențiale ale modelului, precum și riscurile sale, au atras atenția și în afara SUA
Institutul de Securitate AI din Regatul Unit a declarat că a evaluat noul model și l-a considerat un „pas înainte” față de modelele anterioare, care deja se îmbunătățiu rapid.
„Mythos Preview poate exploata sisteme cu o poziție de securitate slabă și este probabil ca mai multe modele cu aceste capacități să fie dezvoltate”, a spus institutul într-un raport.
Anthropic a purtat discuții cu Uniunea Europeană cu privire la modelele sale de inteligență artificială, inclusiv modele avansate care nu au fost încă lansate în Europa, a declarat vineri purtătorul de cuvânt al Comisiei Europene, Thomas Regnier.
Axios a raportat mai întâi întâlnirea programată dintre Wiles și Amodei.
Când a anunțat Mythos, Anthropic a spus că formează, de asemenea, o inițiativă numită Project Glasswing, care reunește giganți tehnologici precum Amazon, Apple, Google și Microsoft, împreună cu alte companii precum JPMorgan Chase, în speranța de a proteja software-ul critic din lume de consecințele „severe” pe care noul model le-ar putea aduce siguranței publice, securității naționale și economiei.
„Îl lansăm unui subset al unora dintre cele mai importante companii și organizații din lume, astfel încât să poată utiliza acest lucru pentru a găsi vulnerabilități”, a declarat Jack Clark, cofondatorul Anthropic și șeful de politici, la conferința Semafor World Economy de săptămâna aceasta.
Clark a adăugat că Mythos, deși este în fața curbei, nu este un „model special”.
„Vor fi alte sisteme exact ca acesta în câteva luni de la alte companii, iar într-un an până la un an și jumătate mai târziu, vor exista modele deschise din China care au aceste capacități”, a spus el. Așa că lumea va trebui să se pregătească pentru sisteme mai puternice care vor exista în ea.” ___
O’Brien a raportat de la Providence, reporterul de afaceri RI Apox. Kelvin Chan a contribuit la acest raport de la Londra.
