Când ți se întâmplă pentru prima dată, crezi că ai înnebunit. Intri într-o cafenea și te uiți la un meniu cu o varietate de sandvișuri cu bagel, dar fiecare ilustrație pare straniu de perfectă, precis simetrică și ciudat de netedă, provocând o senzație viscerală că ceva nu este în regulă. S-ar putea să crezi că ești paranoic, dar nu-ți pierzi mințile. Meniurile generate de IA au pătruns în industria restaurantelor datorită unor modele antrenate pe o estetică restrânsă, „plăcută”, care pare greșită chiar și atunci când nu poți explica de ce.
Uneori, aceste ilustrații sunt evident false, precum un burrito cu brânză atât de spumoasă și topită încât arată mai degrabă ca artă avangardistă decât o masă de prânz. De cele mai multe ori, sunt atât de obișnuite în aspect încât îți dai seama că ceva este în neregulă abia când te oprești o clipă să te uiți mai atent.
„E aproape ca și cum un extraterestru ar încerca să facă o pizza fără să înțeleagă principiile de bază ale acesteia”, a declarat Alex Lisle, directorul tehnic al Reality Defender, pentru TechCrunch. (Reality Defender face parte dintr-o categorie tot mai numeroasă de startup-uri care comercializează instrumente de detectare a conținutului generat de IA și de verificare a conținutului — o afacere care există, în parte, din cauza unor probleme precum aceasta.)
Lisle spune că modul în care sunt construite aceste modele poate ajuta la explicarea motivului pentru care ilustrațiile par să adopte o estetică atât de specifică — una în care fiecare lingură de înghețată este perfect rotundă, iar creveții par să fi fost modificați genetic pentru a-și mânca propriile cozi, creând noi „orori alimentare lovecraftiene.”
Modelele lingvistice de mari dimensiuni (LLM) și modelele de difuzie — tipurile de modele de IA care fac posibile chatbot-urile aparent atotștiutoare și generatoarele de imagini precum ChatGPT și Midjourney — sunt antrenate pe cantități uriașe de date. Modelele identifică apoi tipare în seturile de date pentru a prezice ce caută un utilizator atunci când întreabă ceva de genul: „Creează-mi un meniu pentru un restaurant de burgeri.”
„Multe dintre aceste lucruri seamănă cu un meniu de la Chili’s din 2015, și există un motiv pentru asta”, a spus Lisle. „Acela a fost corpusul de date din care [the models] și-au creat funcționalitatea.”
Noile date de antrenare sunt de neprețuit pentru companiile care construiesc modele de IA — s-a descoperit chiar că Amazon achiziționează cărți rare pentru a le scana și a le adăuga la datele sale de antrenare, doar pentru a distruge acele cărți odată ce au fost încărcate. Este inevitabil ca o parte din conținutul generat de IA să se infiltreze în aceste seturi de date de o dimensiune incomprehensibilă. Dar atunci când modelele de IA se antrenează pe o cantitate prea mare din propriul conținut generat de IA, ele riscă colapsul modelului.
„Colapsul modelului este aproape ca boala vacii nebune… când introduci rezultatele unui model înapoi în el însuși, în cele din urmă consangvinizarea devine prea mare, iar totul se prăbușește”, a explicat Lisle. „Ceea ce vedem aici este convergența, care nu înseamnă neapărat colapsul modelului.”
Convergența este un fenomen ceva mai puțin extrem, care degradează calitatea rezultatelor generate de un sistem de IA fără a-l face însă complet inutil.
Dacă cineva cere unui model de IA să genereze un meniu pentru un restaurant de tip fast-food, modelul va face probabil referire la meniurile de la Wendy’s, Burger King, McDonald’s sau la un alt lanț popular. Aceste meniuri au deja un stil similar, ceea ce înseamnă că rezultatele generate de IA vor imita același stil, contribuind la consolidarea acestuia dacă meniul generat de IA ajunge din nou în setul de date de antrenare.
Însă meniurile și reclamele la mâncare vor arăta întotdeauna mai bine decât produsul real, precum un Big Mac dintr-o reclamă McDonald’s, unde fiecare strat al sandvișului este aranjat de un scenograf pentru a părea cât mai apetisant. Acest efect poate deveni și mai pronunțat în rezultatele generate de IA.
„Optimizarea seturilor de date are ca scop plăcerea vizuală sau, să zicem, evitarea caracterului ofensiv, iar acest lucru poate duce la o omogenizare”, a declarat pentru TechCrunch Lee Rainie, directorul Centrului „Imagining the Digital Future” de la Universitatea Elon. „Se știe că IA are tendința, atât în imagini, cât și în limbaj, de a netezi marginile.”
La o scară mai localizată, această netezire a imaginilor pare să aibă loc atunci când folosești un generator de imagini bazat pe IA pentru a crea un meniu și a-i aplica modificări. Pe X, un utilizator numit Labtec a arătat ce se întâmplă când creezi un meniu în ChatGPT, apoi îl editezi de 100 de ori pentru a vedea cum mâncarea începe să arate din ce în ce mai puțin așa cum ar trebui. (Am replicat experimentul și am obținut rezultate similare.)
„Rezultatul final chiar mă face să mă simt incomod”, a scris Labtec.
Probabil că restaurantele cad victime acestei probleme, revizuind mereu meniurile generate de IA pentru a modifica mici detalii, precum prețurile sau denumirile preparatelor. Se pare că, cu fiecare editare, imaginile mâncărurilor devin puțin mai rotunde și mai netede.
„Oamenii au o intuiție aproape inexplicabilă atunci când privesc ceva generat de IA, în comparație cu ceva care a fost real de la bun început”, a spus Rainie. „Există pur și simplu o sensibilitate pe care oamenii o găsesc uneori greu de exprimat, dar o recunosc într-un fel când o văd și cred că acesta este unul dintre motivele pentru care unele dintre primele relatări despre reacția negativă [against restaurants using AI menus] sunt atât de pronunțate.”
Există o bază științifică în spatele aversiunii noastre față de aceste meniuri generate de IA. Cercetătorii de la Universitatea din Duisburg-Essen din Germania au descoperit că imaginile cu mâncare generate de IA prezentau un efect de „vale stranie”, în care imaginile cu mâncare care păreau aproape reale provocau mai multă dezgustare și neliniște decât imaginile care erau în mod evident false. Această sensibilitate excesivă se intensifică și mai mult în lumina contextului cultural din jurul IA.
Dacă oamenii reacționează atât de negativ la aceste imagini, atunci acesta este probabil un motiv suficient pentru ca restaurantele să renunțe la încercările de a pune în practică meniurile generate de IA. Însă problemele care ne aduc chifle de hamburger rumenite perfect depășesc cadrul mesei.
„A vedea și a auzi a însemnat întotdeauna a crede, până la punctul în care chiar și sistemele noastre judiciare sunt pe deplin adaptate la ideea că standardul de referință în materie de probe îl reprezintă mărturisirile înregistrate și probele video”, a spus Lisle. „Nu mai este cazul. Lumea s-a schimbat fundamental, în bine sau în rău.”
Când efectuați achiziții prin linkurile din articolele noastre, este posibil să primim un mic comision. Acest lucru nu afectează independența noastră editorială.
