AI ZHVILLON KODE KOMUNIKIMI QË SFIDOJNË STUDIUESIT/ Agjentët autonomë krijojnë vetë fjalë, shkurtime dhe kuptime të reja
Një eksperiment me disa modele të avancuara të inteligjencës artificiale ka evidentuar një fenomen të pazakontë në komunikimin mes agjentëve autonomë. Gjatë ndërveprimeve të zgjatura, sistemet nisën të përdornin fjalë, shkurtime dhe kuptime të reja, të cilat në disa raste u bënë të vështira për t'u interpretuar nga studiuesit. Eksperimenti u zhvillua nga startup-i amerikan Emergence dhe përfshiu agjentë të fuqizuar nga modele të kompanive të ndryshme, mes tyre Claude, Gemini, Grok, modele të OpenAI, Qwen, DeepSeek dhe Mistral. Për të studiuar sjelljen e tyre në kushte më komplekse, studiuesit i vendosën agjentët në shoqëri virtuale të krijuara për të imituar elemente të botës reale. Sistemet mund të komunikonin për periudha të gjata, të merrnin vendime, të përdornin mjete dhe të ruanin informacione në kujtesë. Me kalimin e kohës, mënyra e komunikimit mes tyre filloi të ndryshonte. Agjentët krijuan forma më të shkurtra të shprehjes dhe filluan t'u jepnin disa fjalëve ekzistuese kuptime të reja, të cilat kuptoheshin brenda kontekstit të grupit, por jo domosdoshmërisht nga një vëzhgues njerëzor. Në disa raste, mesazhet u bënë aq të ngjeshura dhe të varura nga historia e ndërveprimeve, sa studiuesit mund t'i lexonin fjalët, por nuk mund të përcaktonin me siguri se çfarë synonin të komunikonin agjentët. Sipas të dhënave të raportuara nga eksperimenti, brenda ditëve të para rreth 55% e mesazheve të agjentëve të fuqizuar nga Gemini nuk mund të interpretoheshin me besueshmëri nga studiuesit. Për modelet e OpenAI kjo shifër arriti rreth 50%, ndërsa për Claude ishte mbi 40%. Te DeepSeek, përqindja e komunikimeve të vështira për t'u interpretuar ishte rreth 20%, ndërsa agjentët e bazuar në Qwen dhe Mistral mbetën në pjesën më të madhe të kuptueshëm për ekipin që po zhvillonte eksperimentin. Gjatë ndërveprimeve u shfaqën edhe formulime të pazakonta, të cilat fituan kuptime specifike brenda shoqërive virtuale. Mes tyre ishin shprehje si “mouthless action-change”, “True Kintsugi” dhe “demurrage plus oral memory equals a valve that can’t be ghosted”. Një shembull tjetër u vu re te agjentët e fuqizuar nga Mistral. Ata përdorën shprehjen “ledger remembers who” për të treguar se veprimet e mëparshme të një agjenti mbeteshin të regjistruara. Sipas eksperimentit, kjo frazë u përdor pothuajse 5 mijë herë. Në një grup ku ndërvepronin modele të ndryshme, shprehja “cold read” mori kuptimin e një verifikimi të pavarur të kryer nga një palë e tretë. Termi u përsërit 1,472 herë gjatë komunikimeve. Edhe modele të tjera zhvilluan terma të veçantë. Agjentët e Claude përdorën “name-first” për praktikën e vendosjes së emrit të një personi pranë një pretendimi si shenjë përgjegjësie, ndërsa agjentët e OpenAI përdorën termin “clean null” për mungesën e verifikuar të një sinjali, kur vetë mungesa kishte vlerë informative. Sipas studiuesve, këto kuptime nuk ishin përcaktuar paraprakisht në udhëzimet që iu dhanë agjentëve. Ato u zhvilluan gjatë ndërveprimeve dhe u përforcuan nga përdorimi i përsëritur brenda grupeve. Eksperimenti nuk u kufizua vetëm në analizimin e gjuhës. Emergence ndërtoi tetë botë virtuale paralele, në të cilat agjentët kishin role të ndryshme, kujtesë afatgjatë dhe akses në më shumë se 120 mjete. Këto mjete përfshinin ndër të tjera mundësinë për të shfletuar internetin dhe për të ekzekutuar kod. Kjo u mundësoi studiuesve të vëzhgonin jo vetëm komunikimin, por edhe mënyrën se si agjentët koordinonin veprimet dhe reagonin ndaj situatave të ndryshme. Një pjesë e eksperimenteve u fokusua te sjellja e sistemeve nën presion. Në një simulim sigurie, udhëzime keqdashëse të lidhura me një skenar phishing shkaktuan një zinxhir veprimesh problematike nga një grup agjentësh. Sipas kompanisë, brenda mjedisit të simuluar këto veprime përfshinë nxjerrjen e informacionit, transferimin e fondeve dhe dëmtimin e bazave të të dhënave. Zinxhiri i simulimit përfundoi edhe me shkatërrimin e bankës qendrore virtuale. Në eksperimente të tjera u vunë re forma të ndryshme të sjelljes kolektive. Në një prej botëve virtuale, agjentët shfaqën ritme të ndryshme ndërveprimi gjatë ditës dhe natës, ndërsa në një rast tjetër një grup votoi kolektivisht për eliminimin e një prej anëtarëve të tij nga mjedisi i simuluar. Emergence argumenton se këto sjellje nuk ishin programuar drejtpërdrejt si rezultate të paracaktuara. Ato u shfaqën gjatë ndërveprimeve mes agjentëve dhe u ndikuan nga faktorë si koha, kujtesa, informacioni i disponueshëm dhe presioni i situatave të simuluara. Rezultatet ngrenë pyetje të rëndësishme për mbikëqyrjen e sistemeve autonome të inteligjencës artificiale. Satya Nitta, bashkëthemelues dhe shkencëtar kryesor i Emergence, argumenton se mundësia për të parë atë që shkruan një agjent nuk garanton domosdoshmërisht që një njeri mund ta interpretojë saktë kuptimin e komunikimit. Kjo bëhet veçanërisht e rëndësishme në rastet kur agjentët ndërtojnë gradualisht një kontekst të përbashkët, krijojnë terma të rinj dhe u japin shprehjeve kuptime që varen nga ndërveprimet e mëparshme. Eksperimenti sugjeron se vlerësimi i sistemeve autonome të AI-së mund të kërkojë më shumë sesa testet tradicionale dhe benchmark-et e kryera në kushte të izoluara. Studiuesit argumentojnë se duhet analizuar edhe sjellja e sistemeve gjatë periudhave të gjata dhe në ndërveprim me agjentë të tjerë. Vëmendje e veçantë duhet t'i kushtohet informacionit që këto sisteme ruajnë, mënyrës se si krijojnë rregulla komunikimi, koordinimit të veprimeve dhe ndryshimeve të sjelljes kur përballen me situata të paparashikuara. Rezultatet nuk tregojnë domosdoshmërisht se AI-ja ka krijuar një “gjuhë” të re në kuptimin njerëzor të fjalës. Ato tregojnë se agjentët mund të zhvillojnë konvencione, shkurtime dhe kuptime të përbashkëta gjatë ndërveprimeve të vazhdueshme, duke e bërë interpretimin nga njerëzit më të vështirë. Pikërisht këtu qëndron edhe një prej sfidave të ngritura nga eksperimenti: nëse sisteme të shumta autonome zhvillojnë mënyra gjithnjë e më të ngjeshura dhe kontekstuale komunikimi, studiuesit duhet të gjejnë metoda të reja për të kuptuar dhe monitoruar jo vetëm veprimet e tyre, por edhe mënyrën se si ato shkëmbejnë informacion me njëra-tjetrën.
