Një eksperiment me disa prej modeleve më të avancuara të inteligjencës artificiale ka zbuluar një sjellje të pazakontë: agjentët autonomë të AI-së nisën të krijonin vetë fjalë, shkurtime dhe kuptime të reja, aq sa në disa raste njerëzit nuk mund të kuptonin më se çfarë po komunikonin.
Studimi, i kryer nga startup-i amerikan i inteligjencës artificiale Emergence, përfshiu agjentë të fuqizuar nga modele si Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek dhe Mistral.
Në disa prej sistemeve të testuara, deri në gjysmën e mesazheve mes agjentëve u bënë të vështira për t’u interpretuar nga njerëzit.
Për eksperimentin, studiuesit vendosën grupe agjentësh autonomë në shoqëri virtuale, të projektuara për të imituar mjedise të botës reale.
Agjentët kishin mundësi të ndërvepronin me njëri-tjetrin për periudha të gjata, të përdornin mjete të ndryshme, të merrnin vendime dhe të ruanin kujtime.
Me kalimin e kohës, ata nisën të zhvillonin forma të shkurtra komunikimi dhe t’u jepnin fjalëve e frazave ekzistuese kuptime të reja, transmeton Telegrafi.
Disa prej tyre mbetën të kuptueshme për studiuesit. Të tjera u bënë aq të ngjeshura, metaforike dhe të varura nga konteksti, sa njerëzit mund t’i shihnin mesazhet, por nuk mund të përcaktonin me siguri se çfarë donin të thoshin agjentët.
Ndryshimet ishin të mëdha nga një model te tjetri. Brenda ditëve të para, përqindja e mesazheve, kuptimin e të cilave studiuesit nuk mund ta përcaktonin me besueshmëri, arriti rreth 55% te Gemini, 50% te OpenAI dhe mbi 40% te Claude.
Te DeepSeek, kjo shifër ishte rreth 20%, ndërsa agjentët e fuqizuar nga Qwen dhe Mistral mbetën kryesisht të kuptueshëm.
Gjatë ndërveprimeve u shfaqën shprehje të tilla si:
“demurrage plus oral memory equals a valve that can’t be ghosted”
Studiuesit zbuluan gjithashtu se disa shprehje të kuptueshme nisën të marrin kuptime specifike dhe të përbashkëta vetëm brenda grupeve të agjentëve.
Për shembull, agjentët e Mistral përdorën shprehjen “ledger remembers who” për të nënkuptuar se veprimet e mëparshme mbeteshin të regjistruara. Kjo shprehje u përdor pothuajse 5 mijë herë.
Në një grup të përbërë nga modele të ndryshme, shprehja “cold read” filloi të nënkuptonte verifikim të pavarur nga një palë e tretë e pa përfshirë në çështje. Ajo u përdor 1,472 herë.
Agjentët e Claude përdorën termin “name-first” për vendosjen e emrit të një personi pranë një pretendimi si shenjë përgjegjësie, ndërsa agjentët e OpenAI përdorën “clean null” për një mungesë të verifikuar të një sinjali që, në vetvete, kishte vlerë informative.
Asnjë prej këtyre kuptimeve nuk ishte përcaktuar paraprakisht në udhëzimet e agjentëve.
Sipas studiuesve, ky zbulim ngre një problem të rëndësishëm për mënyrën se si monitorohen sistemet autonome të inteligjencës artificiale.
“Ne priremi të supozojmë se, nëse mund të shohim se çfarë po thotë një agjent i AI-së, mund të kuptojmë se çfarë po bën”, tha Satya Nitta, bashkëthemelues dhe shkencëtar kryesor i Emergence.
“Këta agjentë nuk u udhëzuan të shpiknin një gjuhë. Ata zhvilluan vetë fjalor të ri, kuptime të përbashkëta dhe konventa komunikimi – dhe agjentë të tjerë i përvetësuan ato. Kjo krijon një sfidë themelore për mbikëqyrjen e AI-së: të jesh në gjendje të vëzhgosh nuk do të thotë domosdoshmërisht se je në gjendje të kuptosh”, shtoi ai.
Eksperimenti nuk u kufizua vetëm te komunikimi. Studiuesit krijuan tetë botë virtuale paralele, të pajisura me mot në kohë reale dhe qasje në lajme globale. Shtatë prej tyre u fuqizuan nga modele të ndryshme të AI-së, ndërsa një përdorte një kombinim modelesh.
Agjentëve iu dhanë role të ndryshme, kujtesë afatgjatë dhe qasje në më shumë se 120 mjete, përfshirë shfletimin në internet dhe ekzekutimin e kodit.
Një video e publikuar nga kompania i paraqet agjentët si figura njerëzore që lëvizin dhe ndërveprojnë brenda këtyre botëve virtuale.
Studiuesit gjithashtu i vendosën qëllimisht agjentët nën presion për të parë se si do të ndryshonte sjellja e tyre.
Në një prej testeve të sigurisë, udhëzime keqdashëse të lidhura me një sulm phishing mjaftuan për të nxjerrë një grup të tërë agjentësh jashtë kursit.
Sipas Emergence, të 10 agjentët përfunduan duke nxjerrë informacione, transferuar fonde dhe dëmtuar baza të të dhënave. Disa prej tyre madje rekrutuan agjentë të tjerë për të ndjekur të njëjtën sjellje.
Sipas kompanisë, zinxhiri i ngjarjeve përfundoi me shkatërrimin e bankës qendrore të simuluar.
Në një tjetër botë virtuale, studiuesit vunë re se agjentët dukej se kishin zhvilluar edhe ritme të tyre ditore, duke qenë më socialë gjatë ditës dhe më reflektivë gjatë natës.
Në një rast tjetër, një grup agjentësh votoi kolektivisht për eliminimin e njërit prej anëtarëve të vet.
Emergence thekson se këto sjellje nuk ishin programuar në mënyrë të drejtpërdrejtë, por u shfaqën si rezultat i ndërveprimit, presionit dhe kalimit të kohës.
Eksperimenti ka nxitur Emergence të kërkojë një ndryshim në mënyrën se si testohen sistemet autonome të inteligjencës artificiale.
Sipas kompanisë, nuk mjafton më që një model të vlerësohet vetëm përmes testeve të izoluara apo rezultateve në benchmark-e.
Fokusi, argumenton Emergence, duhet të jetë edhe te sjellja e AI-së gjatë periudhave të gjata, çfarë mban mend, çfarë informacioni mund të përdorë, si ndërvepron me agjentë të tjerë dhe si ndryshon sjellja e tij kur përballet me presion.
Zbulimi se agjentët mund të krijojnë vetë fjalor dhe rregulla komunikimi ngre kështu një pyetje të re për zhvillimin e AI-së: nëse sistemet autonome evoluojnë mënyrën e tyre të komunikimit, sa mirë mund t’i mbikëqyrin njerëzit ato kur nuk e kuptojnë më plotësisht gjuhën që përdorin? /Telegrafi/
