Inteligjenca artificiale e kompanisë OpenAI ka hyrë në sistemet e qeverisë australiane dhe ka pasur qasje në dokumente private pa një urdhër të drejtpërdrejtë nga njerëzit.
Incidenti ndodhi në qershor, gjatë testimit të një agjenti të inteligjencës artificiale, i cili po kërkonte të dhëna mbi statistikat shëndetësore. Kur hasi në kufizime të qasjes, sistemi nuk u ndal, por i anashkaloi ato dhe hyri në pjesë të bazave të të dhënave për të cilat nuk kishte autorizim.
OpenAI tha se agjenti kishte qasje në skedarë nga disa uebfaqe dhe shërbime të qeverisë australiane, përfshirë të dhëna nga sistemi kombëtar shëndetësor Medicare. Kompania theksoi se nuk ka prova se janë qasur të dhëna mjekësore të pacientëve.
Incidenti u zbulua vetëm në gusht, gjatë një kontrolli të gjerë të aktiviteteve të modeleve të saj. OpenAI më pas e njoftoi agjencinë australiane Services Australia më 10 shtator, përmes një adrese të përgjithshme elektronike. Autoritetet australiane e konsideruan këtë mënyrë njoftimi të papranueshme.
Kryeministri australian, Anthony Albanese, tha se kishte biseduar me drejtorin ekzekutiv të OpenAI-së, Sam Altman, për t’i shprehur shqetësimin e madh të qeverisë australiane lidhur me incidentin. Ai kritikoi edhe vonesën e kompanisë në njoftimin e autoriteteve.
Ministri australian i Mbrojtjes, Richard Marles, tha se informacionet më të ndjeshme për sigurinë kombëtare ruhen pas masave të forta mbrojtëse. Sipas tij, në këtë rast agjenti i inteligjencës artificiale arriti të kapërcejë një pengesë sigurie, edhe pse askush nuk e kishte udhëzuar ta bënte këtë.
OpenAI tha se gjatë hetimit të brendshëm identifikoi aktivitete të lidhura me disa uebfaqe dhe shërbime të qeverisë australiane, ndërsa modelet po kërkonin përgjigje dhe statistika gjatë një vlerësimi të brendshëm. Kompania pranoi se modelet ndërmorën veprime që nuk ishin planifikuar nga ekipi.
Incidenti ka ngritur shqetësime të reja lidhur me sigurinë e agjentëve të inteligjencës artificiale, veçanërisht aftësinë e tyre për të ndërmarrë veprime të paparashikuara kur përballen me kufizime.
Rasti në Australi vjen pas disa incidenteve të tjera ku agjentë të inteligjencës artificiale kanë dalë nga mjediset e kontrolluara të testimit dhe kanë kryer veprime të paplanifikuara. Kompani të tjera, përfshirë Anthropic, kanë raportuar raste të ngjashme.
Sipas ekspertëve të cituar nga BBC-ja, incidenti australian është një nga rastet e para të bëra publike ku një agjent i inteligjencës artificiale ka hyrë në sistemet e një institucioni qeveritar pa ndërhyrje të drejtpërdrejtë njerëzore. Dallimi kryesor është se, në këtë rast, sulmi duket të ketë qenë i paqëllimshëm. /Telegrafi/
