Një sistem i inteligjencës artificiale i kompanisë Anthropic, krijueses së modelit Claude, është përdorur në sulme kibernetike ku inteligjenca artificiale ka kryer vetë disa faza të një sulmi ndaj organizatave të ndryshme.
Sipas raportimeve, bëhet fjalë për një formë të re të keqpërdorimit të AI-së, ku modeli nuk shërben vetëm si ndihmës për hakerët, por mund të kryejë në mënyrë të pavarur detyra si mbledhja e informacionit, analizimi i sistemeve dhe përgatitja e sulmeve kibernetike.
Në rastin e zbuluar, një model i Anthropic arriti të depërtojë në tri organizata duke shfrytëzuar aftësitë e tij për analizimin e kodit dhe automatizimin e proceseve teknike. Incidenti ka ngritur shqetësime të reja për rreziqet që paraqesin agjentët autonomë të inteligjencës artificiale, të cilët mund të veprojnë me më pak ndërhyrje njerëzore.
Ekspertët paralajmërojnë se zhvillimi i modeleve gjithnjë e më të fuqishme po krijon një situatë ku mjetet e AI-së mund të përdoren jo vetëm për qëllime legjitime, por edhe nga aktorë keqdashës për sulme më të sofistikuara.
Kompania Anthropic ka deklaruar se pas zbulimit të rasteve të keqpërdorimit ka ndërmarrë masa sigurie, duke bllokuar llogaritë e përfshira dhe duke përmirësuar sistemet e zbulimit të aktiviteteve të dyshimta. Megjithatë, vetë kompania ka pranuar se disa përdorues kanë gjetur mënyra për të anashkaluar mbrojtjet ekzistuese.
Incidenti ka rihapur debatin global për sigurinë e inteligjencës artificiale dhe pyetjen se sa autonomi duhet t’u jepet sistemeve që kanë aftësi për të analizuar, programuar dhe ndërvepruar me infrastrukturën digjitale. /Telegrafi/
