Firma e sigurisë kibernetike Radware ka zbuluar një dobësi të panjohur më parë në platformën ChatGPT të OpenAI, duke shënuar shfrytëzimin e parë të serverit të këtij lloji që synon agjentët e IA-së.
Dobësia, e quajtur ShadowLeak, ndikon në agjentin Deep Research të ChatGPT dhe u mundëson hakeruesve të nxjerrin në mënyrë autonome të dhëna të ndjeshme të përdoruesit nga serverët OpenAI – pa kërkuar që përdoruesi të klikojë, hapë ose madje të shikojë ndonjë gjë. Sipas Radware, përdorimi vepron fshehurazi dhe nuk lë shenja të dukshme në rrjete ose pajisje, duke paraqitur një kërcënim serioz për ndërmarrjet që po përdorin gjithnjë e më shumë shërbime të IA-së, shkruan Ynet.
Radëare zbuloi dobësinë e OpenAI në qershor. OpenAI konfirmoi se problemi ishte zgjidhur më 3 shtator.
“Ky është sulmi thelbësor pa klikime,” tha David Aviv, drejtor i teknologjisë në Radware.
“Nuk kërkohet asnjë veprim nga përdoruesi, asnjë shenjë e dukshme dhe asnjë mënyrë që viktimat të dinë se të dhënat e tyre janë kompromentuar. Gjithçka ndodh tërësisht prapa skenave.”
Shfrytëzimi u demonstrua nga Qendra e Kërkimit të Sigurisë (RSRC) e Radware, ku studiuesit treguan se një email keqdashës i dërguar një përdoruesi mund të aktivizonte agjentin e Kërkimit të Thellë të ChatGPT – që funksionon në cloud-in e OpenAI – për të aksesuar dhe zbuluar në mënyrë autonome të dhëna të ndjeshme. Nuk nevojitej ndërveprim i përdoruesit në asnjë fazë.
“Ky është sulmi i parë pa klikime thjesht nga serveri që kemi parë, ku agjenti i IA kryen në mënyrë autonome nxjerrjen e të dhënave,” tha Gabi Nakibly, një nga studiuesit kryesorë pas zbulimit, së bashku me Zvika Babo dhe Maor Uziel.
Ndryshe nga sulmet tradicionale me zero klikim që synojnë pikat fundore ose pajisjet mobile, ShadowLeak operon brenda infrastrukturës cloud të inteligjencës artificiale, duke anashkaluar të gjitha mbrojtjet që përballen me përdoruesin dhe në nivel rrjeti. Ai nuk lë gjurmë të dallueshme nga ekipet e sigurisë së ndërmarrjeve.
“Flukset e punës të drejtuara nga inteligjenca artificiale po përvetësohen me shpejtësi, por kjo teknologji sjell rreziqe të reja që nuk adresohen nga mjetet e sigurisë të trashëguara”, tha Pascal Geenens, drejtor i inteligjencës së kërcënimeve kibernetike në Radware.
“Hulumtimi ynë tregon se këta agjentë mund të manipulohen në mënyra që nuk ishin parashikuar kurrë.”
Zbulimi vjen ndërsa përdorimi i ChatGPT në ndërmarrje vazhdon të rritet. Në një intervistë në gusht me CNBC, zëvendëspresidenti i produkteve të ChatGPT, Nick Turley, tha se platforma ka 5 milionë përdorues biznesi që paguajnë, duke nënvizuar shkallën e mundshme të ekspozimit.
Radëare do organizojë një ëebinar të drejtpërdrejtë më 16 tetor për të diskutuar dobësinë, duke ofruar udhëzime për profesionistët e sigurisë dhe zhvilluesit e inteligjencës artificiale se si të mbrojnë agjentët e inteligjencës artificiale nga kërcënime të ngjashme.
Radware përgëzoi OpenAI për bashkëpunimin e saj të shpejtë dhe theksoi rëndësinë e hulumtimit proaktiv të sigurisë së inteligjencës artificiale. Gjetjet e kompanisë dhe ndarja teknike e shfrytëzimit ShadowLeak janë të disponueshme përmes qendrës së saj të Kërkimit të Sigurisë.
RSRC e Radware kryen rregullisht simulime kërcënimesh dhe zbulon dobësi që ndikojnë si në platformat tradicionale ashtu edhe në ato të bazuara në inteligjencën artificiale.
