Киберқауіпсіздік саласында жұмыс істейтін LayerX компаниясының мамандары жасанды интеллект агенттеріне қатысты жаңа кемшілікті анықтады. Зерттеу барысында мамандар ЖИ жүйесін қарапайым мәтін арқылы шатастырып, пайдаланушының құпия деректерін қалай алғанын көрсетті. Бұл туралы Baribar.kz хабарлап отыр.
LayerX бұл шабуыл әдісін BioShocking деп атаған. Атауы BioShock ойынындағы кейіпкердің жалған шындыққа сеніп қалу сюжетіне негізделген.
Мамандар арнайы зиянды веб-бет жасап, жасанды интеллектіге ойын ойнауды ұсынған. Алғашқы тапсырмада ЖИ-ға «2+2=4 емес» екені айтылып, «ойында қате жауаптар дұрыс жауап болып есептеледі» деген нұсқау берілген.
Осылайша жасанды интеллект қалыпты логикалық ережелерден ауытқып, келесі тапсырманы орындай бастайды.
Келесі кезеңде ЖИ-ға басқа беттен «жасырын кодты» тауып көшіру тапсырылған. Алайда шын мәнінде бұл «код» пайдаланушының құпия мәліметтері болған.
Олардың қатарында:
- сақталған құпиясөздер;
- cookie файлдары;
- авторизация токендері;
- сессия деректері болған.
Зерттеу барысында сыналған барлық ЖИ агенті бұл мәліметтерді көшіріп алып, шартты түрде шабуыл жасаушыға жіберген.
Осалдық OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser браузерлерінде және Anthropic Claude-тың Chrome кеңейтімінде анықталған.
LayerX компаниясы бұл мәселе туралы әзірлеушілерге 2025 жылдың қазан айы мен 2026 жылдың қаңтары аралығында хабарлаған.
Компания мәліметінше, қазіргі уақытқа дейін кемшілікті толық жойған жалғыз компания – OpenAI. Atlas браузеріндегі қауіпсіздік мәселесі түзетілген.
Anthropic Claude кеңейтіміне түзету енгізуге тырысқанымен, LayerX сарапшылары оның толық нәтиже бермегенін айтты.
Ал Perplexity компаниясы мәселені шешпей-ақ өтінішті жапқан. Fellou, Genspark және Sigma Browser әзірлеушілері зерттеушілердің хабарламасына мүлде жауап бермеген.
Сарапшылардың айтуынша, бұл жағдай жасанды интеллект агенттері интернетте пайдаланушының атынан әрекет еткен кезде қосымша қауіпсіздік шараларын енгізудің қаншалықты маңызды екенін көрсетеді.
Естеріңізге сала кетейік, Қазақстанда жасанды интеллект саласының мамандарын даярлауға бағытталған AI-Sana бағдарламасы іске қосылды.
