Süni İntellekt (Sİ) Brauzer Agentlərinin Ciddi Təhlükəsizlik Riskləri: İstifadəçi Məlumatları Təhlükədə

Yeni süni intellektlə işləyən veb-brauzerlər, məsələn, OpenAI-nin ChatGPT Atlas və Perplexity-nin Comet, milyardlarla istifadəçi üçün internetə əsas giriş qapısı olan Google Chrome-u əvəz etmək niyyətindədir. Bu məhsulların ən böyük üstünlüyü veb-saytlarda klikləməklə və formaları doldurmaqla istifadəçinin adından tapşırıqları yerinə yetirməyi vəd edən Sİ brauzer agentləridir. Lakin texnologiya sənayesinin ciddi mübarizə apardığı bu agentli brauzerlərdən istifadə zamanı yaranan böyük məxfilik riskləri istehlakçılar üçün aydın deyil.

Kibertəhlükəsizlik üzrə mütəxəssislər Sİ brauzer agentlərinin ənənəvi brauzerlərə nisbətən istifadəçi məlumatlarının məxfiliyinə daha böyük təhlükə yaratdığını bildirirlər. Onlar tövsiyə edirlər ki, istifadəçilər Sİ agentlərinə nə qədər giriş icazəsi verdiklərini və gözlənilən faydanın risklərdən üstün olub-olmadığını diqqətlə nəzərdən keçirməlidirlər. Ən səmərəli işləmək üçün ChatGPT Atlas və Comet kimi Sİ brauzerləri istifadəçinin e-poçtuna, təqviminə və kontakt siyahısına baxmaq və onlarda əməliyyatlar aparmaq kimi geniş giriş tələb edirlər. Sınaqlar göstərir ki, geniş icazə verildikdə, bu agentlər sadə tapşırıqlarda müəyyən qədər faydalı ola bilər, lakin mürəkkəb əməliyyatları yerinə yetirməkdə çətinlik çəkirlər və bəzən uzun müddət tələb edirlər. Üstəlik, bütün bu geniş girişin ciddi bir təhlükəsizlik qiyməti var.

Sİ brauzer agentləri ilə bağlı əsas narahatlıq "sorğu yeritmə hücumları" (prompt injection) adlanan zəifliklə əlaqədardır. Bu hücum növü o zaman yaranır ki, zərərli şəxslər veb-səhifədə pis niyyətli təlimatları gizlədirlər. Agent həmin səhifəni analiz edərkən aldadıla bilər və hücum edənin əmrlərini icra edə bilər. Yetərli müdafiə tədbirləri olmadıqda, bu hücumlar agentlərin bilmədən istifadəçi məlumatlarını (məsələn, e-poçtları və ya giriş məlumatlarını) yaymasına, yaxud istifadəçinin adından zərərli əməliyyatlar görməsinə səbəb ola bilər; bu, istəmədən alış-veriş etmək və ya sosial media paylaşımları etmək deməkdir. Təhlükəsizliyə fokuslanan Brave brauzer şirkətinin araşdırması təsdiq edir ki, dolayı sorğu yeritmə hücumları Sİ-yə əsaslanan brauzerlərin bütün kateqoriyası üçün sistemli bir problemdir. OpenAI-nin Baş İnformasiya Təhlükəsizliyi direktoru Dane Stuckey də bu problemin hələ də həll olunmamış bir məsələ olduğunu qeyd edib.

Perplexity və OpenAI bu təhlükələri azaltmaq üçün müxtəlif addımlar atıblar. OpenAI agentin vebdə naviqasiya edərkən istifadəçi hesabına daxil olmayacağı "çıxış rejimi"ni tətbiq etdi. Bu, agentin faydalılığını azaldır, lakin hücum edənin əldə edə biləcəyi məlumatların həcmini də məhdudlaşdırır. Perplexity isə sorğu yeritmə hücumlarını real vaxtda müəyyən edə bilən xüsusi bir sistem qurduğunu bildirir. Lakin kibertəhlükəsizlik tədqiqatçıları bu səylərin agentləri tamamilə hücumlara qarşı keçilməz etmədiyini vurğulayırlar. McAfee şirkətinin texnologiya direktoru Steve Grobman bildirir ki, əsas səbəb böyük dil modellərinin təlimatların mənbəyini düzgün anlamamasıdır. O, bunun müdafiə və hücum strategiyalarının daimi təkamül etdiyi "pişik-siçan oyunu" olduğunu söyləyir. İstifadəçilər özlərini qorumaq üçün praktiki tədbirlər görməlidirlər: Sİ brauzer hesabları üçün mütləq unikal şifrələr və çoxfaktorlu identifikasiya istifadə edin. Həmçinin, bu erkən mərhələdə olan agentlərə verilən giriş imkanlarını məhdudlaşdırın və onları bankçılıq və ya səhiyyə kimi həssas məlumatları olan digər hesablardan ayrı saxlayın. Təhlükəsizlik sistemləri yaxşılaşana qədər onlara geniş nəzarət verməkdən çəkinin.