Kaspersky şirkətinin mütəxəssisləri tərəfindən aşkar edilmiş fişinq və fırıldaq resursları təhlil edilib və böyük dil modellərinin (LLM) saxta səhifələrdə hansı artefaktları buraxa biləcəyi öyrənilib. Söhbət neyron şəbəkələrə əsaslanan vasitələrdən istifadə edərək fırıldaqçılar tərəfindən saxta resursun yaradıldığını göstərən əlamətlərdən gedir. Kibertəhlükəsizlik üzrə ekspertlər qeyd edirlər ki, bu cür markerlərin mövcudluğu bir tərəfdən LLM həllərinin qoruyucu mexanizmlərinin inkişafı, digər tərəfdən isə təcavüzkarların fişinq saytlarının yaradılması prosesini avtomatlaşdırması və texniki bacarıqlarının aşağı səviyyəsi ilə izah oluna bilər.
Mətnlərdəki tələbləri yerinə yetirməkdən imtina. Saxta mənbələrdə dil modelinin müəyyən bir sorğunu yerinə yetirməyə hazır olmadığını bildirən ifadələr tapmaq mümkündür. Bu, təcavüzkarlar tərəfindən istifadə edilən LLM-nin ən parlaq əlamətlərindən biridir. Belə ki, kriptovalyuta xidmətlərinin istifadəçilərinə yönəlmiş bir kampaniyanın bir hissəsi olaraq, neyron şəbəkə, çox güman ki, məşhur ticarət platformasından istifadə üçün saxta təlimatlar yaratmalı idi. Lakin model bu tapşırığı yerinə yetirə bilməyib və bunu saxta səhifədə dərc olunan mətndə bildirib: “I’m sorry, but as an AI language model, I cannot provide specific articles on demand” (“Üzr istəyirəm, lakin AI dil modeli olaraq tələb olunan spesifik məqalələri yaza bilmirəm”). Bununla belə, LLM bəzən “oxşar bir şey etməyi” təklif edir – bu, dərc edilmiş səhifələrdə də əks oluna bilər.
Müəyyən söz və ifadələrin mövcudluğu. Dil modelləri müəyyən sözlərə üstünlük verə bilər. Belə ki, “OpenAI” platformasından olan modellər tez-tez, məsələn, “delve” (bir şeyə dalmaq, dərinə getmək) sözündən istifadə edirlər. Bundan əlavə, neyron şəbəkələrə əsaslanan alətlər tez-tez mətnlərdə standart konstruksiyalardan istifadə edir, məsələn, in the ever-evolving/ ever-changing world/ landscape (daim dəyişən/inkişaf edən dünya/landşaftda). Bununla belə, bu cür söz və ya ifadələrin mövcudluğu mətnin neyron şəbəkələr tərəfindən yaradıldığı anlamına gəlmir.
Neyron şəbəkələrdən etiketlərdən istifadənin izləri. Artefaktlar təkcə mətnlərdə deyil, həm də meta-etiketlərdə – sayt haqqında məlumatları ehtiva edən xüsusi kod elementlərində qala bilər. Onlar həmçinin sorğuya və ya digər markerlərə cavab olaraq dil modelindən xarakterik üzrxahlıq ifadələrini ehtiva edə bilər. Məsələn, kriptovalyutaya həsr olunmuş saytı təqlid edən saxta resurslardan birinin xidmət etiketlərində LLM əsaslı saytların yaradılması üçün onlayn xidmətə keçid üçün linklər mövcud olub.
“Təcavüzkarlar müxtəlif avtomatlaşdırma ssenarilərində böyük dil modellərinin istifadəsini fəal şəkildə araşdırırlar. Ancaq görünən odur ki, bəzən səhvlərə yol verirlər. Bununla belə, saxta səhifənin müəyyən edilməsi üçün bu və ya digər “danışan sözlərin” olmasına əsaslanan yanaşma etibarsızdır. Odur ki, istifadəçilər internetdə olan istənilən məlumata tənqidi yanaşmalı və səhifədəki məntiqi səhvlər və yazı xətaları kimi şübhəli işarələrə diqqət yetirməlidirlər. Veb sayt ünvanının rəsmi ünvana uyğun olduğundan əmin olmaq vacibdir. Şübhəli mesajlar və məktublarda gələn linklərə keçid edilməməlidir. Bundan əlavə, təhlükəsizlik həlləri də kömək edə bilər – onlar fişinq və ya fırıldaq resursuna keçmək cəhdi barədə xəbərdar edəcəklər”, – Kaspersky-nin maşın öyrənməsi texnologiyaları üzrə tədqiqat və inkişaf qrupunun rəhbəri Vladislav Tuşkanov bildirir.
Araşdırma haqqında daha ətraflı “securelist”də oxuya bilərsiniz: https://securelist.ru/llm-phish-blunders/110922/.
Kaspersky həllərinin effektivliyi müntəzəm olaraq müstəqil sınaqlarla təsdiqlənir. 2023-cü il ərzində şirkətin məhsulları təhlükəsizlik texnologiyalarının 100 müstəqil sınağında 94 dəfə ilk üçlükdə yer alıb, o cümlədən 93 dəfə birinci yeri tutub.