Korporativ kibertəhlükəsizlik sahəsində süni intellekt silahlanma yarışına xoş gəlmisiniz: Kim qalib gəlir?

Kibertəhlükəsizlik Maarifləndirmə Ayı oktyabr ayının digər əlamətləri - yanmış yarpaqlara baxmaq və ya Halloween konfetlərini yemək kimi cəlbedici olmaya bilər, lakin bu, korporativ liderləri və istehlakçıları kibertəhlükəsizliyə yanaşmalarını yenidən qiymətləndirmək kimi vacib bir rituala qoşulmağa sövq edə bilər.

Və ötən il ərzində düşünüləsi çox şey var. Xüsusilə şirkətlər bu ay (və hər ay) özlərinə sual verməlidirlər: Onlayn təhdid mənzərəsi necə dəyişib? Və biznesinizin təhlükəsizlik təcrübələri bu dəyişikliklərə uyğunlaşmaq üçün kifayət qədər iş görürmü?

Süni intellekt, şübhəsiz ki, bu ilin ən böyük oyun dəyişdiricisi olub. ChatGPT kimi böyük dil modelləri (LLM) daxil olmaqla, süni intellekt alətləri hücumçuların qabiliyyətlərini gücləndirib. Bu arada, getdikcə daha çox şirkət süni intellektdən gündəlik işlərinə istifadə edir və kibertəhlükəsizlik mütəxəssislərini bunu necə edəcəyinə dair çox da təcrübə olmadan yeni sərhədləri qorumağa sövq edir. Bu arada, istehlakçılar sürətlə dəyişən süni intellekt mühitinin ortasında qalırlar.

Bu ilki Las Vegasda keçirilən Qara Papaq Konfransında iştirak edən 20.000 iştirakçının çoxunun ağlında məhz bu dinamika var idi. Biznes zalındakı sulu kabinələrdən tutmuş danışıqlarda təqdim olunan qabaqcıl tədqiqatlara və aralarındakı sakit söhbətlərə qədər süni intellekt söhbətdə üstünlük təşkil edirdi.

Tədbirin açılış nitqində uzun müddət kibertəhlükəsizlik üzrə tədqiqatçı olmuş Mikko Hyppönen süni intellekt (Sİ)-i həyatında gördüyü "ən böyük texniki inqilab" adlandırdı və qeyd etdi ki, LLM-lərdən istifadə edən tədqiqatçılar artıq bir neçə düzünə sıfır gün kəşf ediblər - bu, proqram təminatında və ya kodda aşkarlanmamış zəiflik üçün sənaye terminidir.

“Tədqiqatçılar süni intellektdə təhlükəsizlik zəiflikləri aşkar etdikdə, bu, əladır, çünki biz onları düzəldə bilərik”, - Hippönen bildirib. "Hücumçular da eyni şeyi edəndə, bu, dəhşətlidir." Bu da baş verəcək.

Onlayn fırıldaqçılar artıq daha inandırıcı və hədəflənmiş fişinq e-poçtları yazmaq üçün LLM-lərdən istifadə edirlər və bunu süni intellekt alətləri olmadan edə biləcəklərindən daha böyük miqyasda edirlər.

Texnologiya sahəsində ən az təcrübəsi olan bir insanın belə fırıldaqçı kimi qəbul edə biləcəyi zəif yazılmış ümumi elektron poçtların günləri geridə qalıb. İngilis dilində danışmayan fırıldaqçılar artıq mesajlarını LLM-lərlə cilalamaqda peşəkardırlar.

Hətta xaricdə xidmət edən tənha əsgərlər kimi davranan, həqiqətə uyğun olmayan bir iş fürsəti (əslində belədir) ortaya atan fırıldaqçılar belə, süni intellekt tərəfindən əldə edilən şəxsi məlumatları bu mesajları daha inandırıcı etmək üçün istifadə edirlər.

Onlar həmçinin elektron poçtdan kənara çıxaraq, artıq yaxşı hazırlanmış ünsiyyətlərini sosial media, mesajlar və hətta telefon zəngləri vasitəsilə çatdırırlar.

Eyni zamanda, audio və ya video deepfake ehtiva edən fırıldaqçılıq mesajlarında artım müşahidə olunub. Keçən il Honkonqda bir işçi, baş maliyyə direktoru da daxil olmaqla, çoxmillətli şirkətinin rəsmiləri ilə video zəngə imza atdıqdan sonra fırıldaqçılara 25 milyon dollar ödəməyə məcbur edildi. Lakin məlum oldu ki, zəngdə olan digər şəxslər həmin insanların canlı video saxta reproduksiyaları imiş.

İstehlakçılar həmçinin audio dərin saxtakarlıq fırıldaqlarının hədəfinə çevriliblər. Məhz burada kibercinayətkarlar süni intellektdən istifadə edərək insanların, adətən daha gənc insanların səslərini saxtalaşdırır, sonra isə təqlid edilmiş səsdən istifadə edərək ailə üzvlərinə zəng edərək qaçırıldığını və ya həbsdə olduqlarını söyləyərək onlardan pul qoparırlar.

Bütün bunlar şirkətləri və istehlakçıları başa düşülən şəkildə qorxudur. Mastercard üçün aparılan bu yaxınlarda aparılan bir araşdırma , ABŞ-da təxminən 1000 istehlakçı da daxil olmaqla, dünyada təxminən 13.000 istehlakçı arasında sorğu keçirib və süni intellekt tərəfindən yaradılan saxta məzmunun istehlakçılar üçün fırıldaqçılıqla əlaqəli gələcəkdə 1 nömrəli narahatlıq doğurduğunu müəyyən edib. Lakin sorğuda iştirak edənlərin yalnız 13%-i süni intellekt tərəfindən yaradılan təhdidləri və ya fırıldaqları hədəf aldıqları təqdirdə müəyyən etmək qabiliyyətlərinə çox əmin olduqlarını bildiriblər.

Sorğuda iştirak edənlərin böyük əksəriyyəti süni intellekt sistemlərindən daha mürəkkəb hücumların haker hücumlarına çevrilməsi, avtomatlaşdırılmış genişmiqyaslı kiberhücumlar və süni intellekt tərəfindən yaradılan daha inandırıcı fişinq e-poçtları ilə bağlı narahatlıqlarını xüsusi olaraq qeyd ediblər.

Narahat istehlakçılar onlara xidmət göstərən şirkətlər üçün böyük problemlər yarada bilər. İstehlakçılar qanuni bir şirkətlə işlədiklərinə və ya şəxsi məlumatlarının təhlükəsiz olduğuna inana bilmirlərsə, işlərini başqa yerə aparmağı seçə bilərlər.  

İndilik, heç olmasa, müdafiəçilərin üstünlüyü olduğu görünür. Kibertəhlükəsizlik şirkətləri biznes müştərilərinin sistemlərində yeni süni intellekt elementlərini təmin etməklə yanaşı, onlayn təhdidlərin qarşısını daha sürətli və daha səmərəli şəkildə almaq məqsədi ilə süni intellektləri öz məhsullarına daxil edirlər.

Bu arada, fırıldaqçılar və digər kibercinayətkarlar hələ də eyni şəkildə yenilik etmək üçün kifayət qədər stimula malik deyillər. Mütəxəssislər daha sürətli işləmək və daha böyük işlər görmək üçün süni intellekt vasitələrindən istifadə etsələr də, əsasən eyni köhnə fırıldaqçılığın təkmilləşdirilmiş versiyalarından istifadə etdiklərini deyirlər.

Keçmiş kibertəhlükəsizlik jurnalisti, hazırda Ballistic Ventures şirkətində vençur tərəfdaşı kimi çalışan və özünün kiber missiya fondu Silver Buckshot-a rəhbərlik edən Nikol Perlrot, Black Hat adlı əsas çıxışında kibertəhlükəsizlikdə gördüyü yeni və inkişaf etməkdə olan texnologiyalardan ruhlandığını söylədi.

O, bazara çıxan yeni süni intellektlə işləyən dərin saxtakarlıq aşkarlama texnologiyalarına işarə edərək qeyd etdi ki, süni intellekt kibertəhlükəsizlik məhsul və xidmətlərinin "demokratikləşdirilməsinə" kömək edib və onları əvvəllər bu məhsullara imkanı olmayan kiçik şirkətlər üçün daha əlçatan edib.

Hyppönen qeyd etdi ki, dərin saxta fırıldaqçılıq halları hazırda çox nadirdir, lakin əlavə etdi ki, süni intellekt texnologiyaları daha da yaxşılaşdıqca və ucuzlaşdıqca hər cür onlayn fırıldaqçılığın, o cümlədən ransomware-in daha da pisləşəcəyini gözləyir.

Xoş xəbər budur ki, müdafiəçilər süni intellekt baxımından öndədirlər.

"Hücumçular da süni intellektdən istifadə edirlər, amma onlar hələ yeni başlayırlar", - deyə o bildirib. “İndiyə qədər süni intellektlə yalnız kifayət qədər sadə hücumlar görmüşük.” Dəyişəcək, amma hazırda deyərdim ki, biz hazırıq.