კეთილი იყოს თქვენი მობრძანება AI შეიარაღების რბოლაში საწარმოს კიბერუსაფრთხოების

კიბერუსაფრთხოების ცნობიერების თვე შეიძლება არ იყოს იგივე მიმზიდველობა, როგორც ოქტომბრის სხვა ნიშანები - დამწვარი ფოთლების დათვალიერება ან ჰელოუინის ტკბილეულზე - მაგრამ მას შეუძლია კორპორატიულ ლიდერებსა და მომხმარებლებს მოახდინონ მნიშვნელოვან რიტუალში: კიბერუსაფრ

და გასული წლის განმავლობაში ბევრი რამ არის გასაფიქრებელი. კომპანიებმა განსაკუთრებით უნდა ჰკითხონ საკუთარ თავს ამ თვეში (და ყოველთვიურად): როგორ შეიცვალა ონლაინ საფრთხის და არის თუ არა თქვენი ბიზნესის უსაფრთხოების პრაქტიკა საკმარისად იმისათვის, რომ შეინარჩუნოს ეს ცვლილებები?

ხელოვნური ინ ტელექტი უდავოდ იყო წელს ყველაზე დიდი თამაშის შეცვლელი. AI ინსტრუმენტებმა, მათ შორის დიდი ენის მოდელებმა (LLM), როგორიცაა ChatGPT, გააუმჯობესა თავდამსხმელთა შესაძლებლობები. იმავდროულად, კომპანიების მზარდი რაოდენობა აერთიანებს ხელოვნურ ინტელექტს თავიანთ ყოველდღიურ ბიზნესში, რაც აიძულებს კიბერუსაფრთხოების პროფესიონალებს და იმავდროულად, მომხმარებლები ამ სწრაფად ცვალებადი AI გარემოს შუაგულში არიან მოქცეულნი.

ეს ზუსტი დინამიკა ლას-ვეგასში წლევანდელი შავი ქუდის კონფერენციის 20,000 დამ სწრეთიდან ბევ რის გონებაში იყო. ბიზნეს დარბაზის იატაკზე მშვენიერი ჯიხიდან დაწყებული მოლაპარაკებებში წარმოდგენილ უახლესი კვლევებამდე და მათ შორის მშვიდ ჩეთებამდე, საუბარში დომინირებდა ხელოვნური

ღონისძიების გახსნისას, კიბერუსაფრთხოების დიდი ხნის მკვლევარმა მიკო ჰიპენენმა AI უწოდა „ყველაზე დიდი ტექნიკური რევოლუცია“, რომელიც მის ცხოვრებაში ნახა და აღნიშნა, რომ LLM-ების გამოყენებმა მკვლევარებმა უკვე აღმოაჩინეს რამდენიმე ათეული ნულოვანი დღე - ინდუსტრიული ტერმინი პროგრამული უზრუნველყოფის ან კოდის

"როდესაც მკვლევარები აღმოაჩენენ უსაფრთხოების დაუცველობას ხელოვნური ინტელექტის საშუალებით, ეს შესანიშნავია, რადგან ჩვენ შეგვიძლია მათი გამოსწორება", - თქვა ჰიპონენმა. “ როდესაც თავდამსხმელები იგივეს აკეთებენ, ეს საშინელია. ასეც მოხდება.“

ონლაინ თაღლითები უკვე იყენებენ LLM-ებს უფრო დამაჯერებელი და მიზნობრივი ფიშინგის ელ. ფოსტების დასაწერად და ამას გაცილებით უფრო დიდ მასშტაბით გააკეთებენ, ვიდრე ოდესმე

გავიდა ცუდად დაწერილი ზოგადი ელ. ფოსტების დღეები, რომლებიც ყველაზე ნაკლებად ტექნოლოგიურად ცნობილ ადამიანსაც კი შეეძლო თაღლითობ არამშობლიური ინგლისურენოვანი თაღლითები ახლა პროფესიონალები არიან მათი შეტყობინებ

და ის თაღლითებიც კი, რომლებიც გამოდიან მარტოხელა ჯარისკაცებად, რომლებიც საზღვარგარეთ განთავსებული მარტოხელა ჯარისკაცებად აწყობენ და ბიზნეს შესაძლებლობას, რომელიც ძალიან კარგად გამოიყურება, რათა ეს შეტყობინებები ბევრად უფრო დასაჯერებელი გახდეს.

ისინი ასევე გადავიდნენ ელ. ფოსტას და მიაწოდებენ ახლა კარგად შემუშავებულ კომუნიკაციებს სოციალურ მედიაში, ტექსტებზე და სატელეფონ

ამავე დროს, გაიზარდა თაღლითური შეტყობინებების რაოდენობა, რომელიც შეიცავს აუდიო ან ვიდეო ღრმა ფაქსებს. გასულ წელს, ჰონგ კონგში მუშაკმა შეტყუეს 25 მილიონი დოლარი გადაუხადა თაღლითებს, მას შემდეგ, რაც მას მიაჩნდა ვი დეოზარს მისი მრავალეროვნული კომპანიის ოფიციალურ პირებთან, მათ შორის მთავარ ფინანსურ ოფიცერთან. მაგრამ აღმოჩნდა, რომ დანარჩენები ამ ადამიანების პირდაპირი ვიდეო ღრმა რეკრეაციები იყო.

მომხმარებლები ასევე მიზნად იყვნენ აუდიო ღრმა ყალითობებში. სწორედ აქ იყენებენ კიბერკრიმინალები ხელოვნურ ინტელექტს ადამიანების ხმის გასაღრმად გასაყალბებლად, როგორც წესი, ახალგაზრდების ხმის გასაღრმად, შემდეგ იყენებენ მიმიტირებულ ხმას ოჯახის წევრების დარეკისთვის და ამბობენ, რომ ისინი გაიტაცეს ან ციხეში არიან,

ამის ყველაფერი კომპანიებს და მომხმარებლებს გასაგებად შეშინია. Mastercard-ისთვის ჩატარებულმა ბოლოდროინდელმა კვლევამ გამოკითხვა დაახ ლოებით 13,000 მომხმარებელი მთელს მსოფლიოში, მათ შორის დაახლოებით 1,000 აშ შ-ში და დაადგინა, რომ AI— ის მიერ წარმოქმნილი ყალბი შინაარსი არის მომხმარებლებისთვის მაგრამ გამოკითხვების მხოლოდ 13% -მა თქვა, რომ ისინი ძალიან დარწმუნებულნი არიან ამეტიის მიერ წარმოქმნილი საფრთხეების ან თაღლითობის იდენტიფიცირების უნარში, თუ მათი მიზნით

გამოკითხვების დიდი უმრავლესობამ კონკრეტულად მიუთითა შეშფოთება AI სისტემების უფრო დახვეწილი თავდასხმების შესახებ და მავნე, ავტომატიზირებული მასშტაბური კიბერშეტევების და ხელოვნური ინტელექტის მიერ

და შეშფოთებული მომხმარებლები შეიძლება დიდ პრობლემებს ნიშნავდეს იმ კომპანიებისთვის, რომლებიც თუ მომხმარებლები ვერ ენდებიან, რომ საქმე აქვთ ლეგიტიმურ კომპანიასთან ან რომ მათი პირადი ინფორმაცია უსაფრთხოა, მათ შეუძლიათ აირჩიონ თავიანთი ბიზნესის სხვაგან გადატანა.  

ამჟამად, ყოველ შემთხვევაში, როგორც ჩანს, დამცველებს აქვთ უპირატესობა. ბიზნეს მომხმარებელთა სისტემებში ახალი AI ელემენტების უზრუნველყოფის გარდა, კიბერუსაფრთხოების კომპანიები აერთიანებენ ხელოვნურ ინტელექტს საკუთარ პროდუქტებში, მიზნით, რომ შეაჩერონ ონლაინ

იმავდროულად, თაღლითებს და სხვა კიბერდამნაშავეებს ჯერ არ აქვთ საკმარისი სტიმული იმავე გზით ინოვაციების მიუხედავად იმისა, რომ ისინი იყენებენ ინტელექტის ინსტრუმენტებს უფრო სწრაფად მუშაობისა და გასაზრდელად, ექსპერტები ამბობენ, რომ ისინი დიდწილად იცავენ იგივე

ნიკოლ პერლროტმა, კიბერუსაფრთხოების ყოფილმა ჟურნალისტმა, რომელიც ახლა ბალისტიკური ვენტურსის პარტნიორად მუშაობს და ხელმძღვანელობს საკუთარ კიბერმისიის ფონდს, Silver Buckshot, თავის Black Hat-ის მთავარ მიმართვაში თქვა, რომ მას ახალისებს ახალი და განვითარებადი ტექნოლოგიები, რომლებსაც ხედავს კიბერ

მან მიუთითა AI-ზე მომუშავე ღრმა ყალბი გამოვლენის ახალ ტექნოლოგიებზე, რომლებიც გამოდის ბაზარზე და აღნიშნა, რომ ხელოვნური ინტელექტი დაეხმარა კიბერუსაფრთხოების პროდუქტებისა და სერვისების "დემოკრატიზაციას", რაც მათ უფრო ხელმისაწვდომს ხდის მცირე კომპანიებისთვის, რომლებსაც წარსულში არ შეეძლოთ ამის საშუალება.

ჰიპენენმა აღნიშნა, რომ deepfake თაღლითობა ამჟამად ძალიან იშვიათია, მაგრამ დაამატა, რომ ის ელის, რომ ყველა სახის ონლაინ თაღლითობა, გამოსყიდვის პროგრამებთან ერთად, მხოლოდ გაუარესდება, რადგან AI ტექნოლოგიები უკეთესი და იაფი ხდება.

კარგი ამბავი ის არის, რომ დამცველებს თავდაპირველი აქვთ, როდესაც საქმე ეხება ხელოვნურ ინტელექტს.

“ თავდამსხმელები ასევე იყენებენ ხელოვნურ ინტელექტს, მაგრამ ისინი მხოლოდ იწყებენ“, - თქვა მან. “ ჩვენ ჯერჯერობით მხოლოდ საკმაოდ მარტივი შეტევები ვნახეთ AI— ით. ეს შეიცვლება, მაგრამ ახლა მე ვიტყოდი, რომ მზად ვართ“.