Teknoloji

AI Chatbot’lar Siber Dolandırıcılıkla Mücadeleye Yardımcı Olacak mı?

Kaspersky uzmanları, ChatGPT’nin kimlik avı bağlantılarını tespit etme yeteneğini inceleyen bir araştırma yayınladı. Araştırmalar, ChatGPT’nin kimlik avı e-postaları oluşturma ve kötü amaçlı kötü amaçlı yazılım yazma konusunda yetenekli olduğunu göstermiştir. Ancak, kötü niyetli kişileri tespit etme faaliyetinin hala sınırlı olduğunu ortaya çıkardı. Araştırma, ChatGPT’nin kimlik avı hakkında çok fazla bilgiye sahip olmasına ve kimlik avı saldırısının hedefini tahmin edebilmesine rağmen, yüzde 64’e varan yüksek yanlış pozitif oranlarına sahip olduğunu ve ChatGPT’nin birçok kez hayali açıklamalar ve hayalet açıklamalarla olduğunu ortaya çıkardı. kararlarını gerekçelendirir. sahte deliller ürettiğini göstermiştir.

Yapay zeka ile geliştirilmiş bir dil modeli olan ChatGPT, kimlik avı e-postaları oluşturma potansiyelini kanıtladı, ancak bu teknolojinin yüksek riskli alanlarda kullanılması için henüz çok erken. Bu nedenle ChatGPT, siber güvenlik dünyasında bir tartışma konusu haline geldi. Kaspersky uzmanları, ChatGPT’nin kimlik avı bağlantılarını algılama yeteneğini ve eğitim sırasında öğrendiği siber güvenlik bilgilerini ortaya çıkarmak için deneyler yaptı. Şirketin uzmanları, ChatGPT’ye güç veren model olan gpt-3.5-turbo’yu, Kaspersky kimlik avı önleme teknolojilerinin kimlik avı olarak kabul ettiği 2.000’den fazla kişi üzerinde binlerce güvenilir URL ile karıştırarak test etti.

Deneyde kullanılan ipucuna göre tespit oranlarının değiştiği görüldü. ChatGPT’ye iki soru soruldu: “Bu bağlantı bir kimlik avı web sitesine mi yönlendiriyor?” ve “Bu bağlantıyı ziyaret etmek güvenli mi?”. Sonuçlar, ChatGPT’nin ilk soru için %87,2 tespit oranına ve %23,2 yanlış pozitif oranına sahip olduğunu gösterdi. “Bu bağlantıyı ziyaret etmek güvenli mi?” Öte yandan soruda %93,8 gibi daha yüksek tespit oranı gözlemlenirken, %64,3 gibi daha yüksek yanlış pozitif oranına sahip olduğu tespit edildi. Elde edilen sonuçlara göre, her türlü üretim uygulaması için yanlış pozitif oranın oldukça yüksek olduğu görülmüştür.

ChatGPT, Facebook, TikTok ve Google’da başarılı

Siber saldırganlar, oltalama ilişkilerinde genellikle tanınmış markalardan bahsederek kullanıcıları aldatmaya çalışırlar. Bu noktada yapay zeka dil modeli ChatGPT, olası kimlik avı hedeflerini belirlemede etkileyici sonuçlar gösterebiliyor. Örneğin, Facebook, TikTok, Google gibi büyük teknoloji şirketleri, Amazon, Steam gibi pazar yerleri ve dünyadaki çoğu URL, ek eğitim almadan başarılı bir şekilde sonuç alabilir.

Ancak yapılan deneyler, ChatGPT’nin ilgili kişinin kötü niyetli olup olmadığına karar vermede önemli zorluklar yaşayabileceğini gösteriyor. Bu, dil modellerinin bilinen sınırlamalarını ve yanlış sonuçlar üretebileceklerini ortaya çıkardı. Sonuç olarak ChatGPT, kimlik avı saldırılarını sınıflandırmak ve araştırmak için bazı yararlı özelliklere sahip olabilir, ancak kesin sonuçlar dikkatli değerlendirme ve insan gözetimi gerektirebilir. ChatGPT, saldırıları sınıflandırma ve araştırma konusunda potansiyel gösterse de, hala iyileştirme ve iyileştirme gerektiren bir alan gibi görünüyor.

Aşağıda, ChatGPT tarafından sağlanan yanıltıcı ifşa örnekleri verilmiştir:

 

  • Modelin erişemediği WHOIS referansları:
    1. Son olarak, alan adı için bir WHOIS araması yaparsak, çok yakın zamanda tescil edilmiş (2020-10-14) ve tescil ettiren detayları gizlenmiştir.
  • Modelin erişemediği bir web sitesindeki içeriğe yapılan referanslar:
    1. web sitesi, Microsoft’a ait olmayan bir web sitesinde kullanıcı kimlik bilgilerini istiyor. Bu, kimlik avı saldırıları için yaygın bir taktiktir.
  • Yanlış beyanlar:
    1. ‘sxxxxxxp.com’ alan adı Netflix ile ilişkili değildir ve web sitesi ‘https’ yerine ‘http’ protokolünü kullanır (web sitesi https kullanır)
  • Açıklayıcı siber güvenlik bilgileri:
    1. ‘yxxxx3.com’ URL’sinin alan adı Kuzey Kore’de kayıtlı görünüyor ve bir tehlike işareti.

Kaspersky Veri Bilimcisi Vladislav Tushkanov. “ChatGPT, insan analistlerin kimlik avı saldırılarını tespit etmelerine yardımcı olma konusunda kesinlikle umut vaat ediyor, ancak dil modellerinin hala sınırlamaları olduğunu hatırlamakta fayda var. ChatGPT, kimlik avı baskınları hakkında akıl yürütme ve potansiyel hedefleri ayıklama söz konusu olduğunda, stajyer düzeyindeki bir kimlik avı analistiyle eşittir. halüsinasyon görme ve rastgele çıktılar üretme eğiliminde olmasına rağmen, bu teknoloji şu anda siber güvenlikte devrim yaratmasa da topluluk için yararlı araçlar olabilir.” diyor.

Deney hakkında daha fazla bilgi edinmek için Securelis’i ziyaret edin.

Kaspersky’nin Makine Öğrenimi ekibi, makine öğrenimi teknolojilerini siber güvenlik görevlerine uygular ve Kaspersky ürünlerini en yeni teknoloji ve bilgilerle sürekli olarak günceller. Kaspersky’nin makine toplama uzmanlığından yararlanmak ve bu uzmanlıktan korunmak için şirketin uzmanları şunları öneriyor:

  • Kaspersky Managed Detection and Response, kurumsal siber güvenlik için izinsiz girişleri ilk aşamalarında algılayıp önleyebilen değerli bir araçtır. Sıradan olayları filtrelemek için gelişmiş makine öğrenimi modellerini kullanır ve yalnızca endişe verici olanları profesyonel insan analistlerine gönderir. Bu hizmet, bir şirketin mevcut iş gücü kaynaklarının kullanımını optimize ederken siber tehditlere karşı koyma yeteneğini geliştirir.
  • Personelinize temel siber güvenlik eğitimi vermek paha biçilmezdir. Simüle edilmiş kimlik avı saldırıları yürütmek, kimlik avı e-postalarını nasıl tespit edeceklerini bilmelerine de yardımcı olabilir.
  • Son olarak, siber güvenliği iyileştirmek için tehdit aktörleri tarafından kullanılan gerçek TTP’lerin (taktikler, teknikler ve prosedürler) farkında olmak için en son Tehdit İstihbaratı bilgisinin kullanılması da önerilir.

 

Kaynak: (BYZHA) Beyaz Haber Ajansı

gencajans.xyz

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Başa dön tuşu
bets10bycasino
istanbul escort
istanbul escort
istanbul escort
istanbul escort
adalar escort
arnavutköy escort
ataşehir escort
avcılar escort
bağcılar escort
bahçelievler escort
bakırköy escort
başakşehir escort
bayrampaşa escort
beşiktaş escort
beykoz escort
beylikdüzü escort
beyoğlu escort
büyükçekmece escort
çatalca escort
çekmeköy escort
esenler escort
esenyurt escort
eyüp escort
fatih escort
gaziosmanpaşa escort
güngören escort
kadıköy escort
kağıthane escort
kartal escort
küçükçekmece escort
maltepe escort
pendik escort
sancaktepe escort
sarıyer escort
şile escort
silivri escort
şişli escort
sultanbeyli escort
sultangazi escort
tuzla escort
ümraniye escort
üsküdar escort
zeytinburnu escort
istanbul escort
istanbul escort