“ChatGPT with no ethical boundaries”: WormGPT fuels AI-generated scams



özet
Özet

Siber suçlular, kuruluşlara son derece ikna edici sahte e-postalar göndermek ve güvenlik önlemlerini atlamalarına olanak tanımak için özel bir kötü amaçlı yazılım modeli olan ChatGPT veya WormGPT gibi üretici yapay zeka araçlarını giderek daha fazla kullanıyor.

Son derece ikna edici yeni bir sahte e-posta dalgası, şüphelenmeyen çalışanları vuruyor. Bu, Business Email Compromise (BEC) gibi siber suçlar için optimize edilmiş bir AI aracı olan WormGPT’yi araştıran İngiliz bilgisayar korsanı Daniely Kelley’e göre. Kelley, özellikle yeraltı forumlarındaki gözlemlerine atıfta bulunuyor.

Ek olarak, “jailbreak” olarak bilinen özel bilgi istemleri, hassas bilgilerin ifşasını veya kötü niyetli kodun yürütülmesini içerebilecek çıktılar üretmek üzere ChatGPT gibi modelleri manipüle etmek için değiş tokuş edilir.

Kelley, “Bu yöntem kesin bir sonuç ortaya koyuyor: Saldırganlar, belirli bir dilde akıcılığı olmayanlar bile, artık kimlik avı veya BEC saldırıları için ikna edici e-postalar üretme konusunda her zamankinden daha yetenekli,” diye yazıyor Kelley.

reklam

Yapay zeka tarafından üretilen e-postalar gramer açısından doğrudur, Kelley bunun fark edilmeme olasılığını artırdığını ve kullanımı kolay yapay zeka modellerinin saldırılara giriş engelini azalttığını söylüyor.

WormGPT, çevrimiçi dolandırıcılık için optimize edilmiş bir AI modelidir

WormGPT, popüler çevrimiçi siber suç forumlarında paylaşılan, suçlu ve kötü niyetli faaliyetler için özel olarak tasarlanmış bir yapay zeka modelidir. Resmi GPT modellerine bir “kara şapka” alternatifi olarak pazarlanır ve gizlilik koruması ve “hızlı para” ile reklamı yapılır.

ChatGPT’ye benzer şekilde WormGPT, ikna edici ve stratejik olarak gelişmiş e-postalar oluşturabilir. Bu, onu gelişmiş kimlik avı ve BEC saldırıları için güçlü bir araç haline getirir. Kelley, bunu “etik sınırları veya kısıtlamaları olmayan” ChatGPT olarak tanımlıyor.

WormGPT, açık kaynaklı GPT-J modeliGPT-3’ün performansına yaklaşan ve ChatGPT’ye benzer metinsel görevlerin yanı sıra basit kod yazabilen veya biçimlendirebilen. WormGPT türevinin ek kötü amaçlı yazılım veri kümeleriyle eğitildiği söyleniyor, ancak bilgisayar korsanlığı aracının yazarı bunları ifşa etmiyor.

Ein Screenshot with weißem Text to hintergrund.
WormGPT ile oluşturulmuş bir kimlik avı e-postası. | Resim: Daniel Kelley, SlashNext aracılığıyla

Kelley, WormGPT’yi acil bir sahte fatura ödemesi için bir müşteri hizmetleri temsilcisini kandırmak üzere tasarlanmış bir kimlik avı e-postasında test etti. E-postayı gönderen, hedeflenen şirketin CEO’suydu (ekran görüntüsüne bakın).

Öneri

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top