ESET, Grokking Tehdidiyle Yapay Zekâ Dolandırıcılıklarına Karşı Uyarıyor

Siber güvenlik teknolojileriyle tanınan ESET, son dönemde üretken yapay zekâ sistemlerinin kötüye kullanımıyla ortaya çıkan yeni tehdit dalgasına dikkat çekiyor. GenAI sistemleri, siber suçluların etkileyici birer araç haline gelmesiyle birlikte, sosyal mühendislik saldırılarında kritik rol oynamaya başladı. Özellikle Grokking olarak bilinen yeni yöntem, sosyal medya platformlarında yapay zekâ destekli botların manipüle edilerek kimlik avı bağlantılarını yaymasıyla kamu güvenliği adına ciddi riskler oluşturuyor.

Tehdit aktörleri, bu yöntemde platformların güvenlik filtrelerini aşarak zararlı bağlantıları video kartı gönderileri içerisine gizliyor. Bu gönderiler, görünürde masum videolarla kullanıcıların dikkatini çekerken, alt kısımlarında yer alan küçük bağlantılar aracılığıyla kimlik bilgilerini çalma veya kötü amaçlı yazılım indirme girişimlerine zemin hazırlıyor. X platformunda keşfedilen saldırı, yerleşik yapay zekâ botu Grok’u kullanarak, onun güvenilirliğinden faydalanmakta ve dolandırıcılık bağlantılarını daha geniş kitlelere ulaştırmaktadır.

Grokking Yönteminin Tehlikesi

Bu saldırı türünün en tehlikeli yönü, kullanıcıların yapay zekâya duyduğu güveni istismar etmesidir. Grok, kullanıcı sorularına yanıt verirken dolaylı olarak kötü amaçlı bağlantıları büyütebilmekte ve paylaşabilmektedir. Bir yapay zekânın yanlış bilgilendirme veya zararlı içerikleri istem dışı yayması hem kişisel hem de kurumsal güven için büyük bir tehdit oluşturur.

Üstelik bu bağlantılar yalnızca sosyal medya kullanıcılarını değil, arama motoru algoritmalarını da etkileyerek kötü niyetli sayfaların organik sonuçlarda daha üst sıralarda görünmesine neden olmaktadır. Bu durum, tehdit aktörlerine hem daha fazla görünürlük hem de güvenilirlik kazandırmaktadır.

Prompt Enjeksiyonu: GenAI’nin Yeni Güvenlik Açığı

Grokking saldırısı aslında prompt enjeksiyonu olarak bilinen daha geniş kapsamlı bir taktiğin alt türüdür. Bu yöntemde siber suçlular, yapay zekâ sistemlerine zararlı komutlar yükleyerek onların davranışlarını yönlendirmeyi başarır. Enjeksiyon, doğrudan yazışmalar aracılığıyla yapılabileceği gibi, gizli metinler veya içerik meta verileri içine yerleştirilmiş şekilde dolaylı yollarla da gerçekleştirilebilir.

ESET uzmanları, bu tür açıkların yalnızca belirli bir platformla sınırlı kalmadığını, her türlü yapay zekâ tabanlı sistemin benzer manipülasyon riski taşıdığını vurgulamaktadır. Bu nedenle kullanıcıların yapay zekâ yanıtlarını daima sorgulayıcı bir bakış açısıyla değerlendirmesi önerilmektedir.

Kullanıcılar İçin Güvenli Dijital Davranış Önerileri

Yapay zekânın günlük dijital deneyimlere entegre edilmesi, yeni fırsatlar kadar yeni tehditleri de beraberinde getirmiştir. Kullanıcıların bu tür tehditlere karşı bilinçli davranmaları, siber dolandırıcılık riskini büyük ölçüde azaltabilir. ESET’in uzman tavsiyeleri aşağıdaki gibi özetlenebilir:

• Bir GenAI botu tarafından paylaşılan bağlantılara tıklamadan önce URL’yi kontrol edin ve şüpheli görünüyorsa uzak durun.
• Yapay zekâ yanıtlarına koşulsuz güvenmeyin; olağandışı sonuçlar gördüğünüzde doğruluk teyidi yapın.
• Güçlü parolalar ve çok faktörlü kimlik doğrulama (MFA) kullanarak hesap güvenliğinizi artırın.
• Tüm yazılım ve işletim sistemlerinizi düzenli olarak güncel tutun.
• Cihazlarınızı korumak için saygın bir güvenlik yazılımı sağlayıcısından çok katmanlı koruma çözümleri edinin.

Sonuç olarak, üretken yapay zekâ teknolojilerinin hızla geliştiği bu dönemde, güvenlik farkındalığı ve dijital temkinlilik her zamankinden daha önemlidir. Grokking gibi yeni nesil saldırı yöntemleriyle mücadelede hem bireysel hem de kurumsal düzeyde proaktif savunma yaklaşımı büyük rol oynamaktadır.

• #ESET