Finans kurumlara yapay zeka risk noktalarını belirleme çağrısı

Ashwini Karandikar, finans kurumlarının bu yıl yapay zekanın risk içeren kararları etkilediği tüm noktaları belirlemesi gerektiğini söyledi. Singapur’da düzenlenen Asya Bankacılık, Finans ve Sigorta Zirvesi’nde, deepfake dolandırıcılık vakalarının son üç yılda %2.000’den fazla arttığını ifade etti.

Karandikar, en büyük tehlikelerden birinin düşmanca yapay zeka olduğunu belirtti. Buna göre kötü niyetli kişiler, finans kurumlarının modellerini inceleyerek meşru görünen saldırılar tasarlayabiliyor. Belge işleme süreçlerinde, insan denetçilerin fark etmediği ancak yapay zeka sistemlerinin okuyabildiği gizli talimatlarla süreçlerin ele geçirilebildiğini anlattı.

Bu kapsamda hızlı enjeksiyon yöntemi öne çıktı. Gerçek bir örnek olarak, Microsoft 365 Copilot’ta özel hazırlanmış tek bir e-postanın, kullanıcı etkileşimi olmadan iç verilerin dışarı aktarılmasına yol açabilen bir güvenlik açığına neden olduğu aktarıldı.

Karandikar, dolandırıcılığın yanında sistemik risk konusuna da dikkat çekti. Bankalar ve sigorta şirketleri; sinyalleri tarayan, risk pozisyonlarını yeniden dengeleyen ve korunma işlemleri yapan yapay zeka ajanları kullanıyor. Benzer verilerle eğitilen bu sistemlerin, insan kararlarındaki duraksama ve kontrol süreçlerine sahip olmaması nedeniyle riskin fark edilmeden bilançoda birikebildiğini belirtti.

Ayrıca birçok bankanın, özellikle üçüncü taraf tedarikçiler üzerinden kullanılan araçlar nedeniyle hangi yapay zeka teknolojileriyle çalıştığını tam olarak bilmediği, bunun da hesap verebilirlik açığını büyüttüğü ifade edildi.

Çözüm olarak, yapay zekayı denetlemek için yapay zeka kullanılması önerildi. Karandikar, risk ekiplerinin yapay zeka tarafından verilen her kararı tek tek inceleyemeyeceğini söyledi. Bu çerçevede, Anthropic’in JPMorgan Chase ve diğer geliştiricilerle yürüttüğü Project Glasswing girişimi, yaygın yazılımlardaki 10.000’den fazla kritik güvenlik açığını tespit etmeye odaklanan bir model olarak aktarıldı.

Bununla birlikte, yapay zeka denetiminin insan muhakemesinin yerine geçmemesi gerektiği vurgulandı. Kurumların, yapay zekanın hangi durumlarda bağımsız hareket edeceğini, hangi durumlarda onay alacağını ve bir model devreye girdiğinde sorumluluğun kimde olacağını netleştirmesi gerektiği belirtildi.

Kuruluşlar için iki temel adım öne çıkarıldı: yapay zekanın risk içeren kararlara etki ettiği tüm noktaları haritalandırmak ve arıza senaryolarını dikkate alarak güvenli bozulma yaklaşımıyla sistem tasarlamak.

• #Ashwini Karandikar
• #finans kurumları
• #yapay zeka