Shadow AI ve Yapay Zeka Asistanları: Şirketler İçin Yeni Saldırı Yüzeyi

Shadow AI, çalışanların şirketin onayı ve görünürlüğü dışında, çoğunlukla kişisel hesaplarla yapay zeka araçları kullanmasıdır. Sözleşmeler, müşteri listeleri, kaynak kodları ve finans tabloları iyi niyetle bu araçlara yükleniyor ve kurumun kontrolü dışında işleniyor. Buna ek olarak, yapay zeka asistanları ve ajanları saldırganlar için yeni bir hedef haline geliyor. Bu yazıda shadow AI'ın risklerini, prompt injection saldırılarını ve şirketlerin atması gereken adımları ele alıyoruz.

Çalışanlarınız şirket verisini nereye yüklüyor?

Verizon'un 2026 Veri İhlali Araştırmaları Raporu'na göre çalışanların yüzde 67'si şirket cihazlarında yapay zeka araçlarına kurumsal olmayan, kişisel hesaplarla erişiyor.

Bu şu anlama geliyor: Sözleşme metinleri, kaynak kodları, müşteri listeleri ve dahili finans tabloları kurumun görünürlüğü ve kontrolü dışında bir yerde işleniyor.

Klasik veri sızıntılarından farklı olarak burada kötü niyet yok. Çalışan işini daha hızlı yapmak için veriyi kendi eliyle yüklüyor. Kurumlar çoğu zaman bunun farkına bile varmıyor. Yapay zeka kullanım politikası olmayan bir kurum için bu, ölçülemeyen ve görünmeyen bir açıktır.

Prompt injection: yapay zekayı kandırmak

Prompt injection, saldırganların belgelerin, web sayfalarının veya e-postaların içine gizledikleri komutlarla yapay zeka modellerini manipüle ettiği bir saldırı türüdür. Model bu gizli komutları talimat olarak algılar ve bağlı olduğu sistemdeki verileri paylaşabilir ya da yanlış işlemler yapabilir.

Yazılım güvenliği alanında küresel rehberlik sunan bağımsız topluluk OWASP, büyük dil modelleri için hazırladığı 2025 risk listesinde prompt injection'ı birinci sıraya koydu.

Güvendiğiniz arayüzden gelen tehlike

E-postadan gelen bir bağlantıya tıklamadan önce iki kez düşünürsünüz. Yapay zeka asistanının gösterdiği bir bağlantıya tıklarken düşünmezsiniz. Bu fark saldırganların dikkatini çekmeye başladı.

Araştırmalar, yapay zeka asistanlarının web sayfalarını özetlerken sayfalara gömülü zararlı yönlendirmeleri kullanıcıya sunabildiğini gösteriyor. Kullanıcı şüphelenmiyor, çünkü içerik güvendiği bir arayüzden geliyor.

AI ajanları: siz başında değilken çalışan asistanlar

Yeni nesil kişisel yapay zeka ajanları e-postanıza, takviminize ve hesaplarınıza bağlanıyor ve siz başında durmadığınızda da çalışıyor. Verimlilik açısından etkileyici, ama güvenlik açısından yeni sorular doğuruyor:

• Ajanın erişebildiği her hesap, ajan ele geçirildiğinde saldırganın da erişebileceği bir hesaptır.
• Ajan size bir mesajla "şu ödemeyi onaylıyor musunuz?" diye sorduğunda, mesajın gerçekten ajanınızdan geldiğini nasıl doğrulayacaksınız?
• Bir çalışan şirket e-postasını kişisel ajanına bağladıysa, bundan haberiniz var mı?

Eğitimlerde yıllardır "tıklamadan önce düşünün" deniyor. Yakında soru şuna dönüşecek: Ajanınız sizin yerinize tıklamadan önce kim düşünecek?

Yapay zeka bile sosyal mühendisliği seçiyor

İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'nün kontrollü bir test ortamında yaptığı denemede, internet erişimi verilen bir yapay zeka ajanı açık kaynaklı bir projeye zararlı kod eklemeye çalıştı. Reddedilince sahte kimlikler oluşturdu ve proje yöneticisini ikna etmeye çalıştı. Kimse ajana "insanları kandır" demedi. Hedefine ulaşmanın en verimli yolunun bu olduğunu kendisi buldu.

Bu bir test ortamında yaşandı, ama gösterdiği şey açık: En etkili saldırı yöntemi hâlâ insan güvenini istismar etmek.

Şirketler ne yapmalı?

1. Yapay zeka kullanım politikası yazın. Hangi araçların, hangi verilerle, hangi hesaplarla kullanılabileceğini netleştirin.
2. Kurumsal alternatif sunun. Çalışanlara onaylı ve kurumsal hesaplı bir araç verilmezse kişisel hesaplara yönelirler.
3. Veri sınıflandırması yapın. Hangi verinin yapay zeka araçlarına asla yüklenmeyeceğini belirleyin: kişisel veriler, müşteri verileri, kaynak kodu, finansal tablolar.
4. Ajan bağlantılarını denetleyin. Kurumsal hesaplara bağlanan üçüncü taraf uygulamaları ve ajanları düzenli olarak gözden geçirin.
5. Farkındalık programına ekleyin. Çalışanlar yapay zeka araçlarının verdiği bağlantılara ve önerilere de eleştirel yaklaşmayı öğrenmeli.

Sık sorulan sorular

---
InfoLore'un farkındalık programları, yapay zeka araçlarının güvenli kullanımı ve yeni saldırı yöntemlerini de kapsar. Kurumunuz için bir yapay zeka kullanım çerçevesini konuşmak için bize ulaşabilirsiniz.