Bir avukatın müşteri sözleşmesini kontrol etmek için bir yapay zekâ aracına yüklediğini düşünün. Bir yazılımcı hata ayıklarken şirkete özel kodları sohbet botuna yapıştırıyor, bir finans çalışanı ise hızlıca grafik hazırlamak için bütçe tablosunu paylaşıyor. Bunlar iş hayatında karşılaşılabilecek kullanım senaryoları. Amaç işi kolaylaştırmak olsa da kullanılan araç ve paylaşılan veri kurumun kurallarına uygun değilse hassas bilgiler onaylanmamış bir ortama taşınabiliyor.
Dynatrace’in 2026 tarihli ajan tabanlı yapay zekâ araştırması da güvenlik ve insan denetiminin önemine işaret ediyor. Araştırmada güvenlik, gizlilik veya uyumluluk kaygıları, yüzde 52 ile ajanların gerçek iş süreçlerinde kullanıma alınmasının önündeki başlıca engeller arasında yer alıyor. Kuruluşların yüzde 87’si insan denetimi gerektiren ajanlar geliştiriyor veya devreye alıyor; ajan tabanlı yapay zekâ kararlarının yüzde 69’u insanlar tarafından doğrulanıyor. Bu bulgular doğrudan gölge yapay zekâyı ölçmese de kurumların denetim ihtiyacını ortaya koyuyor. [2]
Peki, yapay zekânın sağladığı kolaylıklardan yararlanırken şirket verilerini nasıl koruyabiliriz?
Gölge yapay zekâ nedir
Çalışanların şirket tarafından onaylanmamış yapay zekâ araçlarını iş amacıyla kullanmasına “gölge yapay zekâ” (Shadow AI) deniyor. Çalışan çoğu zaman işini hızlandırmak istiyor. Sorun, bu sırada hangi bilgilerin kurum dışına çıktığının ve nasıl işlendiğinin yeterince değerlendirilmemesi.
Yapay zekâ servislerinin tamamı aynı veri işleme ve güvenlik koşullarına sahip değil. Verilerin saklanması, model eğitiminde kullanılması ve erişim kontrolleri; hizmete, abonelik türüne, ayarlara ve sözleşmeye göre değişebiliyor. Bu nedenle bir aracın kolay erişilebilir olması, şirket verileriyle kullanılmaya uygun olduğu anlamına gelmiyor.
Samsung örneği bu ayrımı somutlaştırıyor. Güney Kore merkezli Economist’in 30 Mart 2023 tarihli haberine göre çalışanlar, kodlarla ilgili yardım almak ve toplantı notları hazırlamak amacıyla şirket içi bilgileri ChatGPT’ye aktardı. Buradaki olay, hassas bilgilerin harici bir servise girilmesiydi. Haberde bu bilgilerin başka kullanıcılara verilen yanıtlarda ortaya çıktığı doğrulanmıyor. [3]
Saldırı yöntemleri de değişiyor
Risk yalnızca çalışanların farkında olmadan bilgi paylaşmasıyla sınırlı değil. Yapay zekâ uygulamalarının nasıl yönlendirildiği ve hangi verilere erişebildiği de önem taşıyor.
“İstem enjeksiyonu” olarak adlandırılan yöntemde saldırgan, modele verilen girdiler veya modelin okuduğu içerikler aracılığıyla uygulamayı amaçlanan davranışından saptırmaya çalışıyor. Hassas verilere erişen bir uygulamada bu tür girişimler, yeterli kontroller bulunmadığında bilgi ifşasına yol açabiliyor.
OWASP’ın 2025 sınıflandırmasında hassas bilgi ifşası LLM02, veri ve model zehirlenmesi ise LLM04 başlığı altında ele alınıyor. Veri zehirlenmesinde modele sunulan verilerin değiştirilerek davranışının etkilenmesi amaçlanıyor. Bu riskler, modelin erişebileceği verilerin sınırlandırılmasını ve uygulama düzeyinde güvenlik önlemleri alınmasını gerektiriyor. [4][5]
Yasaklamadan nasıl korunulur
Birinci adım, kullanılan araçları ve veri akışını görünür hâle getirmek. Veri sızıntısı önleme (DLP) sistemleri, destekledikleri uygulamalar ve doğru yapılandırılmış kurallar kapsamında hassas veri paylaşımlarını tespit etmeye ve engellemeye yardımcı olabilir. Ancak tek bir sistemin bütün cihazları, uygulamaları ve paylaşım yollarını eksiksiz denetlediği varsayılmamalı.
İkinci adım, güvenli alternatifler sunmak. Kurumun kendi ortamında çalıştırılan modeller, uygun yapılandırıldığında verinin dış hizmetlere aktarılmasını azaltabilir. Yine de dış bağlantılar, entegrasyonlar, erişim yetkileri ve kayıt mekanizmaları kontrol edilmelidir. Kurumsal bulut hizmetleri de veri işleme koşulları ve güvenlik kontrolleri değerlendirilerek seçenekler arasında ele alınabilir.
Üçüncü adım, açık bir kullanım politikası oluşturmak. Hangi servislerin kullanılabileceği, hangi verilerin paylaşılmaması gerektiği ve denetim sorumluluğunun kimde olduğu belirlenmeli. Örneğin ERP’den alınan bir maliyet tablosunun veya CRM’deki müşteri listesinin hangi koşullarda yapay zekâya aktarılabileceği çalışanlar için anlaşılır olmalı. Kurallar, günlük işlerden örnekler ve kullanılabilir alternatiflerle desteklenmeli.
Kritik altyapı ve kamu kurumlarında ise insan onayı gerektiren kararlar, verinin işleneceği ortam ve denetim kayıtlarının kapsamı özellikle dikkatle belirlenmeli. Her istemi ve yanıtı sınırsız biçimde kaydetmek yerine, kayıtların da hassas bilgi içerebileceği hesaba katılmalı; erişim ve saklama koşulları tanımlanmalı.
İlk adım mevcut kullanımı anlamak
Şirketlerin yapay zekâya temkinli yaklaşması anlaşılır; bu, teknolojiden vazgeçmeyi gerektirmiyor. Kurumlar, mevcut güvenlik altyapılarını ve kullanım politikalarını gözden geçirerek riskleri azaltmaya başlayabilir.
Eldeki kayıtların kapsamı elveriyorsa çalışanların hangi yapay zekâ servislerini kullandığı incelenebilir. Ardından korunması gereken veri türleri belirlenerek mevcut güvenlik araçlarında uygun kurallar oluşturulabilir. Bu çalışmaya çalışanların ihtiyaçlarını anlamak ve güvenli kullanım yollarını göstermek de eşlik etmeli. Böylece yapay zekâ kullanımını yönetmek, günlük iş akışının bir parçası hâline gelebilir.
Kaynaklar
[1] Check Point, Global Cyber Threats September 2025, 9 Ekim 2025.
[2] Dynatrace, New Global Report Finds Enterprises Hitting Agentic AI Inflection Point, 22 Ocak 2026.
[3] Economist (Güney Kore), Samsung çalışanlarının ChatGPT kullanımı hakkındaki haber, 30 Mart 2023.
[4] OWASP, LLM02:2025 Sensitive Information Disclosure.
[5] OWASP, LLM04:2025 Data and Model Poisoning.
İlgili Linkler:
Check Point, Global Cyber Threats September 2025, 9 Ekim 2025
Dynatrace, New Global Report Finds Enterprises Hitting Agentic AI Inflection Point, 22 Ocak 2026
Economist (Güney Kore), Samsung çalışanlarının ChatGPT kullanımı hakkındaki haber, 30 Mart 2023