Microsoft, yapay zeka sistemlerinde güvenliği artırmak amacıyla yürüttüğü ödül programını genişletti. Şirket artık yapay zekâ teknolojilerinde keşfedilen ciddi güvenlik açıklarına karşılık araştırmacılara 30.000 dolara kadar ödül verecek. Bu genişleme, özellikle şirketin Dynamics 365 ve Power Platform ürünleri ile Copilot servislerini kapsıyor.
Hangi Güvenlik Açıkları Kapsamda?
Genişletilen program kapsamında ödül verilen güvenlik açıkları, Microsoft’un oluşturduğu Yapay Zeka Güvenlik Açığı Şiddet Sınıflandırması’na göre “kritik” veya “önemli” seviyede olmalı. Ayrıca bu açıkların ürün veya hizmet üzerinde tekrarlanabilir olması gerekiyor.
Ödül kapsamında değerlendirilecek başlıca açık türleri şunlar:
- Çıkarım Manipülasyonu: Modelin çıktısının kasıtlı olarak yanlış yönlendirilmesi.
- Model Manipülasyonu: Modelin davranışının değiştirilerek istenmeyen sonuçlar üretmesi.
- Bilgi Sızdırma: Modelin kullanıcıya ait hassas verileri istem dışı açığa çıkarması.
Copilot Servisleri de Dahil
Microsoft’un yapay zeka tabanlı yardımcı servisleri olan Copilot ürünleri (Edge, Windows, iOS ve Android uygulamaları ile Bing’deki Copilot deneyimi) da program kapsamına alındı. Bu servislerdeki orta seviye açıklar içinse araştırmacılara 5.000 dolara kadar ödül verilecek.
Geniş Katılım Teşvik Ediliyor
Microsoft, bu güncellemeyle birlikte daha fazla güvenlik araştırmacısını sürece dahil etmeyi hedefliyor. Şirket, geçmişte düzenlediği benzer bir etkinlikte 600’den fazla açık bildirimi almış ve toplamda 1.6 milyon doların üzerinde ödül dağıtmıştı. Genişletilen ödül programı, etik hacker’ların yapay zeka teknolojilerinde güvenliği artırmasına katkı sağlayacak.
Bu hamleyle Microsoft, sadece kendi sistemlerini güvence altına almakla kalmıyor, aynı zamanda sektördeki etik güvenlik araştırmalarını da teşvik ediyor.
