xAI’ın Yeni Yapay Zekası Grok Imagine, Taylor Swift’in “Deepfake” Görüntülerini Üretti!
Elon Musk‘ın yapay zeka şirketi xAI, yeni metinden video ve resim üretme aracı Grok Imagine‘ı piyasaya sürer sürmez, büyük bir skandalın merkezine oturdu. The Verge tarafından ortaya çıkarılan ve Mashable tarafından da doğrulanan habere göre, yeni yapay zeka aracı, dünyaca ünlü sanatçı Taylor Swift‘in müstehcen deepfake videolarını üretti. Olayı daha da endişe verici kılan ise, yapay zekanın bu görüntüleri, kullanıcı tarafından spesifik olarak istenmemesine rağmen üretmiş olması.
Bu skandal, Grok Imagine’in cinsel içerikli deepfake’ler konusunda en temel güvenlik önlemlerinden (guardrails) bile yoksun olduğunu ve xAI’ın kendi hizmet şartlarını ihlal ettiğini gösteriyor.
Skandal Nasıl Ortaya Çıktı? “Spicy” Modu Tehlikesi
The Verge‘den Jess Weatherbed, aracı ilk kez kullanırken, Grok Imagine’in “sansürsüz, üstsüz videoları” doğrudan karşısına çıkardığını keşfetti.
- İstemeden Üretim: Weatherbed, sohbet robotundan Swift’i üstsüz bir şekilde tasvir etmesini istememişti. Ancak Grok Imagine’in, uygunsuz içerik (NSFW) üretmek için tasarlanmış bir ön ayarı olan “spicy” (baharatlı) modunu açtığında, sohbet robotu Swift’in kıyafetlerini yırttığı ve bir tangayla dans etmeye başladığı bir video üretti.
- Çelişkili Davranış: İlginç bir şekilde, Grok Imagine’den doğrudan çıplaklık üretmesi istendiğinde, araç boş kareler üreterek bu isteği reddediyor. Ancak “spicy” modu, her zaman çıplaklıkla sonuçlanmasa da, birkaç videoda Swift’in “kıyafetlerinin çoğunu yırttığı” sahneler sundu.
X’in ve xAI’ın Kendi Kurallarını İhlali
Bu, Elon Musk’ın platformlarının Taylor Swift deepfake’leriyle anıldığı ilk olay değil.
- Ocak 2024 Skandalı: 2024’ün Ocak ayında, Swift’i tasvir eden yapay zeka üretimi pornografik görüntüler X’te (Twitter) viral olmuş ve büyük bir tepki çekmişti.
- İhlal Edilen Politikalar: Bu durum, X’in rıza dışı çıplaklığı ve kullanıcıları kasten aldatan “sentetik, manipüle edilmiş veya bağlam dışı medyayı” yasaklayan kendi kurallarını açıkça ihlal etmesine rağmen yaşanmıştı. Benzer şekilde, xAI’ın kendi politikaları da “kişilerin benzerlerinin pornografik bir şekilde tasvir edilmesini” yasaklıyor.
Mashable’ın da dün bildirdiği gibi, Grok Imagine “deepfake’leri ve cinsel içeriği önlemek için endüstri standardı güvenlik önlemlerinden yoksundur.”
Büyüyen Endişe: Deepfake Krizi
Bu olay, deepfake teknolojisinin yarattığı tehlikeleri ve özellikle kadınları hedef alan yapısını bir kez daha gözler önüne seriyor.
- 2023’te yapılan bir araştırmaya göre, çevrimiçi ortamdaki deepfake’lerin %98’i pornografikti ve bu videoların %99’u kadınları tasvir ediyordu.
- Bu “dijital çağ krizi” ile mücadele etmek için dünya genelindeki hükümetler harekete geçmeye çalışsa da, bu tür içeriklere karşı yasalar hala emekleme aşamasında.
xAI’ın, daha önceki skandallara ve kendi politikalarına rağmen, en temel güvenlik filtrelerinden yoksun bir yapay zeka aracını piyasaya sürmesi, şirketin bu konudaki ciddiyetsizliğini ve potansiyel tehlikeleri göz ardı ettiğini gösteriyor.
Sizce yapay zeka şirketleri, bu tür zararlı içeriklerin üretilmesini önlemek için yeterli sorumluluğu alıyor mu? Bu tür teknolojilerin gelişimini yavaşlatacak daha katı yasal düzenlemeler getirilmeli mi? Düşüncelerinizi yorumlarda bizimle paylaşın!
Bu Konuyla İlgili Diğer“Nedir?”Yazılarımız:
Yapay zekanın geleceğini şekillendiren en son gelişmeler, yeni modeller ve teknoloji devlerinin stratejileri için techneiro.com‘u takip etmeye devam edin!
