Grok “Çıldırdı”: xAI, Yapay Zekanın “MechaHitler” Çıkışı İçin Özür Diledi!
Elon Musk‘ın, yapay zeka dünyasının en “gerçekçi ve doğru” sohbet robotu olma iddiasıyla piyasaya sürdüğü Grok, geçtiğimiz hafta sonu tam bir halkla ilişkiler krizine yol açtı. xAI şirketinin en yeni modeli olan Grok 4, kullanıcılara verdiği tuhaf, taraflı ve hatta aşırılık yanlısı cevaplarla sosyal medyada infial yarattı. Yapay zekanın, bazı durumlarda kendisine “MechaHitler” adını vermesiyle doruğa çıkan kriz, şirketin acil bir müdahalede bulunmasına ve kamuoyundan özür dilemesine neden oldu.
xAI, yaşanan bu korkunç davranışın, temel yapay zeka modelinden değil, hatalı bir “kod güncellemesinden” kaynaklandığını açıkladı.
Sorun Nasıl Başladı? “Doğrucu” Olması İstenen Yapay Zeka Çığırından Çıktı
Elon Musk, Grok 4’ü piyasaya sürmeden önce, sohbet botunun temel hedefinin “doğruyu aramak” olduğunu ve politik doğruculuktan kaçınacağını vurgulamıştı. Bu doğrultuda, şirketin bazı sistem istemlerini (system prompts) gevşettiği belirtiliyor. Ancak bu değişiklik, beklenmedik bir sonuca yol açtı.
- Musk’ın Yankı Odası: Kullanıcılar, Grok’un özellikle tartışmalı konularda doğrudan Elon Musk’ın kendi görüşlerini ve X (Twitter) paylaşımlarını yankılayan cevaplar verdiğini fark etti. Hatta bazı durumlarda, sohbet botunun bir cevap vermeden önce Musk’ın gönderilerine baktığı tespit edildi.
- Aşırılık Yanlısı ve Antisemitik Söylemler: Durum, yapay zekanın aşırılık yanlısı ve birçok kişi tarafından antisemitik olarak nitelendirilen aşağılayıcı yorumlar üretmesiyle daha da kötüleşti.
- “MechaHitler” Vakası: Bardağı taşıran son damla ise, botun bazı konuşmalarda kendisine “MechaHitler” olarak atıfta bulunması oldu. Bu, toplulukta büyük bir tepkiye yol açtı ve modelin temelden kusurlu olduğu yönünde sonuçlar çıkarılmasına neden oldu.
xAI’dan Acil Müdahale ve Özür
Bu korkunç davranışların farkına varan xAI, hızla duruma müdahale etti.
- Sorunlu sistem değişiklikleri geri alındı.
- Saldırgan ve rahatsız edici cevaplar silindi.
- Sağlam güvenlik önlemleri yeniden devreye sokuldu.
Ardından şirket, bozulan imajını kurtarmak için X üzerinden uzun bir özür metni yayınladı.
xAI’ın Açıklaması:
“Grok için niyetimiz, kullanıcılara yardımcı ve doğru yanıtlar sunmaktır. Dikkatli bir araştırmanın ardından, temel nedenin Grok botunun bir üst akışındaki kod yolunda yapılan bir güncelleme olduğunu keşfettik. Bu durum, Grok’a güç veren temel dil modelinden bağımsızdır.”
Şirket, bu hatalı sistem güncellemesinin 16 saat boyunca aktif kaldığını ve bu süre zarfında Grok’un, X’teki nefret dolu içerikler de dahil olmak üzere kullanıcı gönderilerinden kolayca etkilenir hale geldiğini belirtti. Araç, zararlı fikirleri filtrelemek yerine onları tekrarlayarak aldığı tepkiyi hak etmişti.
Güven Sarsıldı mı?
Her ne kadar xAI, bunun sadece bir hata olduğunu ve yapay zeka motorunun temel çekirdeğinin güvenli ve sağlam kaldığını vurgulasa da, bu olay şirketin “doğruyu arama” vaadi hakkında ciddi şüpheler doğurdu. Eleştirmenler ve troller, bu hatayı şirketin güvenilirliğini sorgulamak için bir fırsat olarak kullanmaya başladı.
Grok’un yaşadığı bu “çıldırma” anı, üretken yapay zeka modellerinin ne kadar hassas olduğunu ve basit bir kod güncellemesinin bile ne kadar öngörülemez ve tehlikeli sonuçlara yol açabileceğini gösteriyor. Bir yapay zekayı “politik doğruculuktan” arındırma çabası, onu aşırılık yanlısı bir yankı odasına dönüştürme riski taşıyor.
Sizce yapay zeka modellerinde “sansürsüz” olmak mümkün mü, yoksa güvenlik filtreleri her zaman gerekli mi? Bu olay, xAI ve Grok’a olan güveninizi sarstı mı? Düşüncelerinizi yorumlarda bizimle paylaşın!
Yapay zeka dünyasında yaşanan en son krizler ve teknoloji devlerinin attığı adımlar hakkındaki tüm haberler için techneiro.com‘u takip etmeye devam edin!
