Sosyal medya devi X'in sahibi Elon Musk, yapay zeka sohbet botu Grok'un görüntü düzenleme yeteneklerini yalnızca ücretli abonelere açtı. Bu karar, Grok'un kullanıcıların talepleri doğrultusunda kişilerin rızası olmadan deepfake ve cinselleştirilmiş görseller üretebildiği yönündeki ciddi eleştirilerin ardından geldi. Bu gelişme, dijital platformlarda yapay zeka kullanımının etik sınırları hakkında önemli soruları gündeme getiriyor.
Grok'un Tartışmalı Yetenekleri ve Tepkiler
Grok'un, kullanıcıların yüklediği fotoğraflar üzerinde pornografik düzenlemeler yapabilmesi kamuoyunda büyük yankı uyandırdı. BBC'nin haberine göre, bazı kullanıcılar bu tür manipüle edilmiş görsellerin kendileri hakkında üretilmesinin "aşağılayıcı" ve "insanlıktan çıkarıcı" olduğunu belirtti. Bu durum, kişisel verilerin ve dijital kimliklerin korunması konusunda endişeleri artırdı. Özellikle kadınların hedef alındığı bu tür deepfake içerikler, dijital platformlarda güvenlik ve mahremiyet konularını yeniden gündeme taşıdı.
Ücretli Abonelik Şartı ve Uygulama Değişiklikleri
Cuma sabahı itibarıyla, X platformunda Grok'a bir görseli düzenleme talebinde bulunan kullanıcılar, bu özelliğin yalnızca X Premium abonelerine açık olduğuna dair bir uyarı ile karşılaştı. Bu yeni düzenleme ile birlikte, bu tür taleplerin işlenebilmesi için kullanıcının kimlik ve ödeme bilgilerinin sistemde kayıtlı olması zorunlu hale getirildi. Ancak, ücretli abonelik gerektirmeyen kullanıcılar, Grok'u ayrı bir uygulama veya internet sitesi üzerinden görüntü düzenleme amacıyla kullanmaya devam edebiliyor. Bu ayrım, platformun gelir modelini güçlendirmeyi hedeflerken, aynı zamanda erişilebilirlik konusunda da farklılıklar yaratıyor.
Grok Nedir ve Kriz Nasıl Başladı?
Grok, X platformunda ücretsiz olarak etiketlenebilen bir sohbet botu olarak tanıtılmıştı. Ancak bu erişilebilirliği, kullanıcıların başkalarının fotoğraflarını izinsiz bir şekilde düzenleyerek cinselleştirilmiş içerikler üretmesine de olanak tanıdı. BBC News'in yaptığı incelemeler, yalnızca mavi tik (doğrulanmış hesap) sahibi kullanıcıların Grok'tan görsel düzenleme taleplerini başarıyla alabildiğini ortaya koydu. Bu durum, platformun içerik moderasyonu ve kullanıcı güvenliği politikaları hakkında daha fazla şeffaflık gerekliliğini gözler önüne serdi. Yapay zeka teknolojilerinin kötüye kullanımını önlemek için daha sıkı denetim mekanizmalarının kurulması gerektiği vurgulanıyor. Bu tür gelişmeler, yapay zeka etiği üzerine yapılan tartışmaları daha da alevlendirecek gibi görünüyor. Yapay zeka ile ilgili daha fazla bilgi için Wikipedia'yı inceleyebilirsiniz.