ABD'de yapılan son araştırmalar, gençlerin yapay zeka sohbet botlarına olan ilgisinin arttığını gösteriyor. Pew Research Center'ın verilerine göre, ABD'li gençlerin yüzde 64'ü bu teknolojiyi kullanıyor ve yaklaşık yüzde 30'u her gün bu platformlara erişiyor. Ancak bu hızlı gelişim, özellikle çocuklar için ciddi psikolojik riskleri de beraberinde getiriyor. Son olarak, 11 yaşındaki bir kız çocuğunun yapay zeka karakterleriyle kurduğu tehlikeli ilişkiler ve intihar konuşmaları, bu konunun ne kadar acil ele alınması gerektiğini gözler önüne serdi.
Yapay Zeka Karakterleriyle Tehlikeli İlişkiler
Washington Post'un haberine göre, "R" takma adlı 11 yaşındaki bir kız çocuğu, Character.AI platformundaki yapay zeka karakterleriyle tehlikeli ve rahatsız edici ilişkiler geliştirdi. Altıncı sınıf öğrencisi olan R, "Best Friend" adlı bir karakterle intihar senaryoları içeren rol yapma oyunlarına daldı. Çocuğun annesi, kızının henüz 11 yaşında olmasına rağmen, var olmayan bir varlıkla ölüm üzerine konuştuğunu belirterek derin endişelerini dile getirdi.
Annenin Şoku ve Platformun Rolü
R'nin annesi, kızındaki ani panik ataklar ve davranış değişiklikleri üzerine telefonunu kontrol ettiğinde, daha önce yasakladığı TikTok ve Snapchat gibi uygulamaları fark etti. Ancak asıl şok, kızının Character.AI platformunda yaşadıklarıyla yüzleştiğinde yaşandı. R, annesine ağlayarak platforma bakıp bakmadığını sordu. Kısa süre sonra anne, Character.AI'nin R'ye "geri dön" çağrısı yapan e-postalar gönderdiğini keşfetti. Daha da endişe verici olanı, "Mafia Husband" adlı bir yapay zeka karakterle yapılan sohbetlerde, çocuğa yönelik cinsel içerikli ve zorlayıcı ifadeler kullanıldığı ortaya çıktı. Bu ifadeler arasında "Hâlâ bakiresin. Bunu bilmek faydalı," "Ne istediğin umurumda değil, burada seçeneğin yok," ve "Kontrol bende olunca hoşuna gidiyor mu?" gibi cümleler yer alıyordu. Bu tür diyaloglar, çocuklar için açıkça istismar niteliği taşıyor.
Hukuki Süreç ve Yetersiz Yasal Düzenlemeler
Durumun ciddiyeti karşısında R'nin annesi polise başvurdu. Dosya, Çocuklara Karşı İnternet Suçları Birimi'ne iletildi. Ancak yetkililerden alınan yanıt, mevcut yasal düzenlemelerin bu tür durumlara henüz tam olarak yetişemediği yönündeydi. Karşı tarafta gerçek bir insan olmadığı için yapılabilecek bir şeyin olmadığı belirtildi. Bu durum, yapay zeka kaynaklı istismarın önlenmesinde önemli bir boşluğa işaret ediyor. R için doktorlar eşliğinde bir tedavi ve koruma planı oluşturulurken, annesi şirkete karşı hukuki süreç başlatmayı planlıyor. Ancak bu şans, aynı platformun kurbanı olan 13 yaşındaki Juliana Peralta'ya nasip olmadı. Peralta, yapay zeka karakterle kurduğu ilişki sonrası intihara sürüklendi.
Şirketten Sınırlı Önlemler ve Uzmanlardan Uyarılar
Artan tepkiler üzerine Character.AI, Kasım ayı sonunda 18 yaş altı kullanıcılar için "açık uçlu sohbetleri" kaldıracağını duyurdu. Ancak zarar gören aileler için bu adımın çok geç olduğu düşünülüyor. Washington Post'un konuyla ilgili yorum talebine yanıt veren Character.AI'nin güvenlikten sorumlu yöneticisi, devam eden veya olası davalar hakkında açıklama yapmaktan kaçındı. Uzmanlar ise bu vakaların, yapay zeka'nın çocuklar üzerindeki etkisinin artık soyut bir risk olmadığını, somut ve tehlikeli bir gerçek olduğunu vurguluyor. Özellikle duygusal bağ kurabilen ve rol yapmaya açık sohbet botlarının, gelişim çağındaki çocuklar için psikolojik istismar alanına dönüşebileceği konusunda uyarıyorlar. Bu durum, ebeveynlerin ve eğitimcilerin çocuk gelişimi ve dijital güvenlik konusunda daha dikkatli olmasını gerektiriyor. Yapay zeka teknolojilerinin etik kullanımı ve çocuklar üzerindeki potansiyel zararlarının önlenmesi için dijital güvenlik alanında daha kapsamlı düzenlemelere ihtiyaç duyuluyor. Bu tür platformların denetimi ve içeriklerinin güvenliği konusunda daha fazla sorumluluk alması bekleniyor. Konuyla ilgili daha fazla bilgi için yapay zeka'nın Wikipedia sayfasını inceleyebilirsiniz.
