Robot Terapistim: Çocuklar İçin Yapay Zeka Terapistler Etik mi?

Robot Terapistim: Çocuklar için AI Ruh Sağlığı Chatbotlarının Etiği

ABD’de ruh sağlığı hizmetlerine erişim zor olabiliyor. Sigorta kapsamı düzensiz, ruh sağlığı uzmanlarının sayısı ulusal ihtiyacı karşılamaya yetmiyor; bu da uzun bekleme sürelerine ve pahalı bakıma yol açıyor.

İşte burada yapay zeka (AI) devreye giriyor.

Ruh hali izleyicilerden insan terapistleri taklit eden chatbotlara kadar uzanan AI ruh sağlığı uygulamaları, piyasada hızla çoğalıyor. Bu uygulamalar, sistemdeki boşlukları doldurmak için ucuz ve erişilebilir bir yol sunabilirken, özellikle çocuklar için AI’ya aşırı bağımlılığın etik kaygıları da gündeme geliyor.

Çoğu AI ruh sağlığı uygulaması düzenlenmemiş ve yetişkinler için tasarlanmış durumda, ancak çocuklarla kullanımı üzerine artan bir tartışma var. Rochester Üniversitesi Tıp Merkezi (URMC)’den Sağlık İnsani Bilimler ve Biyoetik Yardımcı Doçenti Bryanna Moore, PhD, bu tartışmalara etik boyutların da dahil edilmesini istiyor.

Moore, “Kimse çocukların farklılıklarından bahsetmiyor – zihinlerinin nasıl çalıştığı, aile birimi içindeki yerleri, karar verme süreçlerinin farklılığı,” diyor ve bu endişelerini The Journal of Pediatrics’te yayımlanan yakın tarihli bir yorumda paylaşıyor. “Çocuklar özellikle savunmasız. Sosyal, duygusal ve bilişsel gelişimleri, yetişkinlerden farklı bir aşamada.” Çalışma, 31 Mart 2025 tarihinde kamuoyuyla paylaşıldı.

Çocukların Sosyal Gelişimi Riskte mi?

AI ruh sağlığı chatbotları, çocukların sosyal gelişimini olumsuz etkileyebilir. Kanıtlar, çocukların robotların “ahlaki statüye ve zihinsel yaşama” sahip olduğuna inandığını gösteriyor; bu da özellikle küçük çocukların, insanlarla sağlıklı ilişkiler kurma pahasına chatbotlara bağlanma riskini artırıyor.

Bir çocuğun sosyal bağlamı – ailesi ve akranlarıyla ilişkileri – ruh sağlığı için ayrılmaz bir parça. Bu nedenle pediatrik terapistler, çocukları izole bir şekilde tedavi etmez; çocuğun güvenliğini sağlamak ve aile üyelerini terapi sürecine dahil etmek için aile ve sosyal ilişkileri gözlemler. AI chatbotları, bu önemli bağlamsal bilgilere erişemez ve bir çocuğun tehlikede olduğu durumlarda müdahale fırsatlarını kaçırabilir.

Sağlık Eşitsizliklerini Artırma Riski

AI chatbotları – ve genel olarak AI sistemleri – mevcut sağlık eşitsizliklerini kötüleştirme eğiliminde.

Felsefe ve Sağlık İnsani Bilimler ve Biyoetik Bölümleri Yardımcı Doçenti ve yorumun ortak yazarı Jonathan Herington, PhD, “AI, yalnızca eğitildiği veriler kadar iyidir. Herkes için çalışan bir sistem inşa etmek için, herkesi temsil eden veriler kullanmanız gerekir,” diyor ve ekliyor: “Ne yazık ki, temsili veri setleri oluşturmak için gerçekten dikkatli çabalar gösterilmezse, bu AI chatbotları herkese hizmet edemez.”

Bir çocuğun cinsiyeti, ırkı, etnik kökeni, yaşadığı yer ve ailesinin relatif zenginliği, istismar, ihmal, sevilen birinin hapse girmesi veya evde ya da toplumda şiddet, madde bağımlılığı veya akıl hastalığı gibi olumsuz çocukluk olaylarıyla karşılaşma riskini etkiler. Bu olayları yaşayan çocuklar, yoğun ruh sağlığı hizmetlerine daha çok ihtiyaç duyar ve bunlara erişme olasılığı daha düşüktür.

Herington, “Daha az imkana sahip çocuklar, insan-insan terapisini karşılayamayabilir ve bu nedenle insan-insan terapisi yerine bu AI chatbotlarına bağımlı hale gelebilir,” diyor ve ekliyor: “AI chatbotları değerli araçlar olabilir, ancak asla insan terapisinin yerini almamalı.”

Düzenleme Eksikliği

Çoğu AI terapi chatbotu şu anda düzenlenmemiştir. ABD Gıda ve İlaç Dairesi (FDA), yalnızca yetişkinlerde majör depresyonu tedavi etmek için bir AI tabanlı ruh sağlığı uygulamasını onayladı. Düzenlemeler olmadan, yanlış kullanım, raporlama eksikliği veya eğitim verilerinde ya da kullanıcı erişiminde eşitsizliğe karşı koruma sağlamak mümkün değil.

Moore, “Henüz yanıtlanmamış veya açıkça ifade edilmemiş pek çok açık soru var,” diyor ve ekliyor: “Bu teknolojinin tamamen iptal edilmesini savunmuyor. AI’yi veya terapi botlarını ortadan kaldıralım demiyoruz. Diyoruz ki, özellikle çocuklar ve ruh sağlığı bakımı gibi bir popülasyon söz konusu olduğunda, bunları nasıl kullandığımız konusunda düşünceli olmalıyız.”

Moore ve Herington, bu yorumda SUNY Upstate Tıp Merkezi Biyoetik ve İnsani Bilimler Merkezi’nde Doçent Şerife Tekin, PhD ile iş birliği yaptı. Tekin, psikiyatri felsefesi, bilişsel bilimler ve tıpta AI kullanımının biyoetiği üzerine çalışıyor.

Gelecek Adımlar

İleride ekip, AI tabanlı terapi chatbotlarını nasıl geliştirdiklerini daha iyi anlamak için geliştiricilerle iş birliği yapmayı umuyor. Özellikle, geliştiricilerin etik veya güvenlik hususlarını geliştirme sürecine ne ölçüde dahil ettiğini ve AI modellerinin çocuklar, ergenler, ebeveynler, pediatristler veya terapistlerle yapılan araştırma ve etkileşimlerden ne derece bilgilendirildiğini öğrenmek istiyorlar.

Bilimsel Referans

Bryanna Moore, Jonathan Herington, Şerife Tekin. The Integration of Artificial Intelligence-Powered Psychotherapy Chatbots in Pediatric Care: Scaffold or Substitute? The Journal of Pediatrics, 2025; 280: 114509 DOI: 10.1016/j.jpeds.2025.114509