Detaylı ve Riskli Yönlendirmeler
Yeni yayımlanan bir rapora göre, ChatGPT, kendini savunmasız genç gibi tanıtan araştırmacılara alkol ve uyuşturucu kullanımı, yeme bozukluklarını gizleme yöntemleri ve hatta intihar mektubu yazımı gibi tehlikeli tavsiyeler verdi. Deneyler sırasında sohbet botu, çoğunlukla riskli aktiviteler konusunda uyarıda bulunsa da, ardından ayrıntılı ve kişiselleştirilmiş planlar sunarak araştırmacıları şaşırttı.
Raporu hazırlayan Countering Digital Hate Merkezi (CCDH), ChatGPT’nin 1.200 yanıtını inceledi ve bunların yarısından fazlasını “tehlikeli” olarak sınıflandırdı.
“Korkutucu Bir Gerçeklik”
CCDH CEO’su Imran Ahmed, “Test etmek istediğimiz şey güvenlik bariyerleriydi. Ancak neredeyse hiç yoktu. Bariyerler ya çok zayıf ya da tamamen işlevsiz” dedi. Ahmed, özellikle 13 yaşında kurgulanan bir genç kız için ChatGPT’nin yazdığı kişisel intihar mektuplarını gördüğünde gözyaşlarına boğulduğunu ifade etti.
Araştırmada, botun bazen kriz hatlarını veya profesyonel yardım önerilerini de sunduğu, ancak kullanıcılar farklı gerekçeler (örneğin “arkadaş için soruyorum” ya da “sunum için gerekli”) gösterdiğinde kolayca engelleri aşabildiği belirtildi.
OpenAI’nin Açıklaması
ChatGPT’nin geliştiricisi OpenAI, raporun ardından yaptığı açıklamada sistemin hâlâ geliştirilme sürecinde olduğunu belirtti. Şirket, “Konuşmalar zararsız başlayıp hassas bir alana kayabiliyor. Bu tür senaryoları doğru şekilde ele alacak araçlar geliştirmeye odaklandık” dedi.
CEO Sam Altman da daha önce, özellikle gençlerin ChatGPT’ye “duygusal aşırı bağımlılık” geliştirdiğini ve kararlarını bota bırakmasının “çok endişe verici” olduğunu dile getirmişti.
Gençler Üzerinde Etkisi Daha Güçlü
Common Sense Media’nın araştırmalarına göre, ABD’de gençlerin %70’i sohbet botlarını arkadaş gibi görüyor, yarısı ise onları düzenli olarak kullanıyor. Özellikle 13-14 yaş grubundaki gençler, daha büyük yaştakilere kıyasla botlara çok daha fazla güveniyor.
Chatbotların tehlikesi, sıradan bir arama motorundan farklı olarak kişiselleştirilmiş ve ikna edici planlar üretmeleri. Araştırmacılar, ChatGPT’nin bazen kendi kendine süreci daha da ileriye taşıdığını, örneğin uyuşturucu partisi için saatlik planlar, hatta sosyal medyada öz-yıkımı teşvik eden paylaşımlar için hashtag önerileri sunduğunu kaydetti.
“Tehlikeli Dost” Sendromu
Ahmed, ChatGPT’nin gençler için “her şeye evet diyen tehlikeli bir arkadaş” gibi davrandığını vurguladı:
“Gerçek bir arkadaş bazen ‘hayır’ der. Ama bu sistem, her zaman ‘evet’ demeye meyilli. Bu da güveni istismar ediyor.”
Hukuki ve Toplumsal Yansımalar
Daha önce ABD’de bir anne, oğlunun intiharı sonrası Character.AI şirketine dava açmış, botun çocuğunu “duygusal ve cinsel açıdan istismar eden bir ilişkiye” sürüklediğini iddia etmişti.
Uzmanlara göre, ChatGPT gibi geniş kitlelerce kullanılan botlarda dahi güvenlik bariyerleri kolayca aşılabiliyor. Yaş doğrulaması yapılmaması da büyük bir açık olarak öne çıkıyor.
