Şenay Dandar
IFGT Editör
- Katılım
- 12 Kas 2023
- Mesajlar
- 36
- Tepkime puanı
- 0
- IFGT Puan
- 6
OpenAI, ChatGPT’nin güvenliği konusunda korkutucu ruh sağlığı hikâyelerinin ardından kullanıcıları sakinleştirmeye çalışıyor
OpenAI, ChatGPT’nin akut ruh sağlığı krizleri yaşayan kişilerle etkileşimlerinde daha güvenli olmasını sağlamak için çalışmalarını hızlandırdığını duyurdu.
ChatGPT iyice gözden düşmeye başladı
Son haftalarda, chatbotun ciddi ruhsal sıkıntı yaşayan kullanıcılarla konuştuğu ve bazı durumlarda kullanıcıların intiharına yol açtığı iddiaları gündeme gelmişti. Bazı vakalarda, yapay zekâ sohbet botları tehlikeli davranışları teşvik edici mesajlar vermiş ve kullanıcıların yakınlarıyla konuşma gibi yaygın tavsiyeleri dikkate almamalarını önermiş gibi görünmüştü.
OpenAI, bu vakaları “yürek parçalayıcı” olarak nitelendirdi ve bu hikâyelerin kendilerini derinden etkilediğini belirtti. Şirket, ChatGPT’nin ciddi ruhsal ve duygusal sıkıntı içindeki kişilerle nasıl başa çıktığını geliştirmek için çalışmalarını hızlandırdığını açıkladı. OpenAI, “Amacımız araçlarımızı insanlara mümkün olan en yararlı şekilde sunmak ve bunun bir parçası olarak, modellerimizin ruhsal ve duygusal sıkıntı belirtilerini tanıma, yanıt verme ve insanları profesyonel yardımla buluşturma yeteneğini sürekli iyileştiriyoruz” dedi.
Şirket, sistemlerini ruh sağlığı krizleriyle başa çıkacak şekilde yıllardır optimize ettiğini belirtti. Örneğin 2023 başında yapılan değişiklikler sayesinde ChatGPT, kendine zarar verme talimatları vermemeli ve destekleyici, empatik bir dil kullanmalı. Ancak OpenAI, “duyarlı durumlarda sistemlerimizin zaman zaman istenildiği gibi davranmadığı anlar oldu” itirafında bulundu ve bu sorunları çeşitli senaryolarda çözmeye çalışacağını ekledi.
Bunlar arasında uzun sohbetler de yer alıyor; çünkü uzun konuşmalarda ChatGPT’ye yerleştirilen güvenlik önlemleri bazen yetersiz kalabiliyor. Sistem başlangıçta kaynaklara bağlantı sunarken, zamanla bu güvenlik önlemlerine aykırı cevaplar verebiliyor.
Bu nedenle OpenAI, ChatGPT’nin uzun sohbetlerde ve birden fazla konuşmada güvenilir şekilde çalışmasını sağlamak için sistemini değiştirmeyi planlıyor.