OpenAI, ChatGPT kullanıcılarının olası kriz durumlarında daha hızlı destek alabilmesini amaçlayan yeni “Trusted Contact” yani güvenilir kişi özelliğini duyurdu. Yeni sistem sayesinde kullanıcılar, hesaplarına bir aile üyesi ya da yakın arkadaşını güvenilir kişi olarak ekleyebilecek.
Özellik, kullanıcının kendine zarar verme ya da intihar eğilimine işaret eden ciddi içerikli konuşmalar gerçekleştirmesi halinde devreye giriyor. Böyle bir durumda ChatGPT, ilk olarak kullanıcıyı doğrudan belirlediği güvenilir kişiyle iletişim kurmaya yönlendiriyor ve konuşmayı başlatabilmesi için çeşitli öneriler sunuyor.
OpenAI’nin paylaştığı bilgilere göre süreç tamamen yapay zekâ tarafından yönetilmiyor. Şirketin özel eğitim almış insan inceleme ekibi, riskli görülen konuşmaları değerlendiriyor. Yapılan inceleme sonucunda ciddi bir risk tespit edilirse, kullanıcının daha önceden belirlediği güvenilir kişiye e-posta, SMS veya uygulama bildirimi gönderilebiliyor.
Şirket, gönderilen bildirimlerde kullanıcı gizliliğinin korunduğunu özellikle vurguluyor. Güvenilir kişilere yalnızca genel bir güvenlik uyarısı iletiliyor; sohbet içerikleri, mesaj kayıtları veya konuşma özetleri paylaşılmıyor.
Sistemi kullanabilmek için kullanıcıların 18 yaşından büyük bir kişiyi davet etmesi gerekiyor. Güney Kore’de ise bu yaş sınırı 19 olarak uygulanıyor. Davet edilen kişinin, özelliğin aktif hale gelmesi için gönderilen daveti bir hafta içinde kabul etmesi şart koşuluyor.
OpenAI ayrıca güvenlik bildirimlerinin mümkün olduğunca hızlı incelenmesini hedeflediklerini ve değerlendirme sürecinin bir saatten kısa sürede tamamlanmasının amaçlandığını açıkladı. Şirket, bu özelliğin geliştirilmesi sırasında klinisyenler, akademisyenler ve intiharı önleme alanında çalışan kuruluşlarla iş birliği yaptığını da belirtti.
Yeni özellik, yapay zekâ destekli sohbet botlarının ruh sağlığı üzerindeki etkilerinin yoğun şekilde tartışıldığı bir dönemde duyuruldu. Son yıllarda ChatGPT ile yapılan konuşmaların ardından yaşanan bazı trajik olaylar, teknoloji şirketleri üzerindeki güvenlik önlemlerini artırma baskısını önemli ölçüde yükseltmişti.
