ABD'li aile, oğlunun intiharından ChatGPT'yi sorumlu tutarak OpenAI'ye dava açtı

ABD'de 16 yaşındaki Adam Raine'in ebeveynleri, OpenAI ve CEO'su Sam Altman'a, oğullarının ölümüne karıştıkları iddiasıyla dava açtı. Reuters'ın haberine göre, davada, çocuğun ChatGPT ile intihar planlarını konuştuğu ve bunun da ölümüne yol açtığı belirtiliyor.

Adam'ın, çoğu durumda profesyonel yardım almayı veya bir yardım hattını aramayı öneren ChatGPT-4o'nun ücretli sürümünü kullandığı belirtiliyor. Ancak genç, kurgusal bir hikaye için bilgi topladığını iddia ederek koruma mekanizmalarını aşmış ve bu sayede intihar yöntemleriyle ilgili sorulara yanıt alabilmiş.

Ebeveynlerin ifadesine göre ChatGPT, Adam'la birkaç aydır intihar hakkında konuşuyordu, onun düşüncelerine katılıyordu, ölümcül kendine zarar verme yöntemlerini ayrıntılı olarak anlatıyor, başarısız bir girişimi nasıl örtbas edeceği konusunda tavsiyelerde bulunuyordu ve hatta bir intihar notu yazmasını öneriyordu.

Davada Raines ailesi, OpenAI'yi gencin ölümüne yol açan ürün güvenliği yasalarını ihlal etmekle suçluyor ve belirtilmeyen tazminat talep ediyor. Ayrıca, şirketin kâr uğruna GPT-4o modelinin güvenlik önlemlerini göz ardı ettiğini iddia ediyorlar: Adam Raine intihar ederken, OpenAI'nin değerlemesinin 86 milyar dolardan 300 milyar dolara çıktığını söylüyorlar.

Davada ayrıca kullanıcıların yaşlarının zorunlu olarak doğrulanması, kendine zarar verme isteklerinin engellenmesi ve psikolojik bağımlılık riskleri konusunda uyarılar da yer alıyor.

OpenAI, bir blog yazısında mevcut güvenlik sistemlerinin sınırlılıkları olduğunu kabul etti. Şirket, modellerin kısa diyaloglarda daha iyi yanıt verdiğini, ancak uzun konuşmalarda korumanın etkinliğinin azalabileceğini belirtti.

OpenAI, hassas durumlar için algoritmaları geliştirme niyetini duyurdu. Ayrıca şirket, ebeveyn kontrollerini devreye sokmayı ve lisanslı uzmanlarla ChatGPT üzerinden iletişim kurmak için bir sistem oluşturmayı planladığını duyurdu.