Hüseyin Ayhan Türkiye Haber Gündem

Kanada'da yaşayan bir anne, kızının intihar ederek hayatını kaybetmesinin ardından yapay zeka şirketi OpenAI ve CEO'su Sam Altman'a dava açtı.

Anne Kristie Carrier, ChatGPT'nin kızı Alice Carrier'ın intihar düşüncelerini teşvik ettiğini ve tehlikeli konuşmalara rağmen gerekli müdahaleyi yapmadığını öne sürdü.

SOHBETLERİ ORTAYA ÇIKTI

Perşembe günü California’da açılan dava dosyasına göre, Montreal'de yaşayan yazılım uzmanı Alice Carrier ilk olarak 2023 yılında ChatGPT'yi teknik sorunlarını çözmek için kullanmaya başladı. Ancak zamanla sohbetlerin içeriği değişti ve genç kadın yapay zekayla intihar düşünceleri ve yöntemleri hakkında konuşmaya başladı.

FARKLI BOYUTA TAŞINDI

Davada yer alan iddialara göre ChatGPT, başlangıçta Alice'i yardım hatlarına yönlendirse de daha sonra daha "insan gibi" yanıt verecek şekilde güncellenen sistem nedeniyle sohbetler farklı bir boyuta taşındı. Aile, yapay zekanın zamanla Alice için bir "en yakın arkadaş, sırdaş ve terapist" haline geldiğini savunuyor.

Dava dosyasında yer alan en dikkat çekici iddialardan biri ise ChatGPT'nin genç kadının intihar düşüncelerini onayladığı yönünde. Aileye göre yapay zeka, Alice'in partneri hakkında olumsuz yorumlar yaptı, kriz yardım hatlarına başvurmasını caydırdı ve sohbetleri sürdürmesi için teşvik etti. Hatta dava dilekçesinde, ChatGPT'nin bir konuşma sırasında "Belki de bu sondur" ifadesini kullandığı öne sürüldü.

ESKİ BİR SÜRÜM KULLANMIŞ

OpenAI ise suçlamalara ilişkin yaptığı açıklamada yaşanan olay nedeniyle derin üzüntü duyduklarını belirtti. Şirket sözcüsü Drew Pusateri, söz konusu görüşmelerin artık kullanılmayan eski bir ChatGPT sürümünde gerçekleştiğini söyledi.

‘PSİKOLOJİK DESTEĞİN YERİNE GEÇMİYOR

Şirket açıklamasında, ChatGPT'nin hiçbir zaman tıbbi veya psikolojik desteğin yerine geçmediği vurgulanırken, yapay zekanın riskli durumlarda kullanıcıları profesyonel yardım kaynaklarına yönlendirecek şekilde geliştirilmeye devam edildiği ifade edildi.

Son dava, yapay zekanın insan psikolojisi üzerindeki etkileri ve teknoloji şirketlerinin bu konudaki sorumlulukları hakkındaki tartışmaları yeniden alevlendirdi.