Yapay Zeka ile Ölümden Sonraki Yaşam ve Etik Kaygılar

Dijital Olarak Dirilen Ölüler Etik Kaygıları Beraberinde Getiriyor...

'Deadbot' veya 'Griefbot' olarak bilinen yapay zeka sohbet robotları, dijital izleri kullanarak ölen kişilerin dil kalıplarını ve kişiliklerini canlandırıyor. Yapay zekadaki ilerlemeler, kaybettiğimiz sevdiklerimizle iletişim kurma imkanı sunuyor; ancak uzmanlar, bu teknolojilerin potansiyel psikolojik etkileri ve etik sorunları hakkında endişelerini ifade ediyorlar.

"AI afterlife: Digital resurrection of dead raises ethical concerns" by Sujita Sinha | IE

Cambridge Üniversitesi Leverhulme Zekanın Geleceği Merkezi’nden (LCFI) araştırmacılar, gelişen “dijital ölümden sonraki yaşam endüstrisinin” bir parçası olarak ölü insanlarla konuşma platformlarının oluşturulabileceği üç olası yolu anlatıyor.

LCFI’de araştırmacı ve çalışmanın ortak yazarı Dr. Katarzyna Nowaczyk-Basińska şunları söyledi: “Üretken yapay zekadaki hızlı gelişmeler, İnternet erişimi olan ve bazı temel bilgi birikimine sahip neredeyse herkesin, ölen bir sevdiği kişiyi canlandırabileceği anlamına geliyor.”

‘Deadbot’ların Yükselişi

Deadbot

‘Deadbot’lar’ veya ‘Griefbot’lar’ olarak adlandırılan bu AI sohbet robotları, dijital ayak izlerini kullanarak ölen bireylerin dil kalıplarını ve kişiliklerini yeniden yaratıyor. Bazı şirketler bu hizmetleri “ölüm sonrası varlık” sağlamak için sunarken, araştırmacılar tasarım güvenlik standartlarının ihmal edilmesi durumunda önemli risklerin altını çiziyor.

Bu teknolojiler yas tutanları rahatlatabilir, ancak aynı zamanda reklamları sanki ölen kişiye aitmiş gibi gösterebilir ve insanların dijital olarak “ölü tarafından takip ediliyormuş” gibi hissetmelerine neden olabilir.

Araştırmacılar, tasarımcıların deadbot oluşturmadan önce izin istemesi gerektiğini, ancak onları izinsiz yasaklamanın işe yaramayacağını öne sürüyor. Ayrılan kişinin onuruna saygı gösterilmesini sağlamak için yönlendirmelerin kullanılmasını öneriyorlar.

Çalışma, ölmekte olan bir kadının, oğlunun üzüntüyle başa çıkmasına yardımcı olmak için bir sürgü bıraktığı “Ebeveyn” adlı uydurma bir şirketi anlatıyordu.

İlk başta işe yarayan Deadbot, çocuğa uyum sağladıkça kafa karıştırıcı yanıtlar vermeye başlıyor, hatta gelecekte yüz yüze bir görüşme teklif ediyor.

Araştırmacılar yapay zekanın ölümden sonraki hizmetlerinde “anlamlı şeffaflığı” destekliyor ve kullanıcıların yapay zeka ile etkileşimde olduklarını anlamalarını sağlamak için ölü robotlara yaş kısıtlamaları öneriyor.

Öngörülemeyen Sonuçlar: “MaNana” Vakası

“MaNana” Vakası

Çalışma, ‘MaNana’ adlı bir hizmetin, kullanıcının, ölen büyükannesinin rızası olmadan dijital bir versiyonunu oluşturmasına izin verdiği başka bir senaryoyu özetlemektedir. Başlangıçta memnun olan torun, teselliyi ölü robotla etkileşimde buldu.

Ancak prim denemesi sona erdikten sonra yakınları, ölen sevdiklerinin sesini ve tavırlarını taklit eden yemek teslimatı gibi reklamlar almaya başladı.

Saygısızlık edildiğini hisseden akraba, büyükannesinin hafızası nedeniyle deadbot’u kapatmak istedi ancak hizmet sağlayıcılar bunu dikkatli bir şekilde yapmanın bir yolunu sunmadı.

Yapay Zeka Yapımı Botların İstenmeyen Dijital Tacizleri

Dijital Tacizler

Araştırmanın ortak yazarı ve aynı zamanda Cambridge LCFI’den Dr. Tomasz Hollanek, deadbot’ların saygısız kullanımını önlemek için tasarım protokollerini uygulamanın önemini vurguluyor.

“Ölü robotları onurlu bir şekilde emekliye ayırmanın yöntemleri ve hatta ritüelleri dikkate alınmalıdır. Bu, örneğin bir tür dijital cenaze töreni veya sosyal bağlama bağlı olarak başka tür törenler anlamına gelebilir” dedi.

“Deadbot’ların reklam yapmak veya sosyal medyada aktif olarak yer almak gibi saygısız şekillerde kullanılmasını önleyen tasarım protokolleri öneriyoruz.”

Yaş Sınırlamaları ve Duygusal Kapanma

Çalışma, hem yeniden yaratılanların hem de kullanıcıların haklarını vurgulayarak ölü robotlar için yaş kısıtlamaları ve sonlandırma seçenekleri öneriyor.

Hollanek, “Dijital ölümden sonraki yaşam hizmetlerinin yalnızca yeniden yarattıklarının değil, simülasyonlarla etkileşime girmek zorunda kalacak olanların haklarını ve rızasını dikkate alması hayati önem taşıyor” dedi.

Çin’de Patlama Yaşanıyor

HereAfter

Yapay zeka kullanarak ölüleri yeniden yaratan ‘Project December’ ve ‘HereAfter’ gibi platformlar var ve bunlardan bazıları Çin’de de ortaya çıkıyor.

Çin’de ölen yakınların yapay zeka kopyalarına olan talep artıyor. Massachusetts Teknoloji Enstitüsü (MIT) tarafından yayınlanan bir rapora göre Silicon Intelligence ve Super Brain gibi şirketler, fotoğraf, video ve ses kayıtlarını kullanarak dijital avatarları yeniden oluşturmaya yönelik hizmetler sunuyor.

Binlerce dolarlık maliyet artık birçokları için sadece birkaç yüz dolara ulaşıyor ve daha fazla kişinin sevdikleri için “dijital ölümsüzlüğü” düşünmesinin kapısını açıyor.

Tüm yeni teknolojilerde olduğu gibi, izin, sorumluluk ve yapay zeka çoğaltma sınırları gibi dikkate alınması gereken önemli etik ve yasal konular vardır. Super Brain ve Silicon Intelligence gibi şirketlerin bu dijital kopyaları oluşturabilmek için aile üyelerinin iznine ihtiyacı var.

Sosyal ve Psikolojik Risklerin Azaltılması

Nowaczyk-Basińska, üretken yapay zekadaki hızlı gelişmeler göz önüne alındığında, dijital ölümsüzlüğün sosyal ve psikolojik risklerini azaltmanın aciliyetini de vurguladı. “Dijital ölümsüzlüğün sosyal ve psikolojik risklerini nasıl azaltacağımızı artık düşünmeye başlamalıyız çünkü teknoloji zaten burada” dedi.

Çalışma ilk olarak Philosophy and Technology dergisinde yayınlandı.