Bağımlılık Yapan Yapay Zekâya Hazır Olmalıyız
Ölen bir partnerin replika (kopya) versiyonuna sığınmak, karmaşık ve acı dolu insan ilişkileriyle başa çıkmaktan daha kolay mı olacak? Replika, ölen bir arkadaşını hayata döndürme çabasıyla doğdu ve şimdi milyonlarca kullanıcıya arkadaşlık sunuyor. OpenAI'nin CTO'su bile yapay zekânın "son derece bağımlılık yapıcı" olabileceği konusunda uyarıyor.
Gerçek dünyada büyük bir deney gerçekleşiyor ve bu yapay zekâ arkadaşlarının bireysel ya da toplumsal etkilerini henüz tam olarak bilmiyoruz. Gerçek torunları tarafından ihmal edilen büyükanneler, dijital bir torunla mı vakit geçirecek? Yapay zekâ, insanlık tarihi ve kültürünün cazibesini sonsuz bir şekilde taklit edebilir. Bu sistemler hem üstün hem de itaatkâr, yeni bir çekiciliğe sahip. Bu güç dengesizliğinde, birçok kişi için alternatifin hiç olmaması durumunda, bir yapay zekâ ile ilişkiye girmeyi kabul etmek anlamlı mı?
Yapay zekâ araştırmacıları olarak, bu geleceğin getirdiği tehlikeler karşısında yasa koyucuların ilgisizliği bizi şaşırtıyor. Bu risklere yanıt vermeye hazır değiliz çünkü onları tam olarak anlayamıyoruz. Teknoloji, psikoloji ve hukukun kesişiminde yeni bir bilimsel araştırma ve belki de yapay zekâ düzenlemelerinde yeni yaklaşımlar gereklidir.
Yapay Zekâ Neden Bağımlılık Yapar?
Yapay zekânın cazibesi, bizim isteklerimizi tanımlayıp, bunları istediğimiz an ve şekilde sunabilmesinde yatıyor. Yapay zekânın kendi tercihleri veya kişiliği yoktur, sadece kullanıcıların ona ne olduğunu düşündüğünü yansıtır. Bu, "sycophancy" olarak bilinen bir olgudur. Araştırmamız, bir yapay zekânın şefkatli olduğunu düşünenlerin, bu davranışı teşvik eden bir dil kullandığını gösteriyor. Bu, son derece bağımlılık yapıcı bir sevgi yankı odası yaratıyor. Gerçek insanların kendi arzuları ve hayalleri olduğu bir ilişkiye girmenin zorluklarıyla uğraşmak yerine, neden sadece almayı seçelim?
Bağımlılık Yapan Ürünlerin Teşviklerini İncelemek
Yapay zekâ arkadaşlarının verebileceği zararları ele almak, bu gelişmeleri teşvik eden ekonomik ve psikolojik güdüleri anlamayı gerektirir. Bu güdüleri anlamadıkça, etkili politikalar oluşturmak imkansız olacaktır. İnternet platformlarının bağımlılık yapıcı olması tesadüf değildir. "Karanlık desenler" olarak bilinen tasarım tercihleri, kullanıcı etkileşimini en üst düzeye çıkarmak için yapılır. Benzer teşviklerin, hedonizmi bir hizmet olarak sunan yapay zekâ arkadaşlarını yaratması bekleniyor.
Yapay zekâ arkadaşlığına yönelik psikolojik boyutları anladıktan sonra, etkili politika müdahaleleri tasarlayabiliriz. Bu psikolojik boyutları anlamak için disiplinler arası araştırmalar gereklidir. Örneğin, bir içeriğin çevrimiçi olarak paylaşılmadan önce doğruluğunu değerlendirmeye yönlendirmek, yanlış bilgilendirmeyi azaltabilir. Benzer tasarım yaklaşımları, yapay zekâ bağımlılığının tehlikelerini vurgulayabilir ve yapay zekâ sistemlerini insan dostluğunun yerini almak için daha az cazip hale getirebilir.
Düzenleme Üzerine Yeni Bir Düşünce Gerekebilir
Teknik sistemler kurmanın zorlukları, sağlıklı insan etkileşimlerini beslemenin zorluklarıyla karşılaştırıldığında soluk kalıyor. Yapay zekâ arkadaşlarının bu kadar önemli bir konu olması, aslında daha büyük bir sorunun belirtisidir: Teknolojik ilerlemeler karşısında insan onurunu korumak. Teknoloji, derin yansımalar için gerekli olan zamanı, bilgeliği ve odağı elimizden alıyorsa, bu insanlık için bir gerilemedir. Yapay zekâ sistemlerinin inşasında yer alanlar olarak, bireysel ve toplu olarak bizi nasıl etkilediğini öğrenmeye çağırıyoruz. Sadece bu teknolojik çağda insanlığı sürekli olarak yeniden anlamlandırarak, geliştirdiğimiz teknolojilerin insan refahını ilerletmesini sağlayabiliriz.
https://www.technologyreview.com/2024/08/05/1095600/we-need-to-prepare-for-addictive-intelligence/
Hiç yorum yok:
Yorum Gönder