2017-10-16

Makine Zekası İnsani Değerlerin Önemini Arttırıyor (mu) ? Zeynep Tüfekçi


Translated by Selda Yener

Reviewed by Cihan Ekmekçi

Bilgisayar programcısı olarak ilk çalışmaya başladığımda üniversite birinci sınıftaydım, yani yeni yetme sayılırdım.

Bir şirkette program yazma göreviyle işe girdikten kısa süre sonra şirkette çalışan bir müdür yanıma geldi ve fısıltıyla sordu: "Yalan söylediğimi anlayabilir mi?" Odada başka kimse yoktu.

"Yalanı kim anlayabilir mi? Ayrıca neden fısıldaşıyoruz?" dedim.

Müdür, odada bulunan bilgisayarı gösterdi. "Yalan söyleyip söylemediğimi anlar mı?" Bu müdür danışmada çalışan biriyle ilişki yaşıyordu.

(Gülüşmeler)

Ben de yeni yetmeyim tabii. Fısıltıyla bağırır gibi cevap verdim: "Evet, yalan söylerseniz bilgisayar anlar." dedim.

(Gülüşmeler)

Gülüyordum ama aslında gülünmesi gereken bendim. Günümüzde insan yüzlerini işlemden geçirerek ruh hâlini ve hatta yalan söylediğini tespit eden bilgisayar programları var. Reklamcılar, hatta devletler de çok ilgi duyuyor.

Matematik ve fen bilgisini çok seven bir çocuk olduğum için bilgisayar programcısı olmuştum. Fakat o sıralarda nükleer silahlara dair bilgi edinmiş ve bilim etiğine de çok ilgi duymaya başlamıştım. Sorunlarım vardı. Ne yazık ki ailevi durumlar yüzünden mümkün olduğu kadar çabuk işe girmem gerekiyordu. Kendi kendime düşündüm; kolaylıkla iş bulabileceğim teknik bir alan seçeyim ki sıkıcı etik problemlerle uğraşmak zorunda kalmayayım dedim. Böylelikle bilgisayarı seçtim.

(Gülüşmeler)

Ha, ha, ha! Herkes bana gülüyordur. Günümüzde bilgisayar uzmanları her gün milyarlarca insanın göreceği şeyleri kontrol eden programlar kuruyor. Kime çarpacağına karar verebilecek arabalar geliştiriyorlar. Savaşta insanları öldürecek türden makineler, silahlar bile geliştiriyorlar. Etik tamamen ortadan kalkıyor.

Makine zekâsı işin içinde. Artık herhangi bir karar verirken bilgisayar kullanıyoruz, üstelik yeni kararlar alırken bile. Bilgisayara tek bir doğru cevabı olmayan, öznel, açık uçlu ve değer yüklü sorular soruyoruz.

Mesela şu gibi sorular: "Şirket kimi işe almalı?" "Hangi arkadaştan hangi güncellemeyi görmelisiniz?" "Hangi mahkûm tekrar suç işlemeye yatkın?" "İnsanlara hangi haber ya da film tavsiye edilmeli?"

Bakın, evet bir süredir bilgisayar kullanıyoruz, ama bu farklı bir durum. Bu tarihi bir hata, çünkü böyle öznel kararlarda bilgisayara güvenemeyiz, bilgisayara uçak uçurmada, köprü inşa etmede, aya gitmede güvendiğimiz gibi güvenemeyiz. Uçaklar daha güvenli mi? Köprü sallanıp çöker miydi? Burada üzerinde anlaşılan, açık ölçütler ve bize yol gösteren doğa kanunları olduğu konusunda hemfikiriz. Karmaşık insan ilişkilerinde karar verirken bu tür dayanak ve ölçütler yok.

İşleri daha çetrefilli hâle getirmek için yazılımımız gittikçe güçleniyor, fakat aynı zamanda daha az şeffaflaşıp daha karmaşık oluyor. Son on yıl içerisinde, kompleks algoritmalar büyük aşamalar katetti. İnsan yüzlerini tanıyabiliyorlar. El yazılarını çözebiliyorlar. Kredi kartı dolandırıcılığını tespit edip spam postaları engelliyor ve diller arası çeviri yapabiliyorlar. Tıbbi görüntülemelerde tümörleri teşhis edebiliyorlar. Go ve satrançta insanları yenebiliyorlar.

Bu gelişmelerin çoğu "makine öğrenimi" denilen bir yöntemden geliyor. Makine öğrenimi, bilgisayara detaylı, doğru ve itinalı talimatlar verdiğiniz geleneksel programlamadan farklıdır. Daha çok sistemi kavrayıp onu dijital yaşamlarımızda ürettiğimiz türden yapısal olmayan veri dahil bir sürü veriyle desteklemeniz gibidir. Sistem bu bilgileri baştan sona karıştırarak öğrenir. Ayrıca en önemlisi bu sistemlerin tek cevaplı mantıkla çalışmadığıdır. Tek bir cevap üretmezler, daha çok olasılık vardır: "Belki de aradığınız şey bu olabilir."

Şimdi avantajı şu: Bu yöntem gerçekten çok güçlüdür. Google'ın Yapay Zeka'sının dediği gibi "verinin akıl almaz etkinliği"dir. Dezavantajı ise, sistemin ne öğrendiğini tam olarak anlamıyor olmamızdır. Aslında bu onun gücü. Bu, bir bilgisayara talimat vermek gibi değildir; nasıl kontrol edeceğimizi bilmediğimiz bir içecek sıkma makinesini çalıştırmak gibidir. Yani sorunumuz bu. Yapay zeka sistemi bir şeyleri yanlış anladığında problem olur. Aynı zamanda doğru anladığında da problem olur, çünkü öznel bir problem olduğunda hangisinin hangisi olduğunu bilmiyoruz. Bu şeyin ne düşündüğünü bile bilmiyoruz.

Şimdi, insanları işe almak için kullanılan makine öğrenimi sistemlerinden yararlanan bir işe alım algoritma sistemi düşünün. Böyle bir sistem önceki çalışanların verilerine ayarlı ve şirketteki yüksek performansı olan çalışanlar gibi insanlar bulmaya ve işe almaya kurulmuş olmalı. İyi fikir. Bir keresinde bir konferansa katıldım, işe alımda bu sistemi kullanan insan kaynakları uzmanları ile yöneticileri, üst düzey insanları buluşturuyordu. Çok heyecanlıydılar. Bu yöntemin işe alımı daha nesnel, daha az ön yargılı yapacağını ve kadın ve azınlıkları ön yargılı insan kaynakları karşısında daha şanslı hâle getireceğini düşünüyorlardı.

İşe alımda ön yargılı davranılır. Biliyorum. Yani, programcı olarak çalıştığım ilk işlerimden birinde ilk patronum bazen sabah çok erken ya da öğleden sonra çok geç saatlerde yanıma gelir ve "Zeynep, hadi yemeğe çıkalım!" derdi. Garip zamanlamasına şaşırırdım. Saat dört. Öğle yemeği mi? Param yoktu, bedava öğle yemeği vardı. Her zaman giderdim. Neler olduğunu daha sonraları anladım. Amirlerim kendi üst düzey müdürlerine çok ciddi bir iş için işe aldıkları programcının kot pantolon ve spor ayakkabı giyen yeni yetme bir kız olduğunu söylememişlerdi. İyi iş çıkarıyordum, ama yanlış görünüyordum, yanlış yaşta ve cinsiyetteydim.

Dolayısıyla cinsiyet ve ırk gözetilmeksizin işe alım bence kesinlikle iyi fikir. Ancak bu sistemlerle konu daha karmaşık oluyor, nedeni şu: Şimdilerde bilgisayar sistemleri paylaşmadığınız şeyler bile olsa dijital kırıntılarınızdan hakkınızda birçok çıkarım yapabilir. Cinsel yöneliminizi, kişilik özelliklerinizi, siyasi görüşünüzü anlayabiliyor. Yüksek doğruluk oranlı öngörü güçleri var. Unutmayın - paylaşmadığınız şeyleri bile. Bu, çıkarımda bulunmaktır.

Sosyal medya verilerinden klinik depresyon veya doğum sonrası depresyon ihtimalini öngören sayısal sistemler geliştiren bir arkadaşım var. Sonuçlar etkileyici. Sistem depresyon ihtimalini semptomların başlamasından aylar öncesinden öngörebiliyor, aylar öncesinden. Hiçbir semptom yok, ama öngörü var. Erken müdahalede kullanılacağını umuyor. Muhteşem! Şimdi de bunu işe alım kavramına uygulayın.

Bu insan kaynakları yöneticileri konferansında büyük bir şirketin üst düzey bir yöneticisiyle görüştüm. Ona, "Peki sisteminiz size bildirmeden gelecekte yüksek depresyon ihtimali olan insanları ayıklıyorsa? Şu an psikolojik bozuklukları yok, ancak belki ileride olabilir. Peki şu an hamile olmayan ancak gelecek bir ya da iki yıl içinde hamile kalma ihtimali olan kadınları ayıklıyorsa? İş yeri kültürünüz öyle olduğu için agresif insanları işe alıyorsa?" dedim. Bunu cinsiyet analizlerine bakarak anlayamazsınız. Dengelenmiş olabilirler. Ayrıca bu geleneksel kodlama değil makine öğrenimi olduğu için "yüksek depresyon riski", "yüksek hamilelik riski", "agresiflik ölçümü" gibi etiket taşıyan değişkenler yok. Sadece sisteminizin neyi seçtiğini değil, nereden bakmaya başlayacağınızı bile bilmiyorsunuz. Bir kara kutu. Tahmin gücüne sahip ancak onu anlamıyorsunuz.

"Ne güvenlikleri var?" diye sordum, "kara kutunuzun gizli bir şey yapmadığından emin olmak için?" Kuyruğuna basmışım gibi bakakaldı.

(Gülüşmeler)

Dik dik baktı ve "buna dair başka bir şey duymak istemiyorum." dedi. Arkasını dönüp gitti. Gerçi kaba değildi. Açıklaması şu: Bilmediğim şey benim sorunum değil, bas git, öldürücü bakış.

(Gülüşmeler)

Bakın böyle bir sistem bazı açılardan insan yöneticilerden daha az ön yargılı olabilir. Parasal anlam taşıyabilir. Ancak depresyon riski yüksek olan insanların iş piyasasına istikrarlı ve gizli olarak girmesini engellemeye sebep olabilir. Ne yapmış olduğumuzu bile bilmeden kurmak istediğimiz toplum modeli bu mu? Çünkü karar verme işini tam olarak anlamadığımız makinelere bırakıyoruz.

Diğer bir problemse şu: Bu sistemler çoğunlukla bizim davranışlarımızla; insan izleri tarafından üretilen bilgilerle test edilir. Ön yargılarımızı yansıtıyor olabilirler. Bu sistemler ön yargılarımıza dönüp onları büyütüp bize tekrar gösteriyor olabilir, biz ise bu arada kendimize "Sadece nesnel, tarafsız hesap yapıyoruz." diyoruz.

Araştırmacılar Google'da yüksek maaşlı iş ilanlarını kadınların görme ihtimalinin erkeklerden daha az olduğunu tespit etti. Afro-Amerikan isimleri araştırırken alakası olmasa bile sabıka geçmişi ile ilgili ilanları öne sürmesi daha muhtemeldir. Araştırmacıların bazen ortaya çıkardığı ancak bazen bizim bilmediğimiz bu tür gizli ön yargıların ve kara kutu algoritmalarının hayat değiştiren sonuçları var.

Wisconsin'de bir sanık, altı yıl hapse mahkûm edildi, polisten kaçtığı için. Belki bilmiyorsunuzdur, algoritmaların şartlı tahliye ve ceza kararlarında kullanımı giderek artıyor. Şunu öğrenmek istiyordu: Bu sonuç nasıl hesaplanmıştı? Ticari bir kara kutu. Şirket, halka açık duruşmada işlemlerinin sorgulanmasını reddetmişti. Kâr amacı gütmeyen araştırmacı kurum ProPublica, bu algoritmayı bulabildiği kamusal verilerle inceledi ve sonuçlarının ön yargılı olduğunu, öngörü gücününse kötü, olasılıktan biraz iyi olduğunu ve siyahi sanıkları haksız yere beyaz sanıklardan iki kat fazla bir oranla geleceğin suçluları olarak etiketlediğini bulguladı.

Şu olayı göz önüne alın: Bu kadın, vaftiz kardeşini Florida'nın Broward bölgesindeki bir okuldan almaya geç kalmış, bir arkadaşıyla caddede ilerliyorlar. Verandada duran kilitsiz bir çocuk bisikleti ve bir kaydırak görüyor ve düşünmeden biniyorlar. Tam yola koyulacakken kadının biri çıkıyor ve "Hey! Bu benim çocuğumun bisikleti!" diyor. Bırakıp gidiyorlar, ancak tutuklanıyorlar.

Haksızdı, aptalca davranmıştı, ama henüz 18 yaşındaydı. Çocukken ciddi olmayan bir iki suç işlemişti. Bu arada, adam da Home Depot'da hırsızlık yapmaktan tutuklanmıştı. 85 dolar değerinde, benzeri bir hafif suç. Ama öncesinde iki silahlı soygun sabıkası vardı. Ancak algoritma, adamı değil kadını yüksek riskli olarak işaretledi. İki yıl sonra ProPublica kadının tekrar suç işlemediğini tespit etti. Sabıka puanıyla iş bulması çok zordu. Öte yandan adam tekrar suç işlemişti ve şimdi daha sonra işlediği bir suç yüzünden sekiz yıllık hapis cezasında. Belli ki kara kutularımızı kontrol etmemiz ve onlara böyle kontrolsüz güç vermememiz gerekiyor.

(Alkışlar)

Kontroller önemli ve etkili, ancak tüm sorunlarımızı çözmüyorlar. Facebook'un muhteşem haber akışı algoritmasına bakın, yani takip ettiğiniz tüm arkadaşlarınız ve sayfalardan her şeyi sıralayıp size ne göstereceğine karar veren algoritma. Başka bir bebek fotoğrafı görmeli misiniz?

(Gülüşmeler)

Bir tanıdıktan somurtkan bir not? Önemli ama üzücü haberler? Doğru bir cevap yok. Facebook meşgul olacaklarınızı en uygun hâle getiriyor: Beğeniler, paylaşımlar, yorumlar.

Ağustos 2014'te, Missouri, Ferguson'da Afro-Amerikan bir gencin beyaz bir polis tarafından şüpheli bir şekilde öldürülmesi sonrası protestolar başladı. Protesto haberleri algoritmik olarak filtrelenmeyen Twitter akışımda vardı ancak Facebook'ta hiçbir yerde yoktu. Facebook arkadaşlarım ne hâldeydi? Facebook'un algoritmasını devre dışı bıraktım, ki bu çok zordur, çünkü Facebook sizi algoritmanın kontrolü altında tutmak ister. Baktım ki arkadaşlarım da bunu konuşuyor. Bunu bana göstermeyen algoritmanın ta kendisiydi. Bunu araştırdım ve yaygın bir problem olduğunu gördüm.

Ferguson haberi algoritma dostu değildi. "Beğenilebilir" değildi. Kim "beğen"e tıklayacaktı? Yorum yapılması bile kolay değildi. Beğeniler ve yorumlar olmayınca algoritma bunu daha az insana gösteriyor olmalıydı, dolayısıyla görmüyorduk. Onun yerine, o hafta Facebook'un algoritması şunu ön plana çıkardı: ALS Buz Kovası Düellosu. İyi bir sebep; buzlu su dök, bağış yap, tamam. Fakat süper algoritma dostuydu. Makine bu kararı bizim için almıştı. Facebook tek kanal olsaydı çok önemli ancak etkili bir sohbet engellenmiş olabilirdi.

Şimdi sonuç olarak bu sistemler insan sistemlerine benzememesi bakımından da yanlış olabilir. Watson'ı hatırlıyor musunuz? IBM'in Riziko'da insan rakiplerini yenilgiye uğratan makine zekâsı sistemini? Harika bir oyuncuydu. Ancak o zaman, Riziko'nun finalinde Watson'a şu soru soruldu: "En büyük havaalanı adını İkinci Dünya Savaşı kahramanından alır, ikincisi İkinci Dünya Savaşı savaşından.

(Final Riziko müziği çalar)

Chicago. İki insan soruyu doğru anladı. Buna karşın Watson, Birleşik Devletler şehri olarak "Toronto" cevabını verdi. Bu etkileyici sistem bir insanın, ikinci sınıfa giden birinin asla yapmayacağı bir hata yapmıştı.

Makine zekâmız insanların hata şekline uymayan şekilde, beklemediğimiz ve hazırlıksız olduğumuz şekilde hata yapabilir. Kalifiye biri için işe alınmamak kötü olabilirdi, fakat bu, bazı alt programlarda bellek dolu dediği için oluyorsa üç kat daha kötü olurdu.

(Gülüşmeler)

Mayıs 2010'da Wall Steet'te olan Wall Street'in "satış" algoritmalarını bir geri bildirim döngüsünün körüklediği ani bir düşüş 36 dakika içinde trilyon dolarları sildi. Ölümcül otonom silahlar bağlamında "hata yapmak" ne demek bunu düşünmek bile istemiyorum.

Evet, insanlar her zaman ön yargıda bulunur. Karar vericiler ve geçit deneticiler mahkemelerde, haberlerde, savaşlarda... Hata yaparlar; işte benim asıl dikkat çekmek istediğim bu. Bu zor sorulardan kaçamayız. Kendi sorumluluklarımızı makinelere yaptıramayız.

(Alkışlar)

Yapay zekâ bize "etikten kurtul geç" kartı vermiyor.

Veri uzmanı Fred Benenson buna matematiksel yıkama diyor. Tam tersine ihtiyacımız var. Algoritmayı şüphe, gözlem ve inceleme ile desteklemeliyiz. Algoritmik izlenebilirlik, denetim ve anlamlı şeffaflığımız olduğundan emin olmamız gerek. Matematik ve programlamayı karmaşık, değer yüklü insani ilişkilere uygulamanın nesnellik getirmeyeceğini kabul etmemiz gerekiyor; aksine, insan ilişkilerinin karmaşıklığı algoritmaları ele geçiriyor. Tabii ki daha iyi kararlar almamız için bilgisayar kullanabiliriz, kullanmalıyız da. Ancak doğru karar vermek için, ahlaki sorumluluk alıp algoritmaları bu çerçevede kullanmak zorundayız, insan olarak birbirimize karşı olan sorumluluklarımızı üstümüzden atıp dış kaynaktan temin etmenin bir yolu gibi görmemeliyiz.

Makine zekâsı işte böyledir. Bu demektir ki, insani değerlere ve etiğe hiç olmadığı kadar sıkı sarılmamız gerekiyor.

Teşekkür ederim.

(Alkışlar)

2017-09-25

Otomatik tamamlama

Aşağıdaki saçma cümleler cep telefonuna bir kaç kelime yazdıktan sonra telefonunun otomatik tamamlama özelliğinin önerdiği kelimelerden seçilerek oluşturulmuştur.

Dün çarşıda gezmekten sıkıldım artık sadece bir banka hakkında diğer bölümlerini beğendiniz mi yoksa çifte vatandaşı engellenmesi için anayasa mahkemesi başkanı haşim kılıç'a açık mektup diye bir şey var.
 
Gerçek habercilik buna derim, değiştirmeyi yazıyordun ve hakikat değildi ağızdan çıkan söz, bozdunuz diye yanıtlıyor.
 
Gerçek neydi bilemedik, o anlar, aslanın ağzından çıkmaya cesareti olmayan sözlerin kalmasıdır.
 
Biraz fazla detaya girmiş ama sonra unutulmuş gibi değil de bu normal gelişi dedim ama böyle bir gerçek actual var mı ki şu ülkede okumuş insansa benzediği için öldürmeleri insanlardan hep aynı sınıfta olmak isterdik ama böyle bir hizmette bir arkadaşı olarak ayılabilirsin, teşekkürler.

Autocomplete EN

Each the below sentences are the work of autocomplete on my mobile phone.

I typed a few starting words, then selected on of the suggested words. I preferred middle one over the others.

Traveler , there is no path, the path is that there are many ways to bypass the obstacles.

The love is foundation for consciousness he is referring to the world of human knowledge.
 
I love kids as much as possible but the world of the living dead in history is not sufficient for the same reasons that can be questioned by advanced AI.
 
I came to know we are in conversation with a grandmaster flash memory.
 
My students made me laugh out loud and improve their lives in Turkey.
 
There is a province in Turkey that can code for #AI before it's human nature and students from the world of the person worth noting that can code is not sufficient for soft issues.
 
We see with our own eyes were closed for #AI before it's human creator of the person worth watching it.
 
Every branch of human knowledge about driving or Deep down inside your head up to categorise the world is not sufficient for #AI.