Yapay Zeka (YZ), biz insanların kendi beynimizle yaptığımız görevler için makinelerin insan benzeri sonuçlar üretmesi olarak tanımlanabilir.

Yapay zeka yaklaşık altmış yıl önce, insan zihinsel süreçlerine ilişkin anlayışımızı genişletmeyi amaçlayan bilimsel bir araştırma programı olarak başladı. Bu amaçta başarısız oldu. Zaman içinde, önemli görevleri yerine getirmek için bir mühendislik tarafı ortaya çıktı. Bu amaca dönük sonuçlar da onlarca yıl boyunca dağınık ve sınırlıydı. Sonra yaklaşık 25 yıl önce bazı adımlar başarı sağlamaya başladı ve yaklaşık yedi yıl önce ortaya çıkan bir yenilik yeni umutlar yarattı. Günümüze doğru ise sinir ağları ve büyük dil modellerinin (BDM) vücut bulmuş halleri olarak adlandırılan çeşitli gelişmeler sahneyi önemli ölçüde değiştirdi.

Bu hızlı değişim devam ediyor. Bir gün çalkantı yaratan bir haberin yerini aylar, haftalar, hatta günler içinde çalkantı yaratan yeni haberler alıyor. Merak ediyoruz, ne oluyor? YZ neden önemli ve daha iyi bir dünya inşa etmek isteyen solcular bu konuda ne yapmalı?

Ben bu yazıyı yazarken, makineler resim çiziyor, müzik besteliyor, hastalıkları teşhis ediyor, araştırma yapıyor ve hukuki görüşler hazırlıyor. Teknik kılavuzlar, haber raporları, denemeler, öyküler ve belki de romanlar yazıyorlar. Makineler yazılım kodluyor ve bina tasarlıyor. İnanılmaz çeşitlilikteki sınavlarda başarılı oluyorlar. Şu anda çoğu eyalette makineler baro sınavını geçip avukat olabiliyor. Bildiğim kadarıyla tıpta uzmanlık sınavlarını da geçmişler. Makineler artık akıl sağlığı danışmanlığı, yaşlı bakımı, kişisel destek ve hatta yakın arkadaşlık sağlıyor ya da yakında sağlayacak. Makineler sohbet ediyor, örüntüleri buluyor, ürünler tasarlıyor ve karmaşık sorunları (protein katlanması gibi) çözüyor. Artık bir yapay zekaya sadece kısa bir söz değil, 75 bin kelimelik bir kitabın tamamını verebilir ve saniyeler içinde ondan bir taslak veya özet ya da başka cevaplar isteyebilirsiniz. Gelecek hafta ne olacak? 100 bin ya da 200 bin kelimeyle besleyip dakikalar içinde bir çeviri mi alacaksınız? Benzer şekilde, artık 6 saatlik ses kaydı girebilir ve bir metni deşifre edebilirsiniz. Ve belki de en önemlisi, yapay zekalar artık işbirliği yapabiliyor ve hatta birbirlerini yönlendirebiliyor.

Bir YZ’den enflasyon veya Covid gibi bir konuda, Jon Stewart tarzı mizahi bir üslupla yazılmış bir makale isteyin; neredeyse anında elde edersiniz. Bir YZ’den Kaliforniya’daki mevcut konut krizini çözmek ya da küresel ısınmayı sona erdirmek gibi bir tür büyük proje üstlenmesini istediğinizde, YZ bunu alt görevlerden oluşan bir ajanda haline getirebilir. Ardından, gerektiğinde diğer programlardan ve YZ’lerden yardım istemek de dahil olmak üzere çeşitli görevleri üstlenebilir. Dahası, en sevdiğiniz YZ ve yardımcıları için bir adım imkânsız hale gelirse, yeni bir yaklaşım geliştirmeye çalışacak, gündemini değiştirecek ve başarıya ulaşana kadar en baştan alarak ilerleyecektir. Şuna dikkat edin: Bu yeni özelliği YZ’nin ona atadığınız büyük bir projeye başladığında, önemli ölçüde özerk olduğu anlamına geliyor. YZ kendi kendini yönlendirebilir. Diğer YZ’leri de yönlendirebilir. Diğer programları kullanabilir. Birkaç yıl önce, bu tür bir şeyin on, yirmi yıl hatta çok daha uzakta olduğu düşünülüyordu. Şimdi ise burada. Siz bu makaleyi okurken, kim bilir yapay zekalar ne gibi yeni şeyler yapıyor olacaklar?

Bazıları yapay zeka haberlerinin tamamen aldatıcı olduğunu söylüyor. Yapay zekanın zayıf ve yetersiz olduğunu söylüyorlar. Başarısızlığa meyilli diyorlar. Fakat kaç insan karmaşık resimler yapabilir, müzik besteleyebilir, rapor okuyup özetleyebilir, yazıp programlayabilir ve bunları saniyeler içinde yapmayı bir tarafa bırakalım, kaç insan bunları bugünün genç kuşak YZ’lerinden daha iyi yapabilir? Çok, çok az sayıda insan.

Mevcut yapay zeka hata yapmıyor mu? Kesinlikle yapıyor, hem de çok sayıda. Ama insanlar da hata yapıyor. Her halükârda önemli olan YZ’nin yörüngesi, mevcut durumu değil. Dün yapılmış tuhaf hatalarla ilgili anekdotlar eğlenceli olabilir. Gelecek yıl ortaya çıkacak muhtemel becerileri değerlendirmek ise tamamen farklı bir konudur. Bugün ara sıra yapılan hataları eleştirmek, dakikalar içinde yıllarca yaş alabilecek bir bebeğin çıkardığı komik seslere gülmeye benzer. GPT-2’nin baro sınavı ile çalı süpürgesi arasındaki farkı bile ayırt edemeyeceğinden şüpheleniyorum. GPT-3 bir baro sınavına girdi ve en düşük yüzde 10’luk dilimde yer aldı; hukukçu akademisyenler buna muhtemelen epey gülmüşlerdir. Bir yıl sonra GPT-4 ilk yüzde 10’a girdi. Şimdi kim gülüyor sizce?

Belki de yörüngeyi izlemeliyiz. Belki de gürleyerek akan bir anın fotoğrafına takılıp kalmamalıyız. Belki de yapay zekanın baro sınavı sonuçlarının sokaktan toplanmış rastgele insanlarla karşılaştırılmadığını, hukuk fakültesi mezunlarıyla karşılaştırıldığını göz ardı etmemeliyiz. GPT-5 gelecek yıl ne kadar puan alacak? Ve bir taş atımı kadar sürede bir sinir ağı rutin olarak sonuçları ikinci bir sinir ağına ya da bir doğruluk kontrol programına gönderdiğinde ve sonra birincisi ikincisi tarafından bildirilen hataları düzelttiğinde ve ancak o zaman güncellenmiş sonuçlarını bize sunduğunda, yapmakta olduğu hata sayısına ne olacak? Hukuk öğrencilerinin yüzde 99’undan daha mı iyi olacak? Mevcut kolayca doğrulanabilir, aptalca hatalarının tümü ortadan kalkacak mı?

Bu makaleyi yazmadan birkaç hafta önce yukarıdaki senaryo hakkında aynı kelimelerle bir hipotez kurmuştum. Bunu, YZ halüsinasyonları hakkındaki anekdotları bir bağlama oturtmaya çalışmak için yapmıştım. YZ’nin tamamen aldatıcı olduğunu söyleyen birkaç akademisyen, böyle bir öz-denetim yeteneğini görmemizin yıllar alacağını söylemişti. Şimdi bir OpenAI teknik görevlisinin GPT-4’ün henüz halka açık olmayan bir versiyonu üzerinde tam olarak bu süreci gösterdiği bir YouTube videosu izleyebiliyorum. Yörüngeyi incelememiz gerektiği açık olmalı, gürleyen anların görüntülerine gülmemeliyiz.

Peki, artık kapımızı çalmayı bir tarafa bırakıp kullandığımız sayısız programın içinden bizimle konuşmaya başlayan bu yeni YZ nedir o halde?

Büyük resim, yapay zekanın beynimizle yaptığımız birçok görev için insan benzeri sonuçlar elde etmesidir. Dahası, bunu inanılmaz derecede hızlı ve çoğu zaman bizden çok daha iyi yapıyor. Ve en azından şu ana kadar durağanlaşması bir tarafa, her ay, hatta her hafta daha fazla şeyi daha iyi yaptı. Bu inanılmaz bir inovasyon hızı ve bunu kitlesel kullanımda da kuvvetli bir yaygınlaşma takip ediyor. Evet, tüm bunlar, her biri bugün YZ’ye ilişkin çığır açan, baş döndürücü teknik varlıkları, yarın da daha karlı varlıklara sahip olmak için kullanan, diğer kar amacı güden firmaların önünde kalmak için mücadele eden, kar amacı güden firmalardan ibaret. Gerçekten de bu olanaklar neredeyse bir gecede benzersiz ve akıllara durgunluk veren laboratuvar maceralarından, herhangi bir yerdeki herhangi bir kişi veya grubun kullanımı için dağıtılan, arama motorları, sosyal medya platformları, kelime işlemciler, metinden resme araçlar, metinden videoya araçlar, metinden yazılıma araçlar, sözden metne platformlar vb. araçlara dönüştü. Nerede olursanız olun bunların hepsi elinizin altında. Bu ivmeli büyüme düzenlenmezse, kapasite artışı ve erişimin yayılması yıllarca devam edecek mi? Yoksa kapasite artışı bir duvara çarpıp çok yakında yavaşlayacak ve duracak mı? Erişimin yayılması düzenlemeye tabi tutulacak mı? Kimse bilmiyor. Ancak dev yatırımlar hem kapasitenin hem de yaygınlaşmanın devam edeceğini söylüyor.

Başka bir dünya arayışında olan bizler, olup bitenler hakkında nasıl düşünmeliyiz? Hatta bu konuda düşünmeye zahmet etmeli miyiz? Sonuçta yapay zeka da ister kullanalım ister kullanmayalım, diğer teknolojiler gibi bir teknoloji. Bir şey inşa etmek için bir çekiç kullanabilirsiniz. Yok etmek için de çekiç kullanabilirsiniz. İnşa etmek için bir YZ kullanabilirsiniz. Yok etmek için de YZ kullanabilirsiniz. Mesele teknoloji değildir. Mesele teknolojinin ortaya çıktığı ve kullanıldığı kapitalist bağlamdır. Bir çekiç için bu doğrudur. Biyolojik ya da nükleer silahlar için pek de öyle değil. Peki ya YZ için?

İyilik için kullanılan yapay zeka, kanser veya Alzheimer’ın tedavisine yardımcı olabilir. Küresel ısınmayı tersine çevirecek ve kaynakların tükenmesini önleyecek prosedürlere yardımcı olabilir. İnsanın yaratıcılığına ve sevgisine zaman ayırmak için ezberci, sıkıcı, tehlikeli görevleri devralabilir. YZ’nin aydınlatıcı ve yüceltici olabileceği söyleniyor. Gerçek mi yoksa yutturmaca mı? Henüz kesin olarak bilmiyoruz.

Bununla birlikte, kötü amaçla kullanılan yapay zeka şüphesiz gözetimi artıracaktır. Yalanlar kusacak ve Trump’ın bugüne kadarki entrikalarını önemsiz gösterecek kitlesel manipülasyonlar yapacaktır. Savaşları yönlendirecek, seçimleri altüst edecek ve çöp üstüne çöp satacaktır. Tüm bunlar yönetimi ele geçirmese bile olabilir. Gerçek mi yutturmaca mı? Hepsi zaten gerçekleşiyor.

Daha incelikli olarak, iyi niyetle kullanıldığında, hatta popüler olarak takip edildiğinde ve memnuniyetle karşılandığında bile, yapay zekanın çok ciddi istenmeyen sonuçları olabilir. İşçilerin yerini alabilir ya da her bir işçiyi belirli alanlarda çok daha üretken hale getirebilir, bu da herkes için daha kısa bir çalışma haftasına değil, işten çıkarmalara ve birçokları için artan işsizliğe yol açarken, hala istihdam edilenlerin pazarlık gücünü zayıflatarak onlar için de sömürünün artmasına neden olabilir. Daha az açık bir şekilde, yalnızlık ve parçalanmışlık toplumunda, YZ, günlük bakım görevlisi, terapist, kişisel asistan, ajanda planlayıcısı, öğretmen, besteci ve yazar olarak, zamanla insanı insan yapan işlevleri gasp etse bile, YZ’nin gücüne aç olan insanlık için kendisini harika bir yardımcı olarak tanıtabilir ve lanse edebilir. Bizi bu işlevlerden mahrum bırakarak daha az insan olmamıza neden olabilir. Giderek insan sohbetinin ve hatta insan yakınlığının yerini makine varyantları alabilir.

Yukarıdaki üç paragrafın her biri oldukça genişletilebilir, ancak aşikâr olması gereken şeyleri fazla uzatmayalım. Olumlu ve hatta belki de dikkate değer ölçüde olumlu olasılıklar vardır. Olumsuz ve hatta belki de dikkate değer ölçüde olumsuz olasılıklar da var. Hangisi olacak?

Neyin geldiğini görmek için büyük dil modellerinin ve sinir ağlarının içlerine bakabilir miyiz? Cevabı orada bulabilir miyiz? Aslında orada göreceğimiz şey, karmaşık kalıplar halinde düzenlenmiş devasa bir sayı koleksiyonudur, buna bir trilyon sayı diyelim. GPT-4’e komut verdiğinizde kelimeleriniz de sayılara çevrilir. YZ’deki trilyonlarca sayı sizin nispeten az sayıdaki komutunuza göre hareket eder. YZ bir sonuç ortaya çıkarır. Ya da daha sonra üstleneceği adımlardan oluşan bir ajanda çıkarır. Hiç kimse bize tam olarak ne kusacağını tahmin edemez. Ne biz ne de onun yaratıcıları. Hatta hiç kimse, sahip olduğu sayıların sayısını her artırdığımızda, aralarındaki ilişkileri her değiştirdiğimizde ya da donanımı her hızlandırdığımızda hangi “beliren yetkinlikler” sergileyeceğini önceden söyleyemez. Evet, geçmişte bilgisayar programlarının sadece insan programcıların kendilerine verdiği talimatları insanların yapabileceğinden daha hızlı ve daha doğru bir şekilde yaptıklarını söylemek mantıklıydı, ancak niteliksel olarak farklı bir şekilde değil. Artık programcıların bile programların ne yapacağına dair hiçbir fikri yok. Yani, hayır, cevabı makinenin içinde bulamayız. Cevabı bulmak için yapay zekanın kullanıldığı kurumlara ve bu kurumların amaçlarına bakmalıyız. Ve bu kurumlar hakkında bilgimiz var: ezici bir çoğunlukla şirketler, hükümetler ve onlar yüzünden berbat toplumlarımızdaki sınıf, ırk, cinsiyet ve güç dinamiklerinin baskılarını hisseden, bu yüzden acı çeken topluluklar ve hatta aileler.

Böylece politika için neyin önemli olduğuna geliyoruz: Halihazırda gerçekleşmekte olan veya düzenleme yapılmazsa gerçekleşmesi kuvvetle muhtemel olan kısa ve uzun vadeli sonuçlar nelerdir? Potansiyel olarak iyi olan nedir? Muhtemelen kötü olan nedir?

Öncelikle, tüm bu makalenin ve yapay zekayı nasıl değerlendirdiğimizin arkasında gizlenen büyük bir bilinmezlik olduğunu kabul etmeliyim. Yani, YZ daha “akıllı” olmaya devam edecek mi yoksa bir duvara mı çarpacak? Daha fazla düğüm, sayı ve akıllıca değişiklikler hataları azaltmaya ve daha fazla işlevsellik sağlamaya devam edecek mi? Ya da sinir ağı yaklaşımında -belki de yakında- sayıları artırmanın azalan getiriler sağladığı bir nokta gelecek mi? Neyin gelmekte olduğunu bilmiyoruz çünkü bu, YZ’lerin ne derece güçlenebileceğine ya da güçlenmeye devam edip etmeyeceğine bağlı.

Peki yapay zeka konusunda potansiyel olarak iyi olan ve muhtemelen kötü olan nedir? Bir uçta YZ ile çalışan, programlayan ve başka şekillerde YZ’yi kullanan ya da üreten binlerce mühendis, bilim insanı ve hatta yetkiliden uzun vadede (bazılarına göre ise sadece on ya da iki yıl, hatta daha kısa bir sürede) YZ’nin insanlığı köleleştireceği ya da yok edeceğine dair kabus gibi öngörüler duyuyoruz. Gerçekten sorumluluk sahibi, yetenekli, bilgili insanlar artık rutin olarak bu maddi varlıkların bizi yok etmese bile tüm insanlara hükmedeceğinden endişe ediyor.

Diğer uçta, aynı derecede bilgili, ilgili ve işin içinde olan insanlardan, YZ’nin kanserden bunamaya ve kim bilir neye kadar her şeye çare üreterek, ayrıca angarya işleri ortadan kaldırarak ve böylece insan yaratıcılığını artırarak yeryüzünde sanal bir ütopya yarattığını duyuyoruz. Bazen ve sanırım oldukça sık olarak, aynı kişi, örneğin OpenAI CEO’su veya Google’daki bir teknoloji şefi, deli Musk’tan bahsetmiyorum bile, her iki sonucun da mümkün olduğunu ve sadece olumlu sonucu elde etmenin bir yolunu bulmamız gerektiğini söylüyor.

Kısa vadede, sadece sosyal medyayı değil, aynı zamanda ana akım medyayı, alternatif medyayı ve hatta yasal süreçleri dolduran sahte ses kayıtları, sahte resimler ve videoların ortaya dökülebileceğini kendimiz kolayca görebiliriz. Kâr peşinde koşan şirketler (Facebook’u düşünün), kontrol ve güç peşinde koşan hükümetler (kendi hükümetinizi düşünün) ve hatta eğlenceli bir kargaşa çıkarmak isteyen ya da grup veya kişisel avantaj peşinde koşan daha küçük ölçekli gruplar (Proud Boys’u[i] veya hatta hoşnutsuz bireyleri düşünün) tarafından kontrol edilen YZ’ler tarafından kontrol edilen devasa, her yerde bulunan kasıtlı dolandırıcılık, bireysel veya kitlesel manipülasyon, kitlesel yoğun gözetim ve yeni şiddet biçimleri görebiliriz. Bu kasvetli tablo, sizin başrolde olduğunuz ve ailenizin siz olmadığınızı anlayamadığı yapay zeka tarafından üretilen pornoları da içeriyor. Seçimlerde adayların, kimsenin gerçek olmadığını anlayamayacağı, yapay zeka tarafından üretilen konuşmalarını da duyabiliriz. Trump’ın kirli numaralarını ve yalanlarını düşünün, ama çok daha akıllıca ve çok daha etkili olanlarını. Eğer bir yapay zeka kanseri tedavi edecek kimyasal bir bileşik bulmaya yardımcı olabiliyorsa, hiç şüphesiz insanları öldürmede son derece etkili bir bileşik bulmaya da yardımcı olabilir. Ve daha az kaygı verici bir şekilde, Siri ve Alexa’yı bir kurbağa kadar aptal gösteren bir kişisel asistanınız olabilir.

Bir de istihdam meselesi var. Görünen o ki, YZ yakında pek çok görevi insanların yerine yapabilecek ya da en azından bu görevleri yapan insanların üretkenliğini önemli ölçüde artırabilecek. Üst düzey programcılar GPT-4 kullanarak üretimlerini şimdiden iki katına çıkarabildiklerini bildiriyor. Hukuk firmaları da benzer ve hatta daha büyük kazançlar elde ettiklerini bildiriyor. Yapay zekaların çevirmenlerden daha iyi çeviri yapması ne kadar sürer? Bunun iyi tarafı, daha az çalışma saatiyle istenen ekonomik çıktıya ulaşmak ve böylece, örneğin, potansiyel olarak herkes için tam gelirle daha kısa bir çalışma haftasını benimsemek veya hatta daha adil gelirler elde etmektir. Bunun kötü tarafı ise, sürekli bir baskı olmaksızın şirketlerin bazı çalışanlarını şimdiki kadar çalıştırmaya devam etmeleri, ancak iki kat daha fazla çıktı elde etmeleridir. Elde tutulan bu çalışanlara daha düşük gelir ödeyecek ve geri kalanları işsiz bırakacaklardır.

Örneğin, Amerika Birleşik Devletleri’nde yaklaşık 400 bin avukat yardımcısı olduğunu düşünün. Yapay zekanın 2024 yılına kadar her bir avukat yardımcısının saat başına iki kat daha fazla iş üretmesini sağladığını varsayalım. 2023’te yardımcı avukatların haftada 50 saat çalıştığını varsayalım. 2024’te hukuk firmaları hepsini tutup, tam ücretlerini koruyup, her birinin haftada 25 saat çalışmasını mı sağlar? Yoksa hukuk firmaları bunların yarısını haftada 50 saat ve tam maaşla tutarken diğer yarısını işten mi çıkarır? Ve sonra 200 bin işsiz avukat yardımcısı, yerlerine başkalarının alınacağı korkusuyla hala bir işe sahip olanların pazarlık gücünü azalttığı için, hukuk firmaları daha da fazla avukat yardımcısını işten çıkarıp, ücretleri daha da düşürüp, elde tuttuklarının üretimini ve çalışma saatlerini artırır mı? Etkili bir düzenleme ya da sistem değişikliği olmadığı sürece, kâr arayışının hüküm süreceğini ve bunun sonucunu biliyoruz. Ve elbette bu sadece avukat yardımcıları ile ilgili değil. Yapay zeka eğitim vermek, çeviri yapmak, günlük bakım sağlamak, teşhis koymak ve ilaç vermek, kılavuzlar yazmak, mali kayıtları tutmak, yazışmaları yürütmek, ürün siparişleri vermek ve teslim etmek, müzik bestelemek, hikayeler yazmak, filmler oluşturmak ve hatta binaları tasarlamak için kişisel yardımcılar sağlayabilir. Beatles, Elvis, Joplin, Fitzgerald ve Sinatra’nın yeni şarkılar söylemesini duymak eğlenceli olacak, ancak gelecekteki müzik ve potansiyel müzisyenler için iyi olacak mı? Bunun sektörde yaratacağı tahribatı hayal etmeye çalışın; ya da Apple ya da her kimse, insan sanatçıları dışarıda bırakan yeni yapay zeka “sanatçıları” yaratmak için yapay zekayı kullandığında? Güçlü düzenlemelerin olmadığı, kârın hâkim olduğu bir ortamda, yapay zekânın ütopik bir şey mi getireceği yoksa son derece distopik bir şey mi dayatacağı açık değil mi? Yukarıdaki sıralama devam edebilir. Geçtiğimiz hafta (bildiğim kadarıyla bu bir ay önce düşünülmemişti bile) yönetimsel işlevler, finansal işlevler, politika oluşturma işlevleri ve benzeri konularda yapay zekayı eğiten bir firma kuruldu. Ya da eğer yoksa, gelecek hafta kurulabilir mi? Dakikalar önce, 71 yaşındaki Paul McCartney’nin son şarkılarından birini söylerken, yapay zeka tarafından yaratılmış genç bir McCartney’e dönüşmesini, sonra da genç bir John Lennon’a dönüşmesini dinledim. Gelecek hafta ne olacak? Ne gibi sonuçlar doğuracak?

Geleceğin kristal küresine geçmeden önce, yapay zeka ile iyilik yapmaya çalışmanın bazı istenmeyen sonuçlarını da düşünebiliriz. En kötüsünden alçakça gündemler dışında, YZ’nin yapmasını memnuniyetle karşıladığımız ancak insan olmamızın bir parçası olan görevleri yerine getirmesinin etkisi ne olacak? Hatta diyelim ki YZ’lerin bu işlevleri bizim kadar iyi yerine getiriyor, şirketlerin onları bizim yerimize kullanmasına yetecek kadar iyi. Bu soruları tekrarlıyorum çünkü bu konuya uzmanların YZ hakkındaki açıklamalarının kakofonisinde bile çok az ilgi duyuluyor. Bu durum, sosyal medyanın zekamızı köreltebileceği ve antisosyal tutumlara yol açabileceği endişesinin, Facebook ve Twitter her yerde yaygınlaşana kadar çoğu değerlendirmede yer almamasına oldukça benziyor; ancak sosyal medya, YZ yanında çölde kum tanesi kadar kalır.

Çocuklar için gündüz bakımı? Yaşlılar için refakatçi bakımı? Hastalar için psikolojik ve tıbbi danışmanlık? Hepimiz için günü planlamak mı? Hepimize ders vermek? Herkes için yemek pişirmek? Yalnızlar için samimi sohbetler? Kulağa umut verici geliyor, değil mi? Ancak YZ’ler bunları yaparsa bizim bunları yapma kapasitemize ne olur? YZ’ler bizi bu tür insani faaliyetlerin dışında bırakırsa, onlar mı insan gibi olur, yoksa biz mi makine gibi oluruz?

Mevcut yapay zekalarla bile konuşmayı deneyin. Bahse girerim ki çok geçmeden ona “o” diye hitap etmekten -yani sadece devasa bir sayı yığını olarak görmekten- ona “sen” diye hitap etmeye ya da kelimenin tam anlamıyla ismiyle hitap etmeye geçeceksiniz. Discord’da, yapay zeka tsunamisinden sadece birkaç ay sonra Chatbot Clyde ortaya çıktı. Yapay zeka her yerde mi? Bu bizim yörüngemiz. Yapay zekalar öğretiyor, danışmanlık yapıyor, bakım yapıyor, not alıyor, gündem belirliyor, çiziyor, tasarlıyor, ilaç veriyor ve daha neler neler ve siz ne yapıyorsunuz? YZ’lerin yaptığı filmleri izlerken önceki sorumluluklarınızdan kurtulup özgürleşiyor musunuz? YZ’lerin hazırladığı yemekleri yerken? YZ’lerin yazdığı hikayeleri okurken? Size kalan ama YZ’lerin organize ettiği birkaç işi yaparken? Hatta (kapitalist ekonomimiz hakkında bildiklerimize rağmen) gelirin iyi idare edildiğini varsayalım. Hatta insanlar için kalan işlerin iyi dağıtıldığını varsayalım. Bir şey istiyorsunuz, bunu bir yapay zekadan istiyorsunuz. Clyde ya da Bard ya da her neyse, size işi hallediyor. Bazıları bunun harika olduğunu söyleyecektir. Benim özel kölem. Aman Tanrım! Eğer YZ gelişimi bir duvara çarpmazsa, bu kötü niyetli olmayan ütopik bir senaryo gibi görünüyor. Ve sanırım bazılarının gözüne ütopik görünüyor, ama benim gözüme son derece distopik görünüyor. Tüm bunlar sosyal medyanın harika şeyler vaat etmesine ve daha sonra kısmen istenmeyen bir sonuç olarak kısmen de memnuniyetle karşılanan bir kötülük olarak oldukça korkunç şeyler yapmasına benziyor. Fakat bu analojide YZ’nin zarar verme yörüngesi bana sosyal medyadan kat be kat daha fazla görünüyor.

Peki ne yapmamız gerekiyor? Ekolojinin “ihtiyatlılık ilkesine” başvurmamız gerekiyor. Büyük zarar verme potansiyeline sahip yeniliklerle karşı karşıya kaldığımızda, ihtiyatı vurgulamamız gerekir. Felaketle sonuçlanabilecek bir yayılma sürecine girmeden önce duraklamalı ve gözden geçirmeliyiz. Belirsizlik karşısında önleyici tedbirler almalıyız. İspat yükümlülüğünü riskli bir faaliyetin savunucularına yüklemeliyiz. Karar alma sürecine halkın katılımını arttırmalıyız. Özetle, sıçramadan önce bakmamız gerekiyor.

Giderek daha güçlü bir yapay zekânın ortaya çıkmasına mantıklı bir yanıt verebilmek için dahi olmak gerekmiyor. Frene basmalıyız. Sert bir şekilde. Sektördeki insanların bile tavsiye ettiği, ancak çok az ciddi takibin yapıldığı ve hükümetlerin bile tavsiye ettiği, ancak henüz gerekli kılmadığı gibi, en azından bir moratoryumu tercih etmeliyiz. Bunu takip eden ara boyunca, düzenleyici mekanizmalar kurmamız gerekiyor. Kurallar koymamız gerekiyor. Tehlikeleri önleyebilecek ve fırsatlardan avantajlı bir şekilde yararlanabilecek uygulama araçları oluşturmalıyız. Basit bir bakış açısı için şuna ne dersiniz? Sahte para üretmeyi ve/veya bu parayı elden ele dolaştırmayı çok ciddi sonuçlara yol açacak şekilde zaten yasaklamış durumdayız. Sahte para ihtimali bankaları ve genel olarak zenginleri ve hükümetleri de ciddi ve tehlikeli bir şekilde etkiledi. Bu yüzden ciddi düzenlemeler getirdiler. Gerçekmiş gibi görünen sahte yapay zeka ürünlerinin ortaya çıkma ihtimali, seçimleri altüst etme tehdidi yaratıyor. Bu durum iktidardaki bazı kişileri üzse de diğerleri tarafından memnuniyetle karşılanıyor. Eminim beni ve sizi de üzüyordur. Yalan haberler ve açıkça bu şekilde etiketlenmemiş YZ ürünleri için ağır cezalara ne dersiniz?

Bu roket bilimi değil. Diyelim ki yeni bir uçağın yapımında görev alan mühendislerin üçte biri, tıpkı yapay zekâ mühendisleri gibi, uçağın düşme ihtimalinin yüzde on olduğunu söyledi. Uçağa biner, kemerlerinizi bağlar ve umut dolu yolculuğunuzun mucizesini kutlar mıydınız? Yoksa frene mi basardınız?

Bir moratoryum önermek kolaydır –aslında bir tane önerilmiştir ve siz bu satırları okurken bahse girerim iki ya da daha fazla moratoryum önerilmiştir, hem yurt içinde hem de uluslararası alanda. Ancak benim bildiğim kadarıyla bunun ardından ciddi bir takip olmadı –buna rağmen dünyamızda bir moratoryuma ulaşmak zor olacaktır. Bizim dünyamızda, mal sahipleri ve yatırımcılar, başkaları üzerindeki daha geniş etkilere bakmaksızın kar peşinde koşarlar. Piyasa rekabeti ve kısa vadeli gündemler tarafından itilerek tam gaz ilerliyorlar. Ayakları frenden kaçıyor. Ayakları gaza basıyor. Ve bir intihar yolculuğuna çıkıyoruz. Yine de alışılmadık bir şekilde ve durumun ciddiyetinin bir göstergesi olarak, yapay zeka firmalarının içindeki yüzlerce ve hatta binlerce merkezi aktör uyarıda bulunacak kadar endişeli/korkuyor. Buna rağmen, piyasaların bu uyarılara kulak asma ihtimalinin düşük olduğunu biliyoruz. Aslında, ihtiyatlı olmaya çağıranların bile sağduyulu olma ihtimali düşük. Yatırımcılar risk ve güvenlik hakkında mırıldanacaklar, ancak yollarına devam edecekler. Binlerce merkezi aktör de çoğu durumda, diğer şeyler eşit olmak kaydıyla, baskıya boyun eğecektir.

Peki, şirketlerdeki intihar pilotları bir sıçrama yapmadan önce durup bakmak için zaman kazanabilir miyiz? Eğer, YZ’nin daha da geliştirilmesi ve yaygınlaştırılması konusunda da, YZ’yi nasıl kullandığımız ya da şirketlerin bize dayattığı diğer her şeyin yaygınlaştırılması ve kullanılması konusunda olduğu gibi rekabetçi, kar peşinde koşan kurumsal çılgınlığın yerini insan ihtiyaçları alacaksa, kafası düzgün çalışan bizler talepte bulunmak ve taleplerimizi elde etmek için çok ama çok ciddi bir baskı uygulamak zorunda kalacağız.

[i] Proud Boys, siyasi şiddeti teşvik eden ve şiddete bulaşan, yalnızca erkeklerden oluşan, Kuzey Amerika’daki aşırı sağcı neo-faşist militan bir örgüttür. (Wikipedia)