Yapay zeka (YZ) dünyayı kasıp kavuruyor. Hayatın her alanını dönüştürüyor ve bu süreçte toplum ve insanlığın geleceği için önemli etik kaygıları gündeme getiriyor. Sosyal medyaya hakim olan ChatGPT, OpenAI tarafından geliştirilen yapay zeka destekli bir sohbet robotudur. Makine öğreniminin bir alt kümesidir ve insan benzeri yanıtlar üretebilen Büyük Dil Modelleri olarak adlandırılan şeye dayanır.

Bu tür bir teknolojinin potansiyel uygulama alanı gerçekten de muazzamdır; bu nedenle de ChatGPT gibi yapay zekanın regülasyona tabi tutulması yolunda şimdiden çağrılar yapılmaya başlanmıştır.

Yapay zeka insan zekasını alt edebilir mi? Kamusal tehdit oluşturuyor mu? Hatta yapay zeka varoluşsal bir tehdit haline gelebilir mi? Dünyanın önde gelen dilbilimcisi ve tüm zamanların en saygın kamusal entelektüellerinden biri olan Noam Chomsky, aşağıdaki röportajda bu rahatsız edici soruları ele alıyor.

C. J. Polychroniou: Bilimsel bir disiplin olarak yapay zekanın (YZ) geçmişi 1950’lere kadar uzanıyor, ancak son birkaç on yıldır bankacılık, sigortacılık, otomobil üretimi, müzik ve savunma dahil olmak üzere her türlü alana giriyor. Aslında, YZ tekniklerinin kullanımının, satranç oyununda olduğu gibi bazı durumlarda insan yetkinliklerini aştığı gösterilmiştir. Makinelerin insanlardan daha akıllı hale gelme olasılığı var mı?

Noam Chomsky: Terminolojiyi açıklığa kavuşturmak için, buradaki “makine” terimi program anlamına geliyor; temelde bir bilgisayar tarafından yürütülebilecek bir notasyonda yazılmış bir teori –ve burada bir kenara koyabileceğimiz ilginç özellikleri olan alışılmadık bir teori türü.

Saf mühendislik ve bilim arasında kabaca bir ayrım yapabiliriz. İkisi arasında keskin bir sınır yoktur, ancak bu ayrım yararlı bir ilk yaklaşımdır. Saf mühendislik, işe yarayabilecek bir ürün üretmeyi amaçlar. Bilim ise anlamaya çalışır. Eğer konu insan zekası ya da diğer organizmaların bilişsel kapasiteleri ise, bilim bu biyolojik sistemleri anlamaya çalışır.

Anladığım kadarıyla, yapay zekanın kurucuları –Alan Turing, Herbert Simon, Marvin Minsky ve diğerleri– bunu, o zamanlar gelişmekte olan bilişsel bilimlerin bir parçası olan ve kavrayışımızı geliştirmek için matematiksel hesaplama teorisindeki yeni teknolojileri ve keşifleri kullanan bir bilim olarak görüyorlardı. Yıllar geçtikçe bu ilgi azaldı ve yerini büyük ölçüde mühendislik yönelimine bıraktı. Daha önceki girişim artık bazen küçümseyici bir şekilde “eski moda yapay zeka” olarak adlandırılmaktadır.

Soruya devam edersek, insan yetkinliklerini aşan programların tasarlanması olası mıdır? İleride açıklayacağım nedenlerden dolayı “yetkinlikler” kelimesi konusunda dikkatli olmalıyız. Ancak bu terimi insan performansına atıfta bulunmak için kullanırsak, cevap: kesinlikle evet. Aslında uzun zamandır varlar: örneğin bir dizüstü bilgisayardaki hesap makinesi. Sadece zaman ve hafıza yetersizliği nedeniyle bile insanların yapabileceklerinin çok ötesine geçebilir. Satranç gibi kapalı sistemler için, 50’li yıllarda, devasa bilgisayar kapasitelerinin ilerlemesi ve uzun bir hazırlık dönemi sonucunda, er ya da geç, hafıza ve zaman açısından sınırları olan bir büyük ustayı yenmek için bir program tasarlanabileceği çok iyi anlaşılmıştı. Yıllar sonra elde edilen bu başarı IBM için büyük ölçüde bir halkla ilişkiler başarısıydı. Pek çok biyolojik organizma insanın bilişsel kapasitesini çok daha derin şekillerde aşar. Arka bahçemdeki çöl karıncaları minicik beyinlere sahiptir, ancak sadece performans olarak değil, prensip olarak da insanların yön bulma kapasitelerini çok aşarlar. En tepesinde insanların bulunduğu Büyük Varlık Zinciri diye bir şey yoktur.

Yapay zeka mühendisliğinin ürünleri iyi ya da kötü birçok alanda kullanılıyor. Basit ve tanıdık olanlar bile oldukça faydalı olabilir: dil alanında, otomatik doldurma, canlı transkripsiyon, google translate gibi programlar ve diğerleri. Çok daha fazla bilgi işlem gücü ve daha sofistike programlama ile, bilimlerde de başka yararlı uygulamalar ortaya çıkmalıdır. Bazıları zaten ortaya çıkmıştır: Protein katlanma çalışmalarına yardımcı olmak, büyük ve hızlı arama teknolojisinin bilim insanlarının kritik ve inatçı bir problemle başa çıkmalarına yardımcı olduğu yeni bir durumdur.

Mühendislik projeleri faydalı ya da zararlı olabilir. Yapay zeka mühendisliği söz konusu olduğunda her iki durum da geçerlidir. Sohbet robotları da dahil olmak üzere Büyük Dil Modelleri (LLM’ler) ile yapılan mevcut çalışmalar dezenformasyon, karalama ve bilgisiz kişileri yanlış yönlendirmek için araçlar sağlamaktadır. Yapay görüntüler ve ses kopyalama ile birleştirildiklerinde tehditler daha da artmaktadır. Farklı endişeleri göz önünde bulunduran on binlerce YZ araştırmacısı, algıladıkları potansiyel tehlikeler nedeniyle yakın zamanda geliştirme konusunda bir moratoryum çağrısında bulundu.

Her zaman olduğu gibi, teknolojinin olası faydaları potansiyel maliyetlere karşı tartılmalıdır.

Yapay zeka ve bilime döndüğümüzde oldukça farklı sorular ortaya çıkıyor. Burada, medyada sıklıkla dile getirilen fahiş ve pervasız iddialar nedeniyle dikkatli olunması gerekmektedir. Sorunları açıklığa kavuşturmak için, bazıları varsayımsal, bazıları gerçek olan vakaları ele alalım.

Şaşırtıcı bir başarı olan böcek navigasyonundan bahsetmiştim. Böcek bilimciler bunun nasıl başarıldığı konusunda çok ilerleme kaydettiler, ancak çok zor bir konu olan nörofizyoloji, sistemlerin evrimi ile birlikte anlaşılması zor olmaya devam ediyor. Aynı durum, binlerce mil yol kat eden ve hatasız bir şekilde başlangıç noktasına geri dönen kuşların ve deniz kaplumbağalarının şaşırtıcı becerileri için de geçerlidir.

Tom Jones adında hayali bir kişinin yapay zeka mühendisliğini savunduğunu ve şöyle dediğini varsayalım: “Çalışmalarınızın hepsi çürütüldü. Sorun çözüldü. Ticari havayolu pilotları her zaman aynı sonuçlar elde ediyor, hatta daha iyi sonuçlar elde ediyor.”

Cevap verme zahmetinde bulunsaydık bile ancak gülerdik.

Hala yaşayan yerli kabileler arasında Polinezyalıların, kanolarını yüzlerce mil ötede belirlenen bir noktaya indirmek için yıldızları, rüzgarı ve akıntıları kullanarak yaptıkları denizcilik maceralarını ele alalım. Bunu da nasıl yaptıklarını bulmak pek çok araştırmaya konu olmuştur. Tom Jones’un cevabı var: “Zamanınızı boşa harcamayın; donanma gemileri bunu her zaman yapıyor.”

Aynı cevap.

Şimdi gerçek bir vakaya, dil edinimine dönelim. Bu konu son yıllarda kapsamlı ve oldukça aydınlatıcı araştırmalara konu olmuş ve bebeklerin performanslarının çok ötesinde, ortamdaki dil (ya da diller) hakkında çok zengin bilgiye sahip olduklarını göstermiştir. Bu, çok az kanıtla ve bazı önemli durumlarda hiç kanıt olmadan başarılmıştır. Dikkatli istatistiksel çalışmaların gösterdiği gibi, özellikle rank-frekans (“Zipf yasası[i]“) dikkate alındığında, mevcut veriler en iyi ihtimalle çok azdır.

Tom Jones sahneye girer: “Çürütüldünüz. Keşiflerinize aldırış etmeden, astronomik miktarda veriyi tarayan Büyük Dil Modelleri, üzerinde eğitildikleri verileri simüle etmeyi mümkün kılan istatistiksel düzenlilikler bulabilir ve normal insan davranışına oldukça benzeyen bir şey üretebilir. Sohbet robotları.”

Bu örnek diğerlerinden farklıdır. Birincisi, gerçektir. İkincisi, insanlar gülmüyor; hatta birçoğu dehşete düşüyor. Üçüncüsü, varsayımsal vakaların aksine, gerçek sonuçlar iddia edilenlerden çok uzak.

Bu hususlar, mevcut Büyük Dil Modelleri (BDM) coşkusuyla ilgili küçük bir sorunu gündeme getirmektedir: hemen tanıdığımız varsayımsal durumlarda olduğu gibi, tamamen saçma olması. Ancak absürtlükten çok daha ciddi sorunlar vardır.

Bunlardan biri, BDM sistemlerinin bize dil, öğrenme ya da bilişin diğer yönleri hakkında hiçbir şey söyleyemeyecek şekilde tasarlanmış olmasıdır; bu bir prensip meselesidir ve telafi edilemez. Taranan terabaytlarca veriyi ikiye katlayın, bir trilyon parametre daha ekleyin, Kaliforniya’nın enerjisini daha da fazla kullanın ve davranış simülasyonu gelişirken, yaklaşımın prensipte herhangi bir kavrayış sağlamadaki başarısızlığını daha açık bir şekilde ortaya koyun. Bunun nedeni basittir: Sistemler, bebeklerin hızlı ve neredeyse refleks olarak edindikleri dillerde olduğu gibi edinemedikleri imkansız dillerde de işe yaramaktadır.

Sanki bir biyolog şöyle diyecekmiş gibi: “Organizmalarla ilgili yeni ve harika bir teorim var. Bu teori var olan ve var olması mümkün olmayan pek çok organizmayı listeliyor ve ben size bu ayrım hakkında hiçbir şey söyleyemem.”

Yine gülerdik. Ya da gülmeliyiz.

Tom Jones değil, şimdi gerçek vakalardan bahsediyoruz. Bilimden radikal ayrılışında ısrar eden Tom Jones cevap verir: “Tüm dilleri araştırmadan bunları nereden biliyorsun?” Bu noktada normal bilimin terk edilişi daha da netleşmektedir. Argüman eşitliği gereği, genetik ve moleküler biyolojiyi, evrim teorisini ve organizmaların küçük bir kısmından fazlasını örneklememiş olan biyolojik bilimlerin geri kalanını bir kenara atabiliriz.Hatta iyi bir önlem olarak, tüm fiziği bir kenara atabiliriz. Hareket yasalarına neden inanalım? Gerçekte kaç nesnenin hareket halinde olduğu gözlemlenmiştir?

Ayrıca, ispat yükümlülüğü gibi küçük bir mesele de vardır. Bir teori önerenler, bunun mantıklı olduğunu gösterme sorumluluğuna sahiptirler, bu durumda, imkansız diller için başarısız olduğunu gösterirler. Öneriyi çürütmek başkalarının sorumluluğunda değildir, ancak bu durumda bunu yapmak yeterince kolay görünmektedir.

Şimdi dikkatimizi normal bilime çevirelim, burada işler ilginçleşiyor. Dil edinimine ilişkin tek bir örnek bile olası ve olanaksız diller arasındaki ayrıma ilişkin zengin bir kavrayış sağlayabilir.

Bunun nedenleri basit ve tanıdıktır. “Öğrenme” denilen şey de dahil olmak üzere tüm büyüme ve gelişme, organizmanın bir durumuyla başlayan ve onu adım adım daha sonraki aşamalara dönüştüren bir süreçtir. Dil edinimi böyle bir süreçtir. Başlangıç durumu biyolojik olarak doğuştan gelen dil yetisidir; her ne kadar, bazılarının inandığı gibi bu yeti diğer kapasitelerin bir kombinasyonu olsa bile kesinlikle vardır. Uzun zamandır anlaşılan/kabul edilen nedenlerden dolayı bu pek olası değildir, ancak bu bizim buradaki endişelerimizle ilgili değildir, bu yüzden bir kenara koyabiliriz. Açıkça, insanın dil yetisi biyolojik olarak doğuştan gelen bir yetenektir. En basit gerçek bu.

Dönüşüm, dil bilgisinin ötesinde sadece yüzeysel olarak değiştirilen nispeten istikrarlı bir duruma doğru ilerler. Dış veriler süreci tetikler ve kısmen şekillendirir. Ulaşılan durumu (dil bilgisi) ve dış verileri inceleyerek, dil edinimini mümkün kılan, doğuştan gelen biyolojik yeti olan başlangıç durumu hakkında geniş kapsamlı sonuçlar çıkarabiliriz. Başlangıç durumuyla ilgili sonuçlar, mümkün ve imkansız diller arasında bir ayrım yapılmasını zorunlu kılar. Bu ayrım, başlangıç durumunu paylaşan herkes için geçerlidir –bilindiği kadarıyla tüm insanlar ve mevcut insan grupları arasında dil edinme kapasitesi açısından bir fark yok gibi görünmektedir.

Tüm bunlar normal bilimdir ve birçok sonuç elde etmiştir.

Deneyler, kararlı durumun büyük ölçüde çok erken, üç ila dört yaşına kadar elde edildiğini göstermiştir. Ayrıca, dil yetisinin insanlara özgü temel özelliklere sahip olduğu, dolayısıyla gerçek bir tür özelliği olduğu, insan gruplarında ortak olduğu ve temel yönlerden benzersiz bir insan özelliği olduğu da iyi bilinmektedir.

Bu şematik açıklamada pek çok şey atlanmıştır, özellikle de doğa yasalarının büyüme ve gelişmedeki rolü: dil gibi bir hesaplama sistemi söz konusu olduğunda, hesaplama verimliliği ilkeleri. Ancak meselenin özü budur. Yine, normal bilim.

Aristoteles’in bilgiye sahip olma ve bilgiyi kullanma (çağdaş terminolojide yetkinlik ve performans) arasındaki ayrımını netleştirmek önemlidir. Dil söz konusu olduğunda, elde edilen istikrarlı durum beyinde kodlanmış bilgiye sahip olmaktır. İç sistem, her birini bir düşünceyi formüle ediyor olarak görebileceğimiz, her biri, genellikle ses olsa da işaret veya hatta (zorlukla) dokunma gibi bazı sensorimotor sistemlerde dışsallaştırılabilen, sınırsız bir dizi yapılandırılmış ifade belirler.

Bilgi kullanımında içsel olarak kodlanmış sisteme erişilir (performans). Performans, düşüncede dilin içsel kullanımını içerir: yansıtma, planlama, hatırlama ve çok daha fazlası. İstatistiksel olarak konuşmak gerekirse bu, dilin açık ara en yoğun kullanımıdır. Her ne kadar bilimin normal yöntemleriyle, mecazi anlamda “dışarıdan” bu konuda çok şey öğrenebilsek de, iç gözlem açısından erişilemezdir. “İç konuşma” olarak adlandırılan şey, aslında, ifade aygıtının susturulduğu dışsallaştırılmış dil parçalarıdır. Bu, dilin içsel kullanımının yalnızca uzaktan bir yansımasıdır, burada daha derinine inemeyeceğim önemli konular bunlar.

Dilin diğer kullanım biçimleri algılama (ayrıştırma) ve üretimdir; bu sonuncusu, modern bilimin şafağında Galileo ve çağdaşları tarafından huşu ve hayretle karşılandıkları zamanki kadar bugün de bizim için gizemli kalan özellikleri içerir.

Bilimin temel amacı, hem insanın dil yetisindeki ilk haliyle hem de edinim sırasında aldığı özel biçimlerle iç sistemi keşfetmektir.Bu iç sistem anlaşıldığı ölçüde, dil kullanımına giren diğer birçok faktörle etkileşime girerek performansa nasıl girdiğini araştırmaya devam edebiliriz.

Performans verileri, özellikle de standart saha çalışmalarında olduğu gibi deneylerle iyileştirildiklerinde, iç sistemin doğası hakkında kanıt sağlar. Ancak en büyük veri koleksiyonu bile önemli açılardan yanıltıcıdır. Performans verileri, dilin doğasını ve kullanımını anlamak isteyenler için araştırılan birincil nesne olan beyinde kodlanan dilin bilgisine değil, normalde üretilene bağlı kalır. Bu iç nesne, 60 yıl önce incelenen kısa süreli bellek kısıtlamaları gibi dille ilgisi olmayan faktörler nedeniyle normal davranışta kullanılmayacak türden sonsuz sayıda olasılığı belirler. Gözlemlenen veriler, beyinde kodlanan sistemin dışında kalan, çoğu zaman dilin retorik amaçlarla kuralları ihlal edecek şekilde bilinçli kullanımını da içerecektir. Bunlar, ilgisiz kısıtlamaları ve sapkın ifadeleri dışlayan rafine bir külliyat elde etmek için deneklerle yapılan veri toplama tekniklerine, temelde deneylere dayanan tüm saha çalışanları tarafından bilinen gerçeklerdir. Aynı durum, dilbilimciler kendilerini denek olarak kullandıklarında da geçerlidir; bu, psikoloji tarihinde günümüze kadar yaygın olan, son derece mantıklı ve normal bir prosedürdür.

Normal bilimle ilerlediğimizde, dilin iç süreçlerinin ve unsurlarının gözlemlenen olguların incelenmesiyle tespit edilemeyeceğini görürüz. Çoğu zaman bu unsurlar konuşmada (veya yazıda) bile görünmez, ancak genellikle ince etkileri tespit edilebilir. Bu da, BDM yaklaşımlarında olduğu gibi, gözlemlenen olgularla sınırlı kalmanın, dilin doğası, edinimi ve kullanımına ilişkin araştırmanın temel nesneleri olan içsel süreçlerin anlaşılmasını keskin bir şekilde sınırlamasının bir başka nedenidir. Ancak bilim ve anlama kaygısı diğer hedefler lehine terk edilmişse, bunun bir önemi yoktur.

Daha genel olarak bilimlerde, binlerce yıldır sonuçlara, her biri olgulardan radikal bir soyutlama olan deneylerle –genellikle düşünce deneyleriyle– ulaşılmıştır. Deneyler teori odaklıdır ve dil performansı gibi gözlemlenen olgulara dahil olan sayısız alakasız faktörü bir kenara atmaya çalışır. Tüm bunlar o kadar temeldir ve tanıdıktır ki nadiren tartışılır. Belirtildiği gibi, temel ayrım Aristoteles’in bilgiye sahip olma ile bilginin kullanımı arasındaki ayrımına kadar uzanır. İlki, çalışmanın merkezi nesnesidir. İkincil (ve oldukça ciddi) çalışmalar, içsel olarak depolanan bilgi sisteminin performansta nasıl kullanıldığını ve doğrudan gözlemlen şeye dahil olan birçok dilsel olmayan faktörü araştırır.

Özellikle Drosophila ile yaptığı çalışmalarla tanınan evrimsel biyolog Theodosius Dobzhansky’nin bir gözlemini de hatırlayabiliriz: Her tür eşsizdir ve insanlar da en eşsiz olanlardır. Eğer ne tür canlılar olduğumuzu anlamakla ilgileniyorsak –Delfi Kahini’nin 2500 yıl önceki buyruğunu takip ederek– öncelikle insanları benzersiz kılan şeylerle ilgileneceğiz, öncelikle de klasik Yunan ve Hindistan’a kadar uzanan zengin bir gelenekte kabul edildiği gibi, iç içe geçmiş olan dil ve düşünce ile. Çoğu davranış oldukça rutindir, dolayısıyla bir dereceye kadar öngörülebilirdir. Bizi benzersiz kılan şeyin ne olduğuna dair gerçek bir kavrayış sağlayan şey, rutin olmayan şeydir; bunu, normal çocuklardan büyük sanatçılara ve bilim insanlarına kadar bazen deneyle, bazen de gözlemle bulabiliriz.

Toplum, bilimi küçümsemeyi teşvik eden devasa kurumsal kampanyalarla bir asırdır rahatsız edilmektedir.

Bu bağlamda son bir yorum. Toplum bir asırdır, Naomi Oreskes ve diğerleri tarafından iyi çalışılmış konular olan, bilimi küçümsemeyi teşvik eden devasa şirket kampanyaları tarafından rahatsız edilmektedir. Bu kampanya, ürünleri ölümcül olan şirketlerle başladı: kurşun, tütün, asbest, daha sonra fosil yakıtlar. Amaçları anlaşılabilir. Kapitalist bir toplumda bir işletmenin amacı kârdır, insan refahı değil. Bu kurumsal bir gerçektir: Oyunu oynamazsanız kovulursunuz ve yerinize oynayacak biri gelir.

Şirketlerin halkla ilişkiler departmanları, ürünlerinin ölümcül etkilerine dair artan bilimsel kanıtları inkar etmenin hata olacağını erkenden fark etmiştir. Bu kolayca çürütülebilirdi. Şüphe tohumları ekmek, belirsizliği teşvik etmek, hiç ev boyamamış ama Washington’dan gelip bana kurşun boya kullanmamamı söyleyerek işimi mahveden (gerçek bir vaka, kolayca çoğaltılabilir) bu sivri kafalı takım elbiselileri hor görmek daha iyidir. Bu çok işe yaradı. Şu anda bizi, dünya üzerindeki örgütlü insan yaşamını yok etmeye doğru götürüyor.

Entelektüel çevrelerde benzer etkiler, bazı çevrelerde hala çok canlı olan postmodern bilim eleştirisi tarafından üretilmiştir. Jean Bricmont ve Alan Sokal bu postmodern bilim eleştirisinin foyasını meydana çıkardılar. Bu soruyu sormak nezaketsizlik olabilir, ancak Tom Jones’ların ve onların dikkatsiz açıklamalarını eleştirmeden tekrarlayan ve hatta güçlendirenlerin aynı zararlı eğilimlere katkıda bulunup bulunmadıklarını sormanın adil olduğunu düşünüyorum.

CJP: ChatGPT, insan benzeri konuşmalara izin vermek için yapay zeka kullanan doğal dil odaklı bir sohbet robotudur. The New York Times‘da yakın zamanda yayınlanan bir makalede, diğer iki yazarla birlikte, yeni chatbot’ları bir aldatmaca olarak görüyorsunuz çünkü insanların dilsel yetkinlikleriyle boy ölçüşemezler. Bununla birlikte, yapay zeka alanındaki gelecekteki yeniliklerin insan yetenekleriyle eşleşecek ve hatta belki de onları aşacak mühendislik projeleri üretmesi mümkün değil mi?

NC: Makalenin asıl yazarı, iyi bir matematikçi-dilbilimci-filozof olan Jeffrey Watumull’a teşekkür edilmelidir. Listede yer alan iki ortak yazar, makaleyi kabul eden ancak yazmayan danışmanlardır.

Yukarıda tekrarlanan nedenlerden ötürü, sohbet robotlarının prensipte insanların dilsel yetkinlikleriyle eşleşemeyeceği doğrudur. Temel tasarımları, bir insan dili teorisi için asgari yeterlilik koşuluna ulaşmalarını engellemektedir: mümkün olan dilleri imkansız olanlardan ayırmak. Bu, tasarımın bir özelliği olduğundan, bu tür bir YZ’de gelecekte yapılacak yeniliklerle aşılamaz. Bununla birlikte, gelecekteki mühendislik projelerinin, insanın hareket etme kapasitesini, performansını kast ediyorsak, insan yetenekleriyle eşleşmesi ve hatta onları aşması oldukça olasıdır. Yukarıda da belirtildiği gibi, bazıları bunu uzun zamandır yapıyor: örneğin otomatik hesap makineleri. Daha da ilginci, belirtildiği gibi, minicik beyinleri olan böcekler, yetkinlik olarak anlaşılan insan kapasitelerini aşmaktadır.

CJP: Yukarıda bahsi geçen makalede, günümüzün YZ projelerinin insani bir ahlaki yetiye sahip olmadığı da gözlemlenmiştir. Bu bariz gerçek, YZ robotlarını insan ırkı için daha az tehdit haline getirir mi? Sanırım onları belki de daha fazla tehdit haline getiriyor.

NC: “Ahlaki yeti”yi geniş bir şekilde anlamak gerçekten de açık bir gerçektir. Dikkatle denetim altına alınmadığı sürece, yapay zeka mühendisliği ciddi tehditler oluşturabilir. Örneğin, hasta bakımının otomatikleştirildiğini varsayalım. İnsan muhakemesi ile üstesinden gelinmesi kaçınılmaz hatalar bir korku hikayesi yaratabilir. Ya da otomatik füze savunma sistemleri tarafından belirlenen tehditlerin değerlendirilmesinde insanların devre dışı bırakıldığını varsayalım. Şok edici bir tarihi kaydın bize bildirdiği gibi, bu insan uygarlığının sonu olurdu. Dikkatli bir şekilde kontrol edilmediği takdirde, YZ mühendisliği ciddi tehditler oluşturabilir.

CJP: Avrupa’daki düzenleyiciler ve kolluk kuvvetleri ChatGPT’nin yayılmasıyla ilgili endişelerini dile getirirken, yakın zamanda sunulan bir Avrupa Birliği mevzuatı, bu tür araçları algılanan risk düzeylerine göre sınıflandırarak yapay zeka ile başa çıkmaya çalışıyor. ChatGPT’nin ciddi bir kamu tehdidi oluşturduğundan endişe edenlere katılıyor musunuz? Dahası, YZ araçlarının daha da geliştirilmesinin, güvenlik önlemleri getirilinceye kadar durdurulabileceğini gerçekten düşünüyor musunuz?

NC: Bu vaka da dahil olmak üzere, ileri teknolojinin yarattığı tehditleri denetim altına alma çabalarına kolayca sempati duyabilirim. Bununla birlikte, bunu yapma olasılığı konusunda şüpheciyim. Cinin şişeden çıktığından şüpheleniyorum. Kötü niyetli aktörler –kurumsal ya da bireysel– muhtemelen güvenlik önlemlerinden kaçmanın yollarını bulabilirler. Bu tür şüpheler elbette ileri teknolojinin yarattığı tehditleri denetim altına almayı denememek ve tetikte olmak için bir neden değildir.

[i] Dilbilimde bu yasaya göre herhangi bir yazılı metinde geçen sözcükler azalan sıklığa göre (yani en çok kullanılandan en az kullanılana doğru) sıralanırsa, elde edilen sıralama listesindeki tek bir sözcüğün sıra numarası ile o sözcüğün sıklık sayısı her zaman sabit bir sayı olur. (wikipedi)