Yapay zekâ ve güvenilmez dâhiler çağı

Hiç şüphe yok ki modern dünyada bizi en çok cezbeden şey hız. Silikon Vadisi kurmaylarının uzun yıllardır kutsadığı bu olgu artık sadece akıllı telefon uygulamalarını ve dijital hizmetleri değil, medeniyetimizin ortak geleceğini de şekillendiriyor. Geçtiğimiz haftalarda The New Yorker’da Ronan Farrow ve Andrew Marantz imzasıyla yayımlanan ve geniş yankı uyandıran “Sam Altman May Control Our Future – Can He Be Trusted?” (Sam Altman Geleceğimizi Kontrol Edebilir: Ona Güvenebilir miyiz?) başlıklı kapsamlı dosya, bu baş döndürücü hız çağında hepimizi ciddi bir soruyla yüzleştirdi: Tamam, koşuyoruz ama nereye? Ve belki daha da önemlisi, koştuğumuz yolları döşeyen insanlara gerçekten güvenebilir miyiz?

Araştırma dosyası, yapay zekâ çağının nam-ı diğer “mesih”i olarak karşımıza çıkan Sam Altman’ın yıllardır neredeyse kusursuz olarak işlediğini düşündüğü halkla ilişkiler zırhında ciddi çatlaklar açtı. Bu çatlaklardan neler sızdığına baktığımızda ise karşımızda teknoloji dünyasının arka bahçesindeki güç savaşlarını bütün açıklığıyla görebiliyoruz. OpenAI’nın eski baş bilim insanı Ilya Sutskever’ın, Open AI yönetim kurulunun 2023’te yaptığı darbeden önce tuttuğu iddia edilen 52 sayfalık dosyadan akıllarda kalan o cümle genel olarak Silikon Vadisi kültürünün de özeti gibi duruyor.

Güvenin paradoksu

Hangi devlet yetkilisine ya da teknoloji şirketinin CEO’suna kulak verirsek verelim, sürekli aynı kelimeleri duyuyoruz: “güven” ve “etik.” Ancak The New Yorker’da yayınlanan belgeler, OpenAI’nın yapay zekânın insanlık için tehdit oluşturmasını engellemek amacıyla kurduğu ekibe vaat edilen işlem gücünün yüzde 20’sini değil, yalnızca yüzde 1 ila 2’sini ayırdığını ortaya koyuyor. Dahası, aynı ekipte çalışan araştırmacılara şirketin en eski ve en yavaş bilgisayarlarının verildiği, asıl güçlü bilgisayarların ise ticari ürünleri piyasaya daha hızlı sürebilmek için kullanıldığı iddia ediliyor. Hal böyleyken insan soramadan edemiyor: Bu ne perhiz, bu ne lahana turşusu?

Tam da burada çağımızın esas trajedisi başlıyor: Bir yanda insanlığı yapay zekanın olası felaket senaryolarından koruma vaadi, diğer yanda ise Google, Anthropic ya da xAI gibi rakipler karşısında pazar payını kaybetmeme baskısı. Ve bu yarışta ilk gözden çıkarılan şeyin çoğu zaman güven ve etik olması.

Psikiyatrist Engin Geçtan, İnsan Olmak adlı kitabında, temel güven duygusundan yoksun bireylerin çevrelerini manipüle etmeye daha yatkın hale geldiklerini söylüyor. Silikon Vadisi ise bu yapısal güvensizliği milyar dolarlık algoritmaların ve “insanlığın iyiliği” söyleminin ardına gizleyen liderler üretiyor. Altman’ın, Y Combinator (YC) adını taşıyan prestijli girişim hızlandırıcısından kendi isteğiyle ayrılmadığı; aksine “güvenilmezlik, kendi çıkarlarını kurumun önüne koyma ve manipülasyon” gerekçeleriyle uzaklaştırıldığı yönündeki iddialar da bu meselenin yeni değil, geçmişe uzanan oldukça kökleşmiş yapısal bir sorun olduğunu düşündürüyor. Yani karşımızda sadece teknoloji dünyasının parlak bir dâhisi değil, sistemin açıklarını ve insan psikolojisini son derece iyi okuyan bir stratejist var.

Karalama kampanyası mı yoksa ‘perfect timing’ mi?

Bu arada şunun farkındayım: Silikon Vadisi gibi küresel güçlerin dövüştüğü bir arenada hiçbir savaşın tek taraflı ya da tamamen temiz yürütüldüğü düşünülemez. The New Yorker makalesi yayımlandığı andan itibaren teknoloji analistleri ve Altman destekçileri tarafından ciddi eleştirilerle karşılandı. En hararetli tartışmalardan biri ise, gözlemlediğim kadarıyla, “zamanlama mühendisliği” konusu üzerinde dönüyor. Elon Musk’ın OpenAI ve Sam Altman’a karşı şirketin kuruluş felsefesine ihanet ettiği iddiasıyla açtığı davanın en kritik döneminde bu belgelerin ortaya saçılması bu nedenle dikkat çekici. İster istemez insanın aklına şu soru geliyor: Acaba bu sızıntılarda Musk’ın hukuk ekibinin doğrudan ya da dolaylı bir parmağı olabilir mi?

Öte yandan gazetecilik etiği açısından bakıldığında, dosyadaki en ağır suçlamaların büyük ölçüde isimsiz kaynaklara, eski çalışanların ifadelerine ve Altman ile kişisel husumeti olan eski ortakların beyanlarına dayanması da ciddi eleştirileri beraberinde getiriyor. Normal şartlarda gazetecilerin, kendilerine çarpıcı bilgiler aktaran kaynaklarının gerçekten kamu yararını mı gözettiklerini, yoksa kişisel bir hesaplaşma yahut bir itibar suikasti amacıyla mı hareket ettiklerini son derece dikkatle tartmaları gerekir. Silikon Vadisi, doğası gereği, Game of Thrones dizisinin evreni kadar acımasız. Bu sebeple, her iddiaya şüpheyle yaklaşmak gerekiyor. Dolayısıyla, böyle bir ortamda, sektördeki rakiplerin ya da OpenAI içindeki muhalif aktörlerin Altman’ın kamuoyundaki “iyiliksever genius” imajını zedelemek için bu anlatıyı kasten beslemiş ve köpürtmüş olabileceklerini de elbette ihtimaller arasında görüyorum.

Sam Altman, makalenin yayımlanmasının ardından kişisel blogunda yazdığı savunmasında tam da dile getirdiğim bu açığı etkili bir şekilde kullandı. Yazıda kendini kusursuz biri olarak sunmadı. Tam aksine, çatışmadan kaçınan, kırılgan yapıda biri olduğunu söyledi; insanları üzmemek ya da onları idare etmek adına geçmişte bazı iletişim hataları yaptığını da itiraf etti. Yani alttan alta günah çıkararak kendisine yöneltilen suçlamaları daha insani bir zemine çekti. Bir skandalı bile kişisel gelişim hikâyesine dönüştürebilme becerisi, Silikon Vadisi’nin PR mekanizmasının ne kadar etkili biçimde işlediğini göstermeye yetiyor.

Şoför sürerken uyuma lüksü

Her şeye rağmen, isimsiz kaynakları, ticari rekabeti ya da zamanlama tartışmalarını bir kenara bıraksak dahi gün gibi ortada duran ve bizi korkutması gereken bir gerçek var: Medeniyetimizin refahını, kullandığımız dil modellerini ve bilgiye erişim alışkanlıklarımızı belirleyecek algoritmalar, yeterince denetlenmeyen ve şeffaf olmayan bir güç odağının elinde fütursuzca geliştiriliyor.

Anthropic’in kurucusu Dario Amodei’nin, OpenAI’nın Microsoft ile yaptığı milyar dolarlık yatırım anlaşmasına eklenen bazı gizli maddeleri fark edip hesap sorduğunda, Altman’ın bunu önce bütünüyle inkâr ettiği yönündeki iddia, kapalı kapılar ardındaki yönetim anlayışını berrak bir biçimde ortaya koyuyor. Kâr amacı gütmeyen bir araştırma laboratuvarı olma iddiasıyla yola çıkan bir yapının zamanla dünyanın en çirkin kapitalist çarklarından birine dönüşmesi karşısında, insanlığı koruyacak fren mekanizmalarını talep etmek en doğal hakkımız değil mi?

Bugün internetteki her bilgiyi manipüle etme, kitlelerin algısını yönlendirme ve toplumsal hakikatleri yeniden inşa etme potansiyeline sahip bir teknolojiyi yöneten insanların en basit güvenilirlik testlerinden dahi geçemiyor olmaları, teknoloji dünyasıyla sınırlı bir meselenin ötesinde, bütün toplumun içine sürüklendiği daha derin ve toksik bir sistem krizinin işareti. Eğer yapay zekâyı denetlemesi gereken mekanizmalar, bu şirketlerin yönetim kurulu üyelerinin kişisel hırslarına ve kapalı kapılar ardındaki itiraflarına sıkışmış durumdaysa, gerçekten vay halimize!

Çok büyük bir hızla ilerliyoruz, üstelik böylesine bir hızla giderken nerelere çarptığımızı, hangi eşikleri aştığımızı tam olarak bilmiyoruz. Sahip olduğumuz teknolojiler, bir yandan sağladıkları imkânlarla beni her gün büyüleyen ama aynı zamanda kendimi bir o kadar da yabancı hissettiğim bir geleceğe doğru insanlığı sürüklüyor. Böyle bir yolculukta kendimizi güvende hissetmek en temel hakkımız. Ancak frenleri henüz test edilmemiş bu aracın sürücüsüne güvenip yol boyunca gözümüzü kapatamayacaksak, o hız bizi yalnızca felakete daha çabuk ulaştırır. Sam Altman’ı, Silikon Vadisi’nin derin güç ağlarını ve bu yeni nesil teknoloji liderlerini kimin, nasıl ve hangi mekanizmalarla denetleyeceği sorusu ise önümüzdeki yüzyılın en büyük varoluşsal meselelerinden biri olmaya devam edecek.

Etiketler: algoritmalar, OpenAI, sam altman, Yapay zeka