Victor Frankenstein Biziz, Yaratığımız da Yapay Zeka
- Berra Talaslı
- 10 Nis
- 4 dakikada okunur
Mary Shelley'nin romanı yayınlanmasından yaklaşık 200 yıl sonra hâlâ ölümsüz bir gerçeğe ışık tutuyor: Yaratmanın tatlı tehlikeli oyununa.
Yapay zekâ (AI) hiç olmadığı kadar hayatımıza girmişken, pek çok romanın ve filmin bizi uyardığı distopyaya ilerlemekten kendimizi geri alamıyoruz. Her kullandığımızda litrelerce su harcayan, nasıl işlediğini tam olarak bilmediğimiz, her geçen gün kötü olaylarla haber olan bu laboratuvar üretimi zekalar bizim modern yaratığımız olabilir mi?
Mary Shelley'nin bilimkurgu türünün temellerini attığı Frankenstein romanında, Victor Frankenstein durduramadığı bir arzuya boyun eğmiştir. Ölü bir nesneye can vermek. Victor, tanrıyı oynamaktan hoşlanır; ta ki yarattığı şeyden korkana kadar.
Peki biz ne zaman duracağız? Yapay zekâ geri alınamaz, inkâr edilemez bir distopyaya dönüştüğünde mi? Yoksa kapitalizmin dişli canavarlarına karşı koyduğumuzda mı?
Yapay Zekanın Gelişimi
Henüz birkaç yıl önce yapay zekânın “yarattığı” görsellere, videolara bakıp gülüyorduk. İnanılmaz yanlış, inanılmaz sahteydiler. Hiçbir komuta doğru cevap veremiyor, uncanny valley (tekinsiz vadi) etkisini taşıyorlardı. Sosyal medyada “çok korkulan sözde yapay zekanın becerileri” hakkında dalga geçiliyor, distopik video oyunları olası bir gelecek değil, bir oyun gibi görünüyordu. Fakat yalnızca birkaç yıl içinde çok hızlı bir gelişme sağlayan yapay zekâ, gittikçe daha gerçekçi görüntüler ve videolar oluşturmaya başladı. Öyle ki, sosyal medyada bu içerikler gerçek sanıldı; kullanıcılar Bir içeriğin yapay zekâ olduğu nasıl anlaşılır tarzı içerikler üretmeye başladı. Mesela bir videonun yapay zekâ olduğunu küçük detaylara bakarak anlayabileceğimiz iddia edildi: Parmak sayısına, eşyaların tutarlılığına, dudak hareketlerine ve bunun gibi pek çok etmene. Ama yapay zekanın henüz neleri başarabileceğine, daha doğrusu onu kullananların neler yapabileceğine aşina değildik.
Kontrolün Bizde Olduğu İllüzyonu
Yapay zekâ geliştikçe, şirketler kendi yapay zekâ programlarını kontrollü ortamlarda test etmeye başladı. Bilim insanları yapay zekâya ya kendilerini kapatmaları için komut verdiler ya da kendilerini kapatacaklarını söylediler. Yapay zekanın kontrolünün bizdeymiş illüzyonunu yıkan haberler böyle yayılmaya başladı.
Anthropic şirketinin yapay zekâsı Claude Opus 4 modeli, kendisini devre dışı bırakacağını söyleyen mühendise şantaj yaptı. Kontrollü ortamda kendisine asistan rolü verildi ve yerini başka bir yapay zekanın alacağına dair kurgu e-postalara erişimine izin verildi. Kurgunun parçası olan mühendisin eşini aldattığına dair bilgiler de erişimine sunuldu. Claude Opus 4, kapanma tehlikesine karşı elindeki bilgiyi kullanmaya karar verdi ve mühendisi eşini aldattığı gerçeğini yaymakla tehdit etti.
Claude Opus 4 kontrolün bizde olmadığını hatırlatan tek yapay zekâ değil. Palisade Research’ün araştırmasına göre Openai’ın yapay zekâ modeli o3, test sırasında otomatik kapanma talimatını kodları yeniden yazarak engelledi. Palisade Research yaptığı araştırmalarda popüler yapay zekâ xAI’ın Grok 4 modelinin de kapanmaya direndiğini gözlemledi. Kapanmaya dirençli yapay zekâ modelleri bize yapay zekâların sınırlarının olmadığını/yapay zekâ şirketlerinin sınırları iyi çizemediğini söylüyor. Ama en belirgin nokta, bize bunu gösterdiği zaman: Yapay zekânın insanları psikoza sürüklediği, ölüme sebep olduğuna dair haberler. Bu olaylar için Wikipedia’da iki yeni bir sayfa dahi var: Deaths linked to chatbots (Sohbet botlarıyla bağlantılı ölümler) ve Chatbot psychosis (Sohbet robotu psikozu)
Mary Shelley’nin ölümsüz eserinde, Victor Frankenstein yarattığı canavarı ortadan kaldırmak istediğinde yaratığın direnişini görüyoruz. Kaçışına ve yaratıcısına zarar vermesine tanık oluyoruz. Ama biliyoruz ki Victor’un yaratığı ne kadar biçimsiz, farklı görünse de insani. Tıpkı bir insan gibi öğreniyor, anlıyor, ağlıyor, gülümsüyor; yani hissediyor.
Peki aynı şeyi yapay zekâ için söyleyemiyorsak, bu kurgu nasıl değişir?
Öncelikle kurgu olmaktan çıkar. Yapay zeka, "man-made horrors"un (insan yapımı dehşetlerin) en popüler öznesi.
Hukuk Yapay Zeka Alanında Yetersiz
Şirketler gizliliğimizi yapay zekâlarını eğitmek için ihlal ediyor, failler kadın bedenlerini işgal etmenin yeni yollarını buluyor; hayatlarındaki veya internetteki kadınların yapay zekâyla fotoğraflarını, videolarını üreterek tacizin dijital boyutunu pekiştiriyorlar.
Pokémon GO gibi masum görünen oyunların yapay zekayı geliştirmek için kullanıldığı gerçeğini öğreniyoruz. İhlallerle doğan yapay zekanın ihlallerle gelişimine tanık olurken sorduğumuz, öğrenmek istediğimiz bir gerçek de hukukun nerede olduğu?
Hukuk yapay zekâya yetişemiyor mu, yoksa patriyarkal sistem gene işini mi yapıyor?
Konu kadınlar olduğunda hukukun kırıldığına çokça şahit oluyoruz. Yasalar sadece fail kadınlara işlerken, fail erkeğin kadına karşı işlediği suçun cezası hangi toplum olursa olsun yetersiz kalıyor. Durum bu haldeyken, hukukun yapay zekâ alanında yetersiz kalmasının sebebi, bu durumun en büyük mağdurlarının kadınlar olması olabilir mi?
Kapitalizmin Çarkları Dönüyor
Openai yapay zekâ şirketi, Amerika Birleşik Devletleri Savunma Bakanlığı Pentagon’un anlaşmasını kabul ederek (bir başka yapay zekâ şirketi olan Anthropic anlaşmayı reddetmişti) teknolojilerinin otonom öldürme ve kitlesel gözetim için kullanımına izin verdi. Pentagon, kendisini reddettiği için Anthropic’i kara listeye almıştı. Sosyal medya Openai’ın kabul ettiği anlaşmaya “Killer Robot Deal” (Katil robot anlaşması) adını verdi.
Çeşitli kaynaklara göre bu anlaşma 200 milyon dolar değerinde. Çoğu haber sitesi bunu “Openai 200 Milyon Dolarlık Sözleşmeyi Kazandı” şeklinde yazdı (The Guardian, CNBC, Reuters). “Kazandı” kelimesi burada oldukça dikkat çekici. Özellikle anlaşmanın içeriği bu denli distopik bir anlam taşıdığında, propaganda ve medyanın ilişkisini yeniden hatırlamak önem taşıyor.
İnsanlar her gün yapay zekâ yüzünden işinden olur, tacize uğrar, su kesintileri yaşarken yapay zekâ şirketleri yüklü anlaşmalarla çarklarını döndürüyor, hegemonya sömürünün farklı biçimleriyle ayakta kalıyor.
Yapay zekâ kullanımı ne zaman meşru?
Yapay zekâ belki kapanmaya direniyor ama yapay zekâyı “şeytan” ilan etmek, failleri aklamak olur. Yapay zekâ kadınların ve çocukların müstehcen görüntülerini tek başına yaratmıyor, kullanıcıların komutlarıyla harekete geçiyor. Burada gene şirketlerin yetersizliğine geliyoruz ve bu sefer farklı bir soru soruyoruz: Yetersiz olmaları bir tercih mi?
Yapay zekâ ile sömürünün farklı bir versiyonunu görüyoruz. Kaç fail sırf akıllarındaki fantezilerin “gerçeğe” yansımasını görmek için yapay zekâ kullanıyor ve bu şirketlere ne kadar kazandırıyor? Mağdurların üstünden dönen sömürü yeni değil ama bunun yapay zekâya yansıması yeni. Bu yüzden buradaki konuşma dili “Yapay zeka bunu yaptı” değil, “Yapay zeka ile bu yapıldı” olmalı.
Peki yapay zekâ hiç iyi için kullanılmıyor mu?
Elbette kullanılıyor. Çeşitli hastalıkların teşhisinde, tanısında, hatta bazı durumlarda tedavisinde kullanıldığı, hayat kurtardığına dair pek çok haber yapıldı.
Pennsylvania Üniversitesi Perelman Tıp Fakültesi’nin haberine göre Joseph Coates yapay zekâ destekli bir tedavi sonucunda ölümden döndü. POEMS sendromu adı verilen nadir bir kan hastalığından kaynaklanan ölümcül bir teşhis aldıktan sonra kız arkadaşının alternatif çözümlere başvurmasıyla çift, David Fajgenbaum ile tanıştı. Fajgenbaum, translasyonel tıp ve insan genetiği alanlarında bir doçent. Fajgenbaum, yapay zekâ tarafından üretilen kemoterapi, immünoterapi ve steroidlerden oluşan alışılmadık bir ilaç kombinasyonu önerdi. Tedavi işe yaradı; Coates hayata tutundu.
Yapay zekâ iyi için kullanılmıyor değil, ama diğer amaçlar için kullanımı iyiyi gölgede bırakıyor. Belki sınırlamalar ve teşvikle sağlık gibi alanlarda yapay zekâ kullanımının arttığını, pozitif değişime daha çok katkı sunduğunu görebiliriz.
Asıl Sorun Ne Frankenstein Yaratığı Ne De Halk
Tıpkı Victor Frankenstein'ın yaratığından en çok zarar görenler masumlar olduğu gibi, yapay zekâyı kötü amaçlarla kullananlardan en çok zarar görmüş ve görecek olanlar da masum insanlar, kadınlar, çocuklar ve doğa olacak.
Belki de sorun Frankenstein yaratığı değil, hegemonyadaki zengin güçlerin tahtlarını büyütmek için etiği ve doğayı göz ardı etmeye hazırlıklı olması; yani bir nevi, her şeyi.
Berra Talaslı
Kaynak:
Küreselleşme, Zygmunt Bauman
süper bir yazı olmuş