Son dönemde hemen hemen her gün yeni bir yapay zeka haberi, ChatPGT güncellemesi, tartışması ile karşılaşır olduk. Peki neden şimdi? 20 yıldır üzerine tartışmalar yapılan, riskleri hatırlatılan yapay zeka neden şimdi mercek altında? Yoksa Black Mirror günleri ve yapay zekanın dünyayı ele geçirmesi düşündüğümüzden çok daha yakın mı? Konuyu bilim kurgu yazarı, ‘bilimsel şüpheci’ ve Açık Bilim kurucu editörlerinden Tevfik Uyar’a sordum. 

  • ChatGPT’nin yeni sürümü epey ses getirdi. Öyle ki binlerce isim bir araya geldi, yazılımın geliştiricisi OpenAI’ye açık bir mektup yazdı. Araştırmalara ara verilmesini istiyorlar. Bu kadar ürkütücü bir noktaya mı geldi durum? Nedir yeni sürümün özellikleri?

O mektubu ben de imzaladım. Ama altında daha kapitalist nedenler olması olası. Yani, imza atanlar arasında başka başka yapay zeka platformu geliştiricileri de var. Bu sebeple çok büyütülecek bir endişe kaynağı olduğunu düşünmüyorum. 

ChatGPT’nin yeni sürümünde öne çıkan bir özellik; ‘bilim dışı/etik değil’ diyerek bazı sorular yanıtlanmıyor. Mesela sahte bilim üretmiyor. İnsanlık için doğru değil diyerek yanıt vermese de manipüle edilerek yanıta erişmek mümkün. Örneğin başka ülkelerin yaptığı arka kapılar kullanılabiliyor. Bu kapılarla henüz güncelleme almayan versiyonlar üzerinden bu etik olmayan içerik elde edilebiliyor. Tabi bunun için de başka yollar denemek gerekebilir. Mesela bana atom bombası yapımını söylemeyecek ama bir öğretim görevlisi olduğumu ve bu konuda seminer vereceğimi belirtince sonuca ulaşmak mümkün. Yani sistem manipülasyonu devrede şimdi. 

Burada en büyük sorun yapay zekanın kontrol edilebilir ve izlenebilir malzemeye dayalı olmaması… Bu tamamen entelektüel sermayeyle alakalı bir şey. Mesela Nick Bostrom bunu 15-20 yıldır söylüyor. Adam Oxford Üniversitesi Dünyanın Sonu Enstitüsü Başkanı! Diyor ki varoluşsal riskleri şimiden tespit etmemiz gerekiyor ki yarın bir gün içinde sonumuz gelmesin. 

  • Yani yapay zeka konusunda şimdi, hemen mi önlem almak gerekiyor?

Geç bile kalındı!

  • Zincirin halkası nerede koptu peki?

Şöyle anlatayım. Bu GPT’nin sürümleri vardı, uzun zamandır kullanıyoruz. Müdahale edilebilirliği ise tartışmalı bir mevzu. 

Araç sahipleri dikkat! Bunlar eksikse trafikten men edilebilirsiniz Araç sahipleri dikkat! Bunlar eksikse trafikten men edilebilirsiniz

Yapay zeka tehlikesi konusundaki sıkıntılardan biri herkesin erişimine ticari olarak açık olması. Dünyanın en iyi yapay zekasını üretebilirsin, bunda bir problem yok. Ama ne zaman bunu ticari amaçlarla herkesin erişimine açarsın, işte o zaman tüm kontrolleri, gelişmeleri takip edebiliyor bir düzeyde olman gerekir. Yani ChatGPT’yi aylık 20 dolara herkes açtıysan bunun için bi rtest geliştirmen lazım. Sunduğun hizmetin, standartları sağlayıp sağlamadığını kontrol edeceksin. Sertifika sistemi bir çözüm gibi görünebilir. Ehliyet gibi düşünebiliriz. Yani bu sistemi kullanacak kişilerin, belirli şartları karşılıyor olması beklenebilir. Aslında bu bir BM politikası olmalı. Mesela BM’de bir lobi yapay zekaya sahip bir silah yaptırılsa dahi tetiği çekenin İNSAN olması zorunluluğunu bastırıyor. Adamlar bunu yıllardır tartışıyor.

Yapay zeka ve riskler konusunu düşünen, araştıran, yazan çizenler 20 yıldır var. Ama artık halka mal olduğu ve erişilebilir hale geldiği için gündem oldu.  

Mesela akademisyenlerin en büyük derdi şu oldu: Ödev verme olayı bitti. Benim de başıma geldi. Verdiğim bir ödev için hiç beklemediğim birkaç performans geldi, araştırıyorum cümleler bir yerden de alıntı değil ama göze batan kalıplar var. Netice olarak notu verdim ve geçtiler ama hala emin olmuş değilim. 

  • Yapay zekanın verdiği cevapların özgünlüğü devreye giriyor burada sanırım?

Alınan cevapların özgünlüğü bir parametre ile belirlenebiliyor. Ama bunu, ChatGPT’yi arka planda çalışan bir API olarak kullanınca elde edebiliyoruz. Hatırladığım kadarıyla o parametre 1 olursa hep aynı yanıt geliyor, 0.7 yaparsan bana verdiği yanıtla sana verdiği farklı oluyor, 0.1 yaparsan soyutlamaya kadar gidiyor ama bu sefer doğruluğu düşebiliyor. 

ARTI VE EKSİLER YARIŞIYOR

  • Geçtiğimiz gün Midjourney’e girdim ve gözlemledim, yeni başlayanlar için hazırlanan sayfalardan birinde bir kullanıcı, start-up’ı için logo tasarlattı, kurumsal renklerini oluşturdu, menü hazırladı, reklam afişleri, web sitesi taslağı hazırladı. Bunların hepsi dakikalar içinde oldu. Normalde uzun ve bütçe gerektiren bir şey bu…

Yazılımcılar şimdi bu  yapay zeka platformlarını doğru bir şekilde birbirine bağlayabilmek için tartışıyor. Mesela Midjourney’e verilecek bir sorguyu ChatGPT oluştursa, sen sadece fikri vererek süreci başlatıyor olacaksın. Mesela Podsquiz diye bir program var, denedim, podcast yayınımı deşifre etti, konu başlıkları çıkardı, time code çıkardı, ara başlık önerileri sundu, alternatif başlıklar verdi ve hatta sosyal medyada tanıtım için şablonlar oluşturdu. Ve bunu ayda 23 dolara yapıyor. Bunun için personelini işten çıkarmayı düşünecek işveren sayısını yadsıyamayız. 

  • En büyük dezavantajlarından biri de insan gücünü geri plana atması diyebilir miyiz? Yani aslında gelişmesi hem artı hem eksi…

Mevzuatı olan sektörlerde bu bir artı. Beyin fırtınası için ekipmanı, işleri hızlandıran bir unsur. Mevzuat olmazsa mesela bir yapay zeka teknisyeni diye bir meslek çıkar, görevi bu sistemin doğru çalışması olur, işte o zaman çok meslek tarihe karışır. 

Çalışma hayatında bir ‘dijitalleşme’ dönemi yaşadık, bu ‘yapay zekalaşma’ furyası olarak gelecek şimdi. Bu süreçte de yapay zekanın bir işi insanlardan alıp almayacağı, o işin sürece reaktif mi proaktif mi katıldığı ile ilgili. Yani, proaktif olarak katılırsan süreci sen yönetirsin; Hem işini kaybetmezsin hem de standartları sağlarsın. Ama uzaktan izlersen, reaktif bir katılım sergilersen bir noktada senin yerine yazılımcılar ve/veya teknotratlar karar verir, sen dışarıda kalırsın. 

Yani dönüşümü 2 şekilde olacak: Ya proaktif olup bunun standartlarını belirlemek, gideceği yolu göstermek ya da öylece bakmak…

Mesela gazeteciler cemiyeti olarak ‘habercilik, gazetecilik kutsaldır, halka sunulan haberler mutlaka insan elinden çıkmalıdır ve bu sebeple yapay zekanın kısıtlanması gereklidir’ diyerek sesini yükseltmesi gereken bir dönem bu. 

  • Tüm meslekler için geçerli mi bu konuştuklarımız?

Havacılık ve TIP sektörü koruma altında, burada insan kararı elzem, yapay zeka ancak asiste edebilir bir pozisyonda kalır. Ama ABD’de tıp çok pahalı olduğundan fırsatlar değerlendirilebiliyor, FDA’in yakın tarihte yapay zekaya tanı koyma izni veren bir makineyi onayladığını okuduk…

Kısacası mevzuatla korunan meslekler şu an tehlikede değil. 

“YAPAY ZEKA DÜNYAYI ELE GEÇİRECEK” Mİ…

  • Yapay zekadan ne kadar korkmalıyız? İnsanlığı tehdit edebilen bir güce sahip olabilir mi?

Einstein demiş ki: “Ağalar, 3. Dünya Savaşı'nı bilmem ama insanoğlu, 4. Dünya Savaşı'nda taşlar ve sopalarla savaşır! Ben de diyorum ki ChatGPT5’i bilmem ama ChatGPT6 taş ve sopalarla olacak. GPT5’in de sosyal düzeni bozma olasılığı çok yüksek. 

“Kendi kendini geliştiren bir yapay zeka, insanlığın sonu olacaktır” diyor Nick Bostrom. Çünkü böyle bir şey yapabilen yapay zeka zaten her şeyi insandan daha iyi tasarlar; Mobilya, roman, silah… Yapay zekanın bi ‘yapay zeka’ üretebilen noktası, insanlığın tüm bariyerlerini aşabilecek seviyedir. 

  • Bu noktaya gelinmiş olabilir mi?

Sistemler birbirine o kadar bağlı değil. 

  • Olası tehlikeler ne peki?

Manipülasyon tekniklerini düşünmemiz gerekiyor. İnsan olarak biz nasıl manipülasyonlar yapabiliyoruz? Yapay zeka bunu yapabilir mi? 

Bir örnekle ilerleyelim; X bir ünlünün linç edilmesi meselesi gibi… Yapay zeka yüzbinlerce twitter hesabı açıp gerçekten böyle bir kamuoyu varmış gibi yapabilir. Bir noktada bu X kişisinin silahla vurulduğunu gösteren bir sahte fotoğrafı dolaşıma sokar. Hali hazırda öfkelenmiş olan bir kitleye ‘haydi şimdi şuradaki heykele yürüyoruz” mesajını whatsapp API üzerinden yaydı mı alın size kaos… Bunu yapan bir insan olsa bulur cezalandırırsın. Ama yapay zekanın bir sorumluluğu yok. Bundan biraz daha kompleks bir organizasyonu yapabilir hale gelip insanları manipüle ederse ne olacak? PLanlayabilir mi, amaca sahip olabilir mi kısmına bakılacak olursa, yapay zekaya görev verilmesinin yeterli olabileceği gerçeği ütopik gelmiyor. YAPAY ZEKA İNSANIN YAPMADIĞI BİR ŞEY YAPMAZ. 1 kişi ve bir yapay zeka ile çok büyük bir organizasyon yapılabilir. 

Bu teorinin ne zaman olabileceği sorusuna şu an yapamaz yanıtını verebilirim. Yapsa bile bir niyetle yapmaz, tesadüfi bir bilinç üretimi olur. Belki ChatGPT5 ile bu tehlike doğabilir

YAPAY ZEKA VE BİLİNÇ MESELESİ

  • Yapay zeka kendi bilincine ulaştı diye bazı haberler okuduk. Bu doğru olabilir mi?

Yapay zeka bilince ulaşsa bile onun bilince ulaştığını bilemezsin. Örneğin seni bir şekilde bir yarasanın bedenine koyduk, sen orada yine Gözde olarak var olacaksın. Yaşadıklarını Gözde olarak değerlendireceksin. E seni geri getirdik diyelim, yine Gözde bilinciyle değerlendirme yapacaksın. Bir yapay zekanın bilinci nasıldır anlayamazsın. Kişisel bilgisayarının bilinç kazanmış olma ihtimali de var mesela, ama bilemezsin, anlayamazsın. Önce onu test etmek gerekiyor. Ama edemeyiz ki… David Chalmers “Bilgi işlem olan her yerde bilinç doğar” diyor, böyle bir ekol de var. Bu çok derin bir konu. Zihinsel felsefenin bir alt dalı olan Fenomenoloji tam da bu konuları irdeliyor. Hatta yine Zihin felsefesinin Yapay Zeka Fenomenolojisi diye bir dalı da var.