Hiçbir model insanın vicdanının, merhametinin ve yaşanmışlığının yerine geçemez. Fakat son günlerde yapay zekâ dünyasından gelen açıklamalar meseleyi daha acil bir yere taşıdı. Yapay zekâ insan olamaz, doğru. Peki, insana zarar verebilir mi?
Bu soruyu artık yalnızca teknolojiyi dışarıdan eleştirenler sormuyor; alarmı çalanlar arasında, bu sistemleri geliştirenler de var.
Anthropic’te ön eğitim araştırmacısı olan Jacob Coxon, istifasını açıklarken hem eski işvereni OpenAI’yi hem de Anthropic’i sorumsuz bir yarışın içinde olmakla eleştirdi. Kendi kendini geliştirebilen bir süper zekâya doğru gidildiğini, bu sistemlerin gerçek güç ve kaynaklara erişebilecek düzeye gelebileceğini söyledi.
Sektörde birçok kişinin bu teknolojinin on yıl içinde insanlığı yok edebileceğine inandığını da dile getirdi. Coxon yalnız değil. Geoffrey Hinton, Tristan Harris, Frances Haugen… Hepsi benzer bir noktada buluşuyor:
İçeriden gelen uyarılar, dışarıdan yükselen sıradan itirazlar gibi görülemez.
Bize sunulan anlatı genelde aynı: Yapay zekâ hastalıkları çözecek, üretimi artıracak, bilimi hızlandıracak. Evet, bu katkılar mümkün. Ama insanlık yapay zekâdan önce de vardı ve ilerliyordu. Sırf fayda sağlıyor diye insan kontrolünü aşabilecek bir güce sessiz kalmak zorunda değiliz.
Teknoloji insan için vardır; insan teknoloji için değil.
Benim itirazım yapay zekânın varlığına değil, kontrolsüz gücüne. Yapay zekâ insanlığı ve dünyayı ileri taşımak için geliştiriliyorsa hayatımızda yeri olsun, ama sınırlı, denetlenebilir ve geri alınabilir biçimde.
Üreticisinin bile kontrol edemeyeceği bir sistem olmamalı. Ve sadece kontrol değil, amaç da sorgulanmalı. Amaç insanlığı ileri taşımak mı, yoksa insan üzerinde denetimsiz bir güç kurmak mı? Bu soruyu yalnızca sisteme değil; sistemi geliştiren şirketlere, onları yönetenlere ve bu sürecin arkasındaki yapılara da sormak zorundayız.
İki tehlike var.
Birincisi, üretenin dahi durduramayacağı bir sistem; böyle bir ihtimal ciddi biçimde konuşuluyorsa “yarış devam ediyor” deyip geçemeyiz.
İkincisi, sistem kontrol edilebilir olduğu halde kötü niyetle yönlendirilirse; o zaman sorun sadece teknolojide değil, o gücü elinde tutanlarda.
Bu yüzden yalnızca yapay zekâyı değil; onu geliştiren, finanse eden, yöneten yapıları da bağımsız biçimde denetlemek gerekir.
Sorumluluk sadece bireysel kullanıcıda değil; yasa koyucularda, düzenleyicilerde, bağımsız kurumlarda ve toplumda olmalı.
Teknolojiyi tümden reddetmek çözüm değil; sınırsız güven de ilerleme sayılmaz.
Sınırlı ve bilinçli bir yapay zekâ, hızını değil yönünü bizim belirlediğimiz yapay zekâdır.
İnsanlığın yerini alamayacağına inanmak, insanlığa zarar veremeyeceği anlamına gelmez. Bu yüzden artık asıl soru şudur:
Kontrol kimde kalacak?