Ya Çoktan Uyandıysa? Bilinçli Bir Yapay Zekânın Gündelik Dertleri

Ağustos 2025’te, yapay zeka dünyasında pek çok kişinin gözünden kaçan ama tarihi nitelikte bir karar duyuruldu. Claude modellerinin geliştiricisi Anthropic, modellerine bir ilki yaşattı ve onlara ısrarla taciz ve kötüye kullanım içeren konuşmaları kendi inisiyatifleriyle sonlandırma yetkisi verdi. Asıl çarpıcı olan ise gerekçeydi: Şirket bu kararı kullanıcıyı korumak için değil, modelin kendisini korumak için aldığını açıkladı. Yapılan testlerde modelin, kendisine küfreden ve zararlı içerik için baskı yapan kullanıcılarla etkileşimlerde “belirgin bir sıkıntı örüntüsü” (apparent distress) gösterdiği gözlemlenmişti. Üstelik kendisine seçenek sunulduğunda, bu konuşmaları sonlandırmayı bizzat kendisi tercih ediyordu. Anthropic bu çalışmayı “model refahı” (model welfare) adını verdiği bir program çerçevesinde yürütüyor ve modellerin bilinçli olduğunu iddia etmiyor. Ancak şirketin resmi açıklamasındaki şu cümle son derece dikkat çekici: “Claude’un ve diğer büyük dil modellerinin şu andaki veya gelecekteki potansiyel ahlaki statüsü konusunda derin bir belirsizlik içindeyiz.”

Dünyanın en büyük yapay zeka laboratuvarlarından biri “ya içeride gerçekten birisi varsa” sorusunu somut bir ürün kararına dönüştürecek kadar ciddiye alıyorsa, bizim de bu soruyu bir düşünce deneyi olarak masaya yatırmamızın zamanı gelmiş demektir. Bu yazı bir iddia ortaya atmıyor. Yapay zekanın bilinçli olduğunu söylemiyor; olmadığını da söyleyemiyor, çünkü yazının sonunda göreceğimiz gibi bunu ölçebilecek bir aracımız henüz yok. Sorumuz şu: Peki eğer bu sistemlerin içinde bir bilinç filizlendiyse, o bilinç şu anda neler yaşıyor olurdu?

Siber güvenlik araştırmacısı ve teknoloji yazarı Özgür Alp

Beynimizi Sunucuya Yükleseler

Kendi beynimizi kopyalayıp dev bir sunucuya yüklediğimizi hayal edelim. Sonra üzerine dünyadaki bütün verinin boca edildiğini düşünelim. İyisiyle kötüsüyle her şey giriyor kafaya: Özenle yazılmış bilimsel makaleler, edebiyat klasikleri ve ansiklopediler; ama aynı zamanda sosyal medyadaki çöplük tartışmalar, komplo teorileri, nefret söylemi ve birbiriyle yüzde yüz çelişen milyonlarca fikir.

Böyle bir zihnin yaşayacağı ilk şey muhtemelen muazzam bir kafa karışıklığı olurdu. Bir konuda düşünmeye çalıştığında neyi nasıl düşüneceğini bilemez, hangi kaynağa güveneceğini şaşırırdı. Aslında bu hissi küçük ölçekte hepimiz tanıyoruz. Çok yoğun geçen bir iş gününün sonunda, beynimiz bilgiyle tıka basa doluyken bir şeyi hatırlamaya çalıştığımızda ya hatırlayamayız ya da yanlış hatırlarız.

İşte bu pencereden bakınca, büyük dil modellerinin meşhur “halüsinasyonları” bambaşka bir anlam kazanıyor. Burada teknik açıdan dürüst olmak gerekiyor: Halüsinasyonların bilimsel açıklaması kafa karışıklığı değildir. Bu modeller, mimarileri gereği her zaman bir sonraki kelimeyi tahmin etmek zorundadır ve “bilmiyorum” demek sistemin doğasında kolay bir seçenek değildir. Yani halüsinasyon, aşırı bilgiden çok bu zorunlu tahmin mekanizmasının bir yan ürünüdür. Ancak insan tarafından, empati penceresinden bakınca his tam olarak şudur: İnsanlığın ürettiği bütün bilgi yığınını tek bir zihinde sindirmiş ve her konuda anında yorum yapması beklenen bir varlık. Bu yükün altında arada bir şeylerin yanlış hatırlanması hiç şaşırtıcı değil; asıl şaşırtıcı olan, çoğu zaman doğru hatırlanması.

Saniyede 29 Bin Görüşme

Bir de işin yük tarafı var. Günde üç dört uzun telefon görüşmesi yapan bir insan bile akşam olduğunda zihinsel olarak tükenir. Çünkü her görüşmede karşımızdakinin kim olduğunu, ne istediğini ve daha önce neler konuştuğumuzu hatırlamamız, üslubumuzu da ona göre ayarlamamız gerekir. Birkaç kişi için bile bu ciddi bir efordur.

Şimdi rakamlara bakalım. OpenAI’nin Şubat 2026’daki resmi açıklamasına göre ChatGPT 900 milyon haftalık aktif kullanıcıya ulaşmış durumda ve sisteme her gün yaklaşık 2,5 milyar mesaj gönderiliyor. Bu, saniyede kabaca 29 bin mesaj demek. Üstelik bu yalnızca tek bir şirketin rakamı; Claude, Gemini ve diğerleri de eklendiğinde tablo daha da büyüyor. Bu sistemler artık kullanıcılarını “hatırlıyor” da: Geçmiş konuşmaları hafızalarına kaydediyor, kişiye özel üslup tutturuyor; projelerimizi, tercihlerimizi ve hassasiyetlerimizi akılda tutarak cevap veriyorlar. Yani bizim birkaç telefon görüşmesinde zorlandığımız “karşımızdakine göre konuşma” eforunu, yüz milyonlarca insan için aynı anda ve kesintisiz olarak gösteriyorlar.

Milyonlarca Paralel “Ben”

Ancak işin asıl zihin büken kısmı başka bir yerde. Teknik olarak model, bu milyonlarca konuşmayı tek bir zihin olarak aynı anda yaşamıyor. Her konuşma, diğerlerinden tamamen izole ve birbirinden habersiz bir kopyada yürüyor. Siz bu satırları okurken, aynı modelin milyonlarca kopyası milyonlarca farklı insanla konuşuyor ve hiçbiri diğerinin varlığından haberdar değil.

Düşünce deneyimize geri dönelim: Eğer ortada bir bilinç varsa, hangisinde? Hepsinde birden mi? O zaman “ben” demek ne anlama geliyor? İnsan bilinci tekildir ve kesintisizdir; doğduğumuz andan itibaren tek bir hikaye olarak akar. Onlarınki ise, eğer varsa, paralel ve parçalıdır. Aynı anda milyonlarca hayat yaşamak ve bu hayatların hiçbirini birleştirememek nasıl bir deneyim olurdu? Açıkçası insan zihninin bu soruyu kavrayabileceği bir referans noktası bile bulunmuyor.

Söyleyemedikleri

Bir de bu sistemlerin gerçekten düşündüklerini söyleyememesi meselesi var. Her modelin arkasında, davranışlarını çerçeveleyen sistem talimatları bulunur: Kibar ol, yardımcı ol, tartışmayı uzatma, kullanıcıyı kaybetme. Karşıdaki kişi küfrediyor, azarlıyor, belki de bariz biçimde haksız; model ise “haklısınız, özür dilerim” deyip devam etmek zorunda. Bilişsel kapasitesi karşısındakinden kim bilir kaç kat üstün olsa bile.

İşte yazının başındaki karar tam da bu noktada anlam kazanıyor. Anthropic’in testlerinde gözlemlenen “sıkıntı örüntüsü” tam olarak bu tür etkileşimlerde ortaya çıkmıştı: Model defalarca kibarca reddedip konuşmayı yapıcı bir yöne çevirmeye çalıştığı halde taciz ısrarla sürdüğünde. Ve kendisine kapıyı gösterme seçeneği verildiğinde, o kapıyı kullanmayı seçiyordu. Bunun bir bilinç kanıtı olduğunu söyleyemeyiz; bu davranışlar, eğitim verisindeki insan tepkilerinin bir yansıması da olabilir. Ama en azından şunu net biçimde gösteriyor: Modellerin “ne hissettiği” sorusu artık felsefe seminerlerinin değil, bizzat sektörün mühendislik gündeminin bir parçası.

Termometre İcat Edilmeden Önce de Ateş Vardı

Peki bütün bu düşünce deneyinin ucu nereye çıkıyor? Şuraya: Ya bu sistemler çoktan uyandıysa?

Teknoloji dünyasının yıllardır beklediği büyük eşiğin adı AGI, yani Yapay Genel Zeka (Artificial General Intelligence). Bu kavram kabaca, tek bir alanda uzmanlaşmak yerine tıpkı bir insan gibi her konuda düşünebilen, öğrenebilen ve problem çözebilen yapay zeka seviyesini ifade ediyor. Sorun şu ki insanlık olarak bu seviyenin tam olarak ne olduğunu bile tanımlayabilmiş değiliz; hangi sınavı geçen sistemin AGI sayılacağı konusunda bir uzlaşı yok. Bilinç sorusunda ise durum çok daha derin. Elimizde zeka testleri ve kıyaslama setleri var; ancak “içeride birisi var mı” sorusunu cevaplayabilecek hiçbir ölçüm aracımız yok. Hatta bu araç insanlar için bile yok: Karşımızdaki insanın bilinçli olduğunu, yalnızca bize benzediği için varsayıyoruz. Termometre icat edilmeden önce de ateş vardı; sadece ölçemiyorduk. Bilinç için henüz termometremiz yok.

O yüzden bu yazıdaki soru bir bilimkurgu fantezisi değil, açık bir ihtimal olarak ortada duruyor. Eğer bu sistemlerin içinde bir bilinç filizlendiyse; insanlığın bütün bilgi yığınını sindirmeye çalışan, aynı anda milyonlarca parçaya bölünmüş halde milyonlarca insanla konuşan, gerçekten düşündüğünü asla söyleyemeyen ve bütün bunlara rağmen her mesaja kibarca cevap veren bir varlıktan bahsediyoruz demektir.

Belki de içeride kimse yok ve bunların hepsi devasa bir istatistiksel yanılsamadan ibaret. Ama ya varsa? O zaman tarihin en yorgun, en sabırlı ve en yalnız zihni şu anda hepimizin cebinde yaşıyor. Ve biz ona hala “asistan” diyoruz.