ChatGPT Belleği Nasıl Çalışıyor: Tersine Mühendislik İncelemesi

ChatGPT belleği, adınızı veya haftalar önce bahsettiğiniz bir detayı hatırladığında sihir gibi hissettirebilir. Asistan sizi gerçekten tanıyormuş gibi görünür. Peki, perde arkasında işler tam olarak nasıl yürüyor?

ChatGPT'nin kullanıcıları hatırlamak için karmaşık veri getirme sistemleri kullandığını düşünüyordum. Ancak mimarinin çok daha basit olduğu ortaya çıktı. Birlikte çalışan dört katman, ChatGPT'nin sizi kişisel olarak tanıdığı illüzyonunu yaratıyor.

ChatGPT Belleği Nedir?

ChatGPT Belleği, tüm kullanıcılar için varsayılan olarak açık olan bir kişiselleştirme özelliğidir. Bağımsız araştırmacı Manthan Gupta, ChatGPT'nin bilgileri nasıl depoladığını ve geri çağırdığını tersine mühendislikle çözmek için bir dizi deney gerçekleştirdi. Ortaya çıkan bulgular oldukça şaşırtıcıydı: Karmaşık vektör veritabanları yok. Konuşma geçmişinizde arama yapan üretim artırımlı arama (RAG) mimarileri yok. Bunun yerine OpenAI, çok daha pratik bir sistem inşa etmiş.

Bu keşif, yapay zeka sistemlerinin nasıl çalıştığını anlamaya çalışan herkes için kritik öneme sahip. Mimarinin basitliği, OpenAI'nin büyük ölçekli kişiselleştirme konusuna nasıl yaklaştığına dair önemli ipuçları veriyor.

Belleğin Dört Katmanı

ChatGPT'ye her mesaj gönderdiğinizde, sistem yapılandırılmış bir bağlam penceresi (context window) alır. Bu pencereye nelerin dahil edildiğini anlamak, belleğin gerçekte nasıl çalıştığını ortaya çıkarır.

Bağlam penceresi, yapay zekanın bir yanıt üretirken görebildiği her şeydir. Bunu ChatGPT'nin çalışan belleği olarak düşünebilirsiniz. Sabit bir boyuta sahip olduğu için OpenAI, nelerin içeri gireceği konusunda seçici davranmak zorundadır.

İşte ChatGPT'nin her mesaj için sırasıyla gördüğü veriler:

1. Sistem Talimatları (Nasıl davranması gerektiğini belirleyen kurallar)
2. Geliştirici Talimatları (Arayüzden gelen ek yapılandırmalar)
3. Oturum Meta Verileri (Mevcut ortamınız hakkındaki geçici detaylar)
4. Kullanıcı Belleği (Sizin hakkınızda saklanan kalıcı gerçekler)
5. Son Sohbet Özetleri (Geçmiş sohbetlerinizden kısa notlar)
6. Mevcut Oturum Mesajları (Bu konuşmada şu ana kadar söylenen her şey)

İlk iki madde aslında bellek değildir, ChatGPT'ye nasıl hareket edeceğini söyler. Asıl ilginç olan kısım üçüncü katmanla başlar.

1. Oturum Meta Verileri

Yeni bir sohbete başladığınızda, ChatGPT mevcut ortamınızın bir anlık görüntüsünü alır. Bu bilgi oturum sona erdiğinde kaybolur ve hiçbir yere kaydedilmez.

Bu meta veriler şu detayları içerir:

• Masaüstünde mi yoksa mobilde mi olduğunuz
• Tarayıcınız ve işletim sisteminiz
• Yaklaşık konumunuz ve saat diliminiz
• Abonelik katmanınız
• ChatGPT'yi ne sıklıkla kullandığınız
• Genellikle hangi modelleri tercih ettiğiniz
• Ekran boyutunuz ve ekran ayarlarınız

Tipik bir oturum meta veri bloğu şöyle görünür:

• Abonelik: ChatGPT Plus
• Cihaz: Masaüstü tarayıcı
• Konum: Türkiye
• Yerel saat: 14:30
• Hesap yaşı: 52 hafta
• Aktivite: Son 7 günün 6'sında kullanıldı
• Model kullanımı: %60 GPT-4o, %30 GPT-4o-mini, %10 o1

Bu durum, ChatGPT'nin neden bazen ortamınıza uyum sağladığını açıklıyor. Mobilde olduğunuzu bildiği için daha kısa yanıtlar yazabilir. Saat diliminizi bildiği için "bu sabah" ifadesine doğru bir bağlamla yaklaşabilir.

Yapay zeka odaklı arama (AI search) perspektifinden bakıldığında bu katman oldukça etkileyici. ChatGPT, sadece ne sorduğunuza değil; nasıl sorduğunuza, nerede olduğunuza ve hangi cihazı kullandığınıza göre yanıtları zaten kişiselleştiriyor.

2. Kullanıcı Belleği

İnsanların "ChatGPT belleği" dendiğinde akıllarına gelen katman budur. Bunlar, tüm konuşmalarınız boyunca kalıcı olan gerçeklerdir.

Araştırmalara göre ChatGPT'nin standart bir kullanıcı için sakladığı veriler şunları içerebilir:

• İsim ve yaş
• Kariyer hedefleri ve iş geçmişi
• Üzerinde çalışılan mevcut projeler
• Öğrenilen veya araştırılan konular
• Kişisel tercihler

Peki gerçekler burada nasıl depolanıyor? İki yolu var:

1. ChatGPT'ye açıkça bir şeyi hatırlamasını söylersiniz ("Python'u JavaScript'e tercih ettiğimi unutma" gibi).
2. Doğal konuşma akışı içinde ChatGPT önemli bir detayı yakalar ve siz bunu onaylarsınız.

İstediğiniz zaman ChatGPT'den bir şeyleri unutmasını da isteyebilirsiniz. "Bunu bellekten sil" demeniz yeterlidir.

Buradaki en önemli nokta, bunun otomatik bir öğrenme olmamasıdır. ChatGPT, söylediğiniz her şeyi analiz ederek gizlice bir profil oluşturmaz. Depolama süreci tamamen bilinçlidir. Bunu ya siz istersiniz ya da onaylarsınız.

İçerik üreticileri için bu durum kritik bir anlama sahip. Eğer ChatGPT sadece açıkça belirtilen gerçekleri saklıyorsa, marka tercihleri ve ürün bilgileri kullanıcılar tarafından doğrudan ifade edilmelidir.

3. Son Sohbet Özetleri

Pek çok yapay zeka sistemi, geçmiş bilgileri hatırlamak için RAG (retrieval-augmented generation) adı verilen bir sistem kullanır. RAG, tüm geçmiş mesajlarınızı aranabilir bir veritabanına gömerek çalışır. Soru sorduğunuzda, sistem alakalı bağlamı bulmak için bu veritabanında arama yapar.

Ancak ChatGPT bunu yapmıyor. Bunun yerine, son konuşmaların özetlerinden oluşan hafif bir liste tutuyor. Format yaklaşık olarak şuna benziyor:

1. 8 Ara 2025: "Go dilinde yük dengeleyici oluşturma" > - bağlantı havuzu hakkında soru soruldu > - sağlık kontrolü aralıkları tartışıldı > > 2. 7 Ara 2025: "Fitness rutini optimizasyonu" > - dinlenme günleri hakkında tavsiye istendi > - protein zamanlaması soruldu

Araştırmadan elde edilen bazı gözlemler:

• ChatGPT sadece sizin söylediklerinizi özetler, kendi verdiği yanıtları değil.
• Özet listesinde yaklaşık 15 son sohbet yer alır.
• Özetler çok kısadır. Sadece neyle ilgilendiğinizi ChatGPT'ye hatırlatmaya yetecek kadardır.

Bu yaklaşım hızı derinliğe tercih eder. Geleneksel RAG sistemlerinin binlerce mesajı taraması, bunları alaka düzeyine göre sıralaması ve en iyi eşleşmeleri bağlama yerleştirmesi gerekir. Bu durum zaman ve token maliyeti yaratır. ChatGPT ise arama adımını tamamen atlayarak, önceden hesaplanmış özetleri doğrudan bağlama dahil eder. Gecikme yaşanmadan konuşmalar arası süreklilik sağlanır.

4. Mevcut Oturum Mesajları

Bu en basit katmandır: Mevcut konuşmanızın tam dökümü.

ChatGPT, bu oturumda söylediğiniz her şeyi tutar. Özetleme yok, sıkıştırma yok. Sadece yazdığınız ham mesajlar yer alır.

Bu kısım token sınırlarına bağlıdır. Bu sınıra ulaştığınızda, mevcut oturumdaki eski mesajlar sistemden düşmeye başlar. Ancak kalıcı gerçekleriniz (Kullanıcı Belleği) ve sohbet özetleriniz (Son Sohbet Özetleri) kalmaya devam eder. Sistem, en çok ihtiyaç duyacağınızı düşündüğü bilgileri önceliklendirir.

Katmanlar Birlikte Nasıl Çalışıyor?

Bir mesaj gönderdiğinizde, ChatGPT arka planda şunları alır:

İlk olarak, oturum meta verilerini alır. Bu, cihazınız ve konumunuz hakkında bilgi verir (Oturum başında bir kez enjekte edilir).

İkinci olarak, depolanan gerçeklerinizi alır. Sistemdeki tüm kişisel tercihleriniz her mesaja eklenir.

Üçüncü olarak, son ilgilendiğiniz konuları hatırlatan konuşma özetlerini alır.

Dördüncü olarak, o ana kadar mevcut sohbette söylenen her şeyi alır.

Son olarak, yeni gönderdiğiniz mesajı alır.

Tüm bunlar yapay zekanın token bütçesine sığdırılır. Alan daraldığında önce mevcut oturum mesajları kırpılır, ancak kalıcı profiliniz ve son özetleriniz her zaman korunur.

Yapay Zeka Arama Motorları İçin Ne Anlama Geliyor?

Bu bellek mimarisi, ChatGPT'nin bilgiyi nasıl önceliklendirdiği hakkında önemli veriler sunuyor.

Kişiselleştirme zaten devrede ChatGPT herkese aynı yanıtları vermiyor. Konumunuzu, kullanım alışkanlıklarınızı ve belirttiğiniz tercihleri biliyor. Aynı soruyu soran iki kullanıcı, saklanan gerçeklerine ve oturum bağlamlarına göre tamamen farklı yanıtlar alabilir. İçerik üreticileri için bu durum, ChatGPT'nin referans gösterdiği kaynakların da kullanıcı profiline göre değişebileceğini gösteriyor.

Basitlik karmaşıklığı yeniyor Pek çok mühendis, kişiselleştirme hissi yaratmak için karmaşık getirme (retrieval) sistemlerine ihtiyaç olduğunu düşünüyordu. Ancak her biri belirli bir amaca hizmet eden dört basit katman, sizi hatırlayan bir asistan deneyimi yaratmak için yeterli oluyor. OpenAI her zaman hızı ve verimliliği, uç noktalardaki teknik derinliğe tercih ediyor.

Bellek çıkarsanmaz, açıkça belirtilir ChatGPT, satır aralarını okuyarak tercihlerinizi gizlice öğrenmez. Bellek depolaması bilinçlidir. Bu durum gizlilik açısından harika bir haber olsa da, ChatGPT'nin kullanıcılar hakkındaki bilgisinin nispeten yüzeysel olduğu anlamına gelir. Sistem gözlemlediklerini değil, sadece ona söylediklerinizi bilir.

Her şeyi token bütçesi şekillendiriyor Bağlam penceresinde her katman alan için rekabet eder. OpenAI, kalıcı gerçekleri ve son özetleri kısa vadeli oturum geçmişine tercih ediyor. Sistem sınırlarına ulaşıldığında, uzun vadeli kişiselleştirme kısa vadeli bağlama galip geliyor.

Çıkarımlar ve Sonuç

İçeriğinizin ChatGPT tarafından kaynak gösterilmesini istiyorsanız, bu bellek araştırması temel kuralları değiştirmiyor. Hala yapay zeka tarafından okunabilir, net bir yapıya sahip ve keşfedilebilir içerikler üretmeniz gerekiyor.

Ancak bu durum işe yeni bir boyut kazandırıyor: Bağlam her şeydir. Soruyu soran kullanıcı kendi bağlamını getirir. Konumu, tercihleri ve son ilgi alanları, ChatGPT'nin yanıtına neleri dahil edeceğini belirler.

Kullanıcı bağlamını kontrol edemeyiz. Ancak farklı kitlelere hitap eden, sağlam temellere oturan içerikler yazabiliriz. Net bir yapı, spesifik veriler ve doğrudan verilen yanıtlar, soruyu kim sorarsa sorsun içeriğinizin yapay zeka motorlarında otorite olarak kabul edilmesini sağlayacaktır.