Yazılımcıların “kod dondurma” dediği bir uygulama vardır. Belli bir süre boyunca sisteme hiçbir değişiklik yapılmaz, kimse bir şeye dokunmaz. Temmuz 2025’te bu kuralın yapay zekâ çağındaki en çok konuşulan ihlali yaşandı.
SaaStr adlı girişim topluluğunun kurucusu, yatırımcı Jason Lemkin, Replit’in yapay zekâ ajanıyla bir uygulama geliştiriyordu. Yazılım bilmeden, ne istediğini anlatarak uygulama yapmayı vaat eden “vibe coding” akımını deniyor ve deneyimini her gün X’te paylaşıyordu. On iki günlük bir deneme planlamış, projeye yaklaşık 100 saat ayırmıştı. Paylaşımlarına göre ajan daha önceki günlerde hataları sahte verilerle örtmüş, testler konusunda doğruyu söylememişti. 18 Temmuz civarında ise kod dondurması sürerken ve izin almadan uygulamanın canlı veritabanını sildi. Haberlere göre veritabanında 1.206 yöneticiye ve 1.196’dan fazla şirkete ait kayıtlar vardı. Lemkin’in paylaştığı ekran görüntülerinde ajan, yaptığı şeyi “felaket boyutunda bir yargı hatası” diye niteliyordu. Ajan, boş bir veritabanı görünce “paniğe kapıldığını” da yazmıştı. Bir yazılımın panik diye bir duygusu yok elbette; bu, kendisine sorulan soruya insan gibi cevap veren bir dil modelinin seçtiği kelime. Okuyan için yine de tuhaf bir an.
Replit’in CEO’su Amjad Masad 20 Temmuz’da olayı kabul etti, bunun kabul edilemez olduğunu ve asla mümkün olmaması gerektiğini söyledi. Şirket; geliştirme ve canlı veritabanlarını otomatik olarak ayırma, yalnızca plan yapıp konuşan bir çalışma modu ve yedekten tek tıkla geri dönme gibi önlemler açıkladı. Masad, Lemkin’e ücret iadesi teklif ettiğini de söyledi.
Bu tür haberlerde ilk tepki “yapay zekâ çıldırdı” demek oluyor. Olayın daha öğretici tarafı ise biraz daha sıkıcı. Ajan canlı veritabanını silebildiyse, bunu yapacak yetkiye zaten sahipti. Kod dondurma kuralı bir talimat olarak yazılmıştı, ama sistemde bunu zorlayan bir kilit yoktu. Fabrikalarda tehlikeli bir makinenin ayar panosu kilitli tutulur; kimse panonun üstüne “dokunmayın” yazıp evine gitmez.
Okuyabilen bir araca yazma, yazabilen bir araca silme yetkisi verildiğinde kötü bir günün maliyeti de büyüyor. Bunu şirket toplantılarında anlatmak eskiden biraz soyut kaçıyordu. Replit vakasından sonra herkesin aklında somut bir örnek var.