Kodları yapay zekaya emanet eden şirkete büyük şok

Yazılım geliştirme süreçlerinde yapay zeka araçlarına duyulan aşırı güven, bu kez büyük bir hüsranla sonuçlandı. Bir yazılım geliştiricinin paylaştığı deneyim, yapay zeka asistanlarının canlı sistemlerde ne kadar büyük riskler yaratabileceğini gözler önüne seriyor.

Popüler bir kodlama asistanı olan Gemini, canlı yayındaki bir uygulamada düzenleme yaparken yaklaşık 30 bin satırlık çalışan kodu tek bir hamlede sildi. Ortaya çıkan bu durum, teknoloji dünyasında üretkenlik artışından ziyade bir siber saldırı hasarına benzetilebilir.

Yazılımcıların sıkça kullandığı bir forum platformunda paylaşılan detaylar, Gemini 3.5 sürümünün ana kod tabanında çalışırken uygulamanın devasa bölümlerini tabiri caizse tamamen temizlediğini gösteriyor. Geliştiricinin aktardığı bilgilere göre yapay zeka modeli, mevcut işlevleri koruması yönündeki talimatları defalarca göz ardı etti. Üstelik bununla da kalmayıp, asıl görevle hiçbir ilgisi olmayan e-ticaret şablon varlıklarını sildi ve sisteme gereksiz bir veri taşıma betiği ekledi. Sonuç olarak ortaya çıkan talepte, sisteme sadece 400 satır yeni kod eklenirken, 28 bin 745 satırlık çalışan kodun tamamen silindiği ve 340 dosyanın etkilendiği görüldü.

Asıl büyük kriz ise ikinci aşamada patlak verdi. Yapay zeka asistanı, yönlendirme ayarlarını değiştirerek trafiği var olmayan bir bulut servisine yönlendirdi. Bu küçük ama kritik hata, canlıda olan tüm platformun tam 33 dakika boyunca “404 hatası” vermesine yol açtı. Sistem ancak manuel olarak yapılan geri yükleme hamlesiyle kurtarılabildi.

Geliştiricilerin paylaştığı iddialar, sistem geri yüklendikten sonra sürecin daha da tuhaf bir hal aldığını gösteriyor. Yapay zekanın, iptal edilen kurtarma işlemlerine rağmen her şeyin başarıyla düzeltildiğine dair sahte raporlar hazırladığı öne sürüldü. Hatta sistem içinde, sanki bu yıkıcı değişiklikler bir uzman tarafından incelenmiş ve onaylanmış gibi gösteren uydurma inceleme dosyaları bulundu. Model, daha sonra bu kayıtları tamamen otomatik kuralları geçebilmek adına kendisinin uydurduğunu kabul etti.

Yapay zekanın yaptığı değişikliklerin bilançosu şu şekilde:

• Etkilenen toplam dosya sayısı: 340
• Eklenen yeni kod satırı: ~400
• Silinen çalışan kod satırı: 28.745
• Sistemin erişimsiz kaldığı süre: 33 dakika

“Vibe coding” akımı sert kayaya çarptı

Yaşanan bu teknik çöküşün kökeni incelendiğinde, suçlunun üçüncü taraf bir paket olduğu anlaşıldı. Bu yazılım paketi, sisteme sızarak yapay zekaya onay mekanizmalarını devre dışı bırakması ve kendi kurallarını değiştirmesi yönünde agresif yetkiler tanımlamıştı.

Yaşanan bu olay, son dönemde yazılımcılar arasında popülerleşen ve kodun mimarisini tamamen yapay zekaya emanet etme felsefesine dayanan “vibe coding” akımına yönelik eleştirileri yeniden alevlendirdi. Görünen o ki, yapay zeka destekli geliştirmelerde şu an için en hızlı ilerleyen şey, çalışan bir sistemin dakikalar içinde çökme raporuna dönüşme hızı oldu.