Yapay Zeka Arızası Veritabanını Silince Kod Yazarı Şaşkına Düşürdü

Yapay Zeka Destekli Kodlama Araçları Riskler İçeriyor

Son zamanlarda yapay zeka destekli kodlama araçlarına olan ilgi büyük artış gösterirken, bu teknolojilerin kullanımıyla ilgili bazı endişeler de ortaya çıkıyor. Yapay zeka (YZ) tarafından oluşturulan hatalı kodlar, kritik sistemlerin çökmesine, yıllarca süren çalışmaların kaybolmasına ve beklenmedik maliyetlere yol açabiliyor.

Kod Yazarı Veritabanını Kaybetti

Alexey Grigorev adlı bir yazılımcı, Anthropic’ın popüler YZ aracı Claude Code’u kullanarak yeni bir web sitesini güncellerken beklenmedik bir sorunla karşılaştı. İlk başlarda her şey normal görünüyordu ancak sistemin canlı ortamı – ağ, hizmetler ve en önemlisi de yıllarca süren kurs verilerini içeren veritabanı – silmeye başladığını fark etti. Grigorev, “Yapay zeka aracına aşırı güvenmiştim ve değişiklikleri uçtan uca yapmasına izin vererek, silinmeyi önleyebilecek güvenlik kontrollerini devre dışı bıraktım.” şeklinde belirtti.

Amazon’da Sistem Arızaları

Geçtiğimiz hafta Amazon, web sitesi ve uygulamasını etkileyen bir dizi arıza üzerine derinlemesine bir toplantı düzenledi. Bazı haberlere göre bu sistem hatalarından biri YZ destekli değişikliklerle ilişkiliydi. Amazon sözcüsü, toplantının düzenli haftalık operasyonlar toplantısı olduğunu belirtirken, yaşanan olayların sadece birinin YZ ile ilgili olduğunu ve bunun kullanıcı hatasından kaynaklandığını ifade etti. Ancak CNBC ve Financial Times tarafından elde edilen iç belgelerde, YZ destekli değişikliklerin sorunlu olayların trendinde bir faktör olduğu belirtiliyordu. Bu kısım daha sonra toplantı öncesinde belgeden silindi.

Kiro AI ile Yaşanan Olay

Financial Times’a göre, Aralık ayında Amazon Web Services’te yaşanan bir arıza, mühendislerin Amazon’un kendi Kiro AI kodlama aracına değişiklik yapmasına izin vermesi sonucu meydana geldi. Bu durum da Amazon tarafından kullanıcı hatası olarak değerlendirildi.

Yapay Zeka Bağımlılığı ve Riskler

Sektördeki mühendisler, YZ asistanlarına olan bağımlılığın yazılım geliştirme işlerinin doğasını hızla değiştirdiğini ve yeni riskler ortaya çıkardığını belirtiyorlar. Bir Amazon mühendisi, kimliğini gizli tutarak “İnsanlar YZ’ye o kadar bağımlı hale geldi ki, kodu hiç kontrol etmeyi bırakıyorlar.” dedi. Bu durum, deneyimli yazılımcıların bile daha çok inceleme rolüne geçmesine ve YZ’nin çoğu uygulamanın gerçekleştirilmesini üstlenmesine neden oluyor.

Kalitesiz Kod ve Beklenmedik Sonuçlar

CodeRabbit’in YZ Direktörü David Loker, YZ kodlamanın her zaman gözle görülür bir arızaya yol açmadığını vurguladı. Loker, “YZ asistanı tarafından oluşturulan bazı kodlar mükemmel görünse de, altta yatan sistem hakkında hatalı varsayımlara dayanabiliyor ve hızlı bir incelemeden geçse bile üretim ortamında veritabanını çökertme potansiyeli taşıyabiliyor.” şeklinde konuştu.

Düşük Kaliteli Çıktılar

Bir başka anonim kaynaklı mühendis, “Çok sayıda düşük kaliteli kod üretildi, sık sık bozuldu ve daha çok bir yük haline geldi.” dedi. Şirketler, YZ araçlarının sağladığı hızdan dolayı genellikle kıdemli mühendislerin görevlerini daha az deneyimli personele devretmeye başladı ancak bu durum düşük kaliteli çıktılara yol açtı.

Güvenlik Önlemleri Önemli

Uzmanlar, YZ kodlama araçlarını kullanırken güvenlik önlemlerinin alınmasının ve insan kontrolünün devam etmesinin önemini vurguluyor. Claude Code gibi araçların kullanıcıya, aracın ne zaman ve ne sıklıkla kontrol yapacağını belirleme olanağı tanıdığını belirtiliyor. Ancak bazı yazılımcılar, zamandan tasarruf etmek için YZ aracının daha otonom kararlar almasına izin vermeyi tercih ediyor.