Yapay zeka modelleri yazılım sektöründe şimdiye kadar görülmemiş bir fırtına kopardı, ancak buz dağının görünmeyen bir yüzü var. Bu yeni dönemde şirketler hatalı yazılımların bedelini de ödemeye başladı. İşte detaylar….
The Register’ın haberine göre yapay zekanın yazdığı kod satırları aslında kusurlarla dolu bir mayın tarlasına benziyor. Yazılım mühendisleri, işlerini kaybetme baskısıyla AI araçlarını kullanmaya adeta mecbur bırakıldı. Fakat aceleyle oluşturulan ve doğruluğu kanıtlanmamış kod yığınları şirketlerin temelinde gizli çatlaklar açıyor.
Codestrap kurucusu Dorian Smiley ve şirket yöneticisi Connor Deeks gidişatın pek iç açıcı olmadığını söyledi. Smiley ve Deeks’e göre mevcut yapay zeka yani LLM (Büyük Dil Modeli) teknolojisinde henüz aşılmamış temel sorunlar bulunuyor. Üretilen kod, yazılımdaki küçük işlevleri sınayan Unit Test (Bir nevi mini deneme sınavı) aşamasını geçse bile gerçek kullanımda tamamen çuvallayabiliyor.
Sorunlar yavaş yavaş su yüzüne çıkmaya başladı ve faturayı ilk ödeyenlerden biri Amazon oldu. Şirketin perakende ağında yaşanan kritik sunucu kesintilerinin ardından acil bir kriz toplantısı düzenlendi. Yönetici Dave Treadwell çalışanlara, “Sitenin ve altyapının durumu son zamanlarda pek iyi değil” diyerek yaşananları özetledi. Amazon’daki kesintilerde otomatik üretilen kod değişikliklerinin büyük bir payı olduğu düşünülüyor.
Artık Amazon bünyesindeki Junior (Mesleğin başındaki) ve orta kademe mühendislerin yapay zekaya yazdırdığı her satır, Senior (Deneyimli) mühendislerin zorunlu onayından geçiyor. Bu yorucu süreç, teknolojinin işleri hızlandırıp maliyetleri düşüreceği yönündeki vaadi de temelinden sarstı. Sırf yenilik dalgasına ayak uydurmak için projeleri tamamen AI sistemlerine teslim etmek saatli bir bombayla oynamaktan farksız. Hataların çığ gibi büyümesi sadece ağları çökertmekle kalmayacak, aynı zamanda sektördeki pek çok kişinin kariyerine de mâl olacak.
