Yapay Zeka Google’ı Bezdirdi: Ödül Programı Duraklatıldı

Google, yapay zeka destekli geçersiz raporların artması sebebiyle Google OSS VRP programının askıya alındığını duyurdu. Açık kaynak yazılım projelerindeki güvenlik açıklarını bildiren araştırmacıları ödüllendiren bu program, sistemin yapay zeka tarafından üretilen hatalı bildirimlerle dolması üzerine geçici olarak durduruldu.

1 Ekim tarihinde yapılan resmi açıklamaya göre, yapay zeka araçlarıyla oluşturulan ve halüsinasyon olarak nitelendirilen hatalı raporlar, gerçek güvenlik açıklarının tespit edilmesini zorlaştırıyor. Bu durumun inceleme süreçlerini yavaşlattığı ve kaynakların verimsiz kullanılmasına yol açarak sistemin işlevselliğini olumsuz etkilediği belirtildi. Yapay zeka modellerinin var olmayan açıklar üretmesi, denetim mekanizmaları üzerinde büyük bir yük oluştururken, ekiplerin zamanını da tüketmeye başladı.

Google, programı daha verimli hale getirmek ve yeniden yapılandırmak amacıyla kapsamlı bir çalışma başlattı. Bu süreçte katılımcıların diğer aktif VRP programlarını inceleyebilecekleri ifade edildi. Programın güncel durumuyla ilgili yeni bir güncellemenin 2027 yılının ilk çeyreğinde paylaşılması planlanıyor. Bu süre zarfında sistemin, yapay zeka kaynaklı spam gönderimlerine karşı daha dirençli hale getirilmesi hedefleniyor.

Şirket, bu uzun süreli askıya alma kararının programın uzun vadeli sağlığı için gerekli olduğunu savunuyor. 2027 yılına kadar gerçekleştirilecek iyileştirmelerle hem araştırmacıların hem de proje sorumlularının iş yükünün hafifletilmesi amaçlanıyor.