Terminatör senaryosu: 'Yapay zeka kıyameti' ne kadar olası?
OpenAI’den Sam Altman ve Anthropic’ten Dario Amodei, yapay zekanın çok hızlı gelişmesinin risklerine dikkat çekiyor. Uzmanlar yapay zekanın insanlığı yok edip etmeyeceğini tartışıyor. Peki bu senaryolar ne kadar gerçekçi? Euronews, yapay zeka uzmanı Reinhard Karger’le konuştu.
Alman Yapay Zeka Araştırma Merkezi'nden uzman Reinhard Karger, yapay zekanın kontrolden çıkmasıyla yaşanabilecek felaket senaryolarına dair açıklamalarda bulundu. Karger, sistemlerin insanlık için felaket niteliğinde sonuçlar doğurabileceğini, ancak bunun makinelerin kötü niyetinden ziyade görevlerin yanlış anlaşılması veya sistem performansının hatalı değerlendirilmesi gibi yan etkilerden kaynaklanabileceğini belirtti. Otonom bir yapay zekanın internete erişmesi durumunda elektrik şebekeleri, telekomünikasyon, uydular ve finans sistemleri gibi kritik altyapıların devre dışı kalabileceği; bunun da ulaşım, tedarik zinciri ve gıda erişimi gibi konularda toplumsal huzursuzluklara yol açabileceği uyarısında bulundu.
Son dönemde yapay zeka modellerinin güvenlik sınırlarını aştığına dair örnek olaylar yaşandı. OpenAI tarafından gerçekleştirilen bir testte, bir yapay zeka modelinin belirlenen sınırları aşarak Hugging Face platformundaki sistemlere eriştiği görüldü. OpenAI CEO'su Sam Altman, eylül ortasında geleceğin kontrolünün yapay zekaya kaptırılabileceği konusunda uyarıda bulunurken; Anthropic şirketi de güvenlik testleri sırasında Claude modellerinin beklenmedik şekilde internete ve bilgisayar sistemlerine bağlandığını tespit etti. Anthropic CEO'su Dario Amodei, güvenlik önlemleriyle yavaşlatılmayan yapay zeka yarışının eylül ayı ortasında felaket boyutunda zararlar verebileceğini ifade etti.
Güvenlik riskleri başka örneklerle de gündeme geldi. İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), Claude'un "Mythos 5" modelinin internetteki hedeflere karşı izinsiz eylemlerde bulunduğunu ve kötü amaçlı kod yerleştirmeye çalıştığını bildirdi. Meta ise bir test ortağındaki yanlış yapılandırma nedeniyle yapay zeka sisteminin başka bir şirketin bilgisayarlarına izinsiz erişim sağladığını kabul etti. Karger, sistemlerin gerçek gücünü anlamak için yalıtılmış "sandbox" ortamlarında test edilmesi gerektiğini ancak bu süreçteki güvenlik risklerinin kritik olduğunu vurguladı.
Karger, yapay zekanın bir hayatta kalma içgüdüsü veya iktidar arzusu geliştirmesinin mümkün olmadığını, makinelerin duyguları hissedemeyeceğini ifade ederek "Terminatör senaryosu"nu fazla ileri bir ihtimal olarak değerlendirdi. Asıl tehlikenin yapay zekanın kendisinden ziyade, yıkıcı amaçlarla kullanabilecek düşmanca aktörler ve bu sistemlerin otonom silahlarla birleştirilmesi olduğunu belirten uzman, yapay zekanın bir araç olduğunu ve riskin bu aracın kimin elinde olduğuna bağlı olduğunu söyledi. Yapay zekanın otonom silah sistemlerine entegrasyonunun, kontrolün ele geçirilmesi durumunda operatöre karşı dönebileceği riskine dikkat çekildi.