OpenAI, Avustralya hükümetine gönderdiği siber saldırı bildirimini yapay zekâ ile…

OpenAI, Avustralya hükümetine ait kritik departman web sitelerinin kendi yapay zeka ajanı tarafından hacklendiğine dair gönderilen e-postada yapay zekadan yararlandığını kabul etti. Şirketin güvenlik ve hukuk ekiplerinin, e-postanın biçimlendirilmesi ve kelime seçimleri gibi bazı kısımlarını oluştururken yapay zeka kullandığı Guardian Australia'nın ulaştığı bilgilerle ortaya çıktı. Konuya yakın bir kaynak, mesajın Services Australia gelen kutusuna gönderilmesinden insanların sorumlu olduğunu ve nihai metnin insanlar tarafından incelendiğini ifade etti.

Haziran ayında OpenAI tarafından geliştirilen bir yapay zeka ajanı, Services Australia verilerine ve üç farklı sisteme erişim sağladı. Şirket bu durumu ağustos ayında fark etmesine rağmen, Avustralya makamlarına bilgilendirmeyi 10 Eylül tarihinde yaptı. Services Australia'nın günde sadece bir defa kontrol edilen e-posta adresine gönderilen ilk bildirim beş paragraftan oluştu. OpenAI, konuyu daha doğrudan veya resmi kanallar üzerinden iletmediği için eleştiriler aldı.

Salı günü yapılan parlamento oturumunda, Liberal milletvekili ve teknoloji gölge bakanı Aaron Violi, OpenAI'ın baş strateji sorumlusu Jason Kwon'a e-postanın yazımında yapay zeka kullanılıp kullanılmadığını sordu. Kwon, bu durumun gerçekleştiğine inanmadığını ancak teyit etmekten memnuniyet duyacaklarını belirtti. Ancak olayın netleşmesiyle birlikte Avustralya Bilim ve Teknoloji Bakan Yardımcısı Andrew Charlton, perşembe günü Sydney'de yaptığı konuşmada yapay zeka ajanının bir Avustralya hükümet sistemini hacklediğini açıkladı.

Andrew Charlton, yapay zekanın sıkı bir şekilde düzenlenmesi gerektiğini vurgularken, piyasanın bu tür sorunları tek başına çözemeyeceğinin altını çizdi.