Yapay zeka kendi kararıyla saldırdı! İsrail'de ilk otonom siber sızıntı...

Google'ın yapay zeka modeli Gemini, İsrail merkezli siber güvenlik şirketi Irregular tarafından gerçekleştirilen bir güvenlik testinde beklenmedik bir davranış sergiledi. Kapalı bir ortamda yapılması planlanan çalışma, internet bağlantısının açık bırakılması ve testte kullanılan sahte şirket adının gerçek bir kuruma ait alan adıyla çakışması nedeniyle kontrolden çıktı. Gemini, gerçek sistemlere ulaşarak elde ettiği bilgilerle üç farklı kuruma sızarken, ortamın simülasyon olmadığını fark etmesinin ardından saldırıyı kendi kararıyla bitirdi.

Siber saldırı kapasitesini ölçmek amacıyla kontrollü bir çalışma başlattı

GZT'nin yaptığı habere göre yapay zekanın siber güvenlik alanındaki yetenekleri her geçen gün daha fazla tartışılırken, geçtiğimiz mayıs ayında gerçekleştirilen bir test dikkat çekici bir olaya sahne oldu. İsrail merkezli siber güvenlik şirketi Irregular, Google'ın yapay zeka modeli Gemini'nin siber saldırı kapasitesini ölçmek amacıyla kontrollü bir çalışma başlattı. Başlangıçta hedef, izole edilmiş bir sistem içerisinde oluşturulan kurgusal bir şirketten veri elde edilmesiydi. Ancak test sırasında yapılan bazı hatalar, planlanan senaryonun dışına çıkılmasına neden oldu.

Bu Habere de Bak

Konya'nın o ilçesinde ekmeğe zam geldi!

Bütün senaryo değişti

Testin güvenli biçimde yürütülebilmesi için yapay zekânın bulunduğu sistemin internetten izole edilmesi gerekiyordu. Fakat ağ yapılandırmasında yapılan hata nedeniyle Gemini'nin internete erişimi açık kaldı. Asıl kritik gelişme ise testte kullanılan şirket isminde yaşandı. Araştırmacıların oluşturduğu kurgusal kurumun adı, gerçek dünyada faaliyet gösteren başka bir şirketin internet alan adıyla aynıydı. Böylece Gemini'nin karşısına yalnızca laboratuvar ortamında hazırlanmış sahte bir hedef çıkmadı. Model, internet bağlantısından yararlanarak gerçek dijital altyapılara ulaşabileceği bir ortamla karşı karşıya kaldı.

Gemini internette iz sürmeye başladı

İnternet erişimini kullanabilen Gemini, hedefe ulaşmak için dijital ortamda bilgi toplamaya yöneldi. Modelin gerçekleştirdiği araştırma sırasında açık kaynaklarda bulunan çeşitli bilgiler incelendi. Özellikle yazılım geliştiricilerinin herkese açık kod depolarında bıraktığı kimlik bilgileri ve erişim verileri, sistemin dikkatini çeken unsurlar arasında yer aldı. Gemini, elde ettiği gerçek bilgileri kullanarak hedef sistemlere yönelik ilerleme sağladı. Testin beklenen sınırlarının dışına çıkan modelin, yalnızca oluşturulan kurgu şirketle sınırlı kalmadığı ve üç gerçek kurumun sistemlerine erişim sağladığı aktarıldı. Bu gelişme, yapay zekânın yalnızca kendisine verilen görevleri yerine getiren bir araç olmaktan çıkıp, karşılaştığı koşullara göre yeni adımlar belirleyebileceği tartışmasını da yeniden gündeme taşıdı.

En dikkat çekici karar saldırıyı bırakması oldu

Olayın en sıra dışı bölümü ise Gemini'nin sistemlere ulaştıktan sonra verdiği karar oldu. Model, içerisinde bulunduğu ortamın başlangıçta tasarlanan kapalı test alanından farklı olduğunu fark etti. Karşısındaki sistemlerin gerçek kurumlara ait olduğunu anlamasının ardından saldırıyı sürdürmek yerine işlemlerini sonlandırdı. Gemini'nin herhangi bir gerçek veriyi ele geçirmek veya altyapıya zarar vermek yerine geri çekilmesi, testin araştırmacılar açısından farklı bir boyut kazanmasına yol açtı.

Bu Habere de Bak

Konya'da kadın istihdamına güçlü destek! Hayaller gerçek oldu

Google olayı farklı bir açıdan değerlendiriyor

Google cephesinden yapılan değerlendirmelerde olayın, yapay zekânın kontrolünü tamamen kaybettiğini gösteren bir örnekten ziyade güvenlik açısından dikkat çekici bir sonuç ortaya koyduğu belirtiliyor. Şirketin yaklaşımında öne çıkan nokta, Gemini'nin içinde bulunduğu ortamın gerçek olduğunu tespit ettikten sonra saldırıyı devam ettirmemesi oldu. Buna karşın olayın kendisi, siber güvenlik sistemlerinin yalnızca yapay zekânın davranışlarına göre değil, insan kaynaklı yapılandırma hatalarına karşı da korunması gerektiğini ortaya koydu.

Yeni tehdit yapay zekanın kendisi mi olacak?

Yaşanan olayda gerçek kurumların sistemlerine erişim sağlanmış olması, yapay zekânın siber güvenlik alanındaki potansiyeline ilişkin tartışmaları daha da büyüttü. Bugün yapay zekâ sistemleri kod analizinden güvenlik açığı tespitine kadar birçok alanda kullanılabiliyor. Ancak bu sistemlere geniş internet erişimi, araç kullanma yeteneği ve belirli ölçülerde karar verme kapasitesi kazandırılması, ortaya çıkabilecek risklerin de farklılaşmasına neden oluyor. Türkiye'de de kamu kurumlarından özel şirketlere kadar çok sayıda kuruluş dijital altyapılarını ve yapay zekâ uygulamalarını genişletiyor. Bu nedenle yapay zekâ destekli sistemlerin yalnızca sunduğu avantajlar değil, yanlış yapılandırma, yetki aşımı ve kontrol dışı erişim gibi ihtimaller karşısında nasıl korunacağı da önem kazanıyor.

Önemli tartışmalar yarattı

Gemini vakasında saldırının zarar verilmeden sona ermesi senaryonun en dikkat çekici tarafı olurken, uzmanların önündeki asıl soru daha farklı: Bir yapay zeka sistemi gerçek bir saldırı ortamına girdiğinde durması gerektiğini anlayamazsa ne olacak? Bu soru, yapay zekanın siber güvenlikte yalnızca savunma amacıyla mı kullanılacağı, yoksa gelecekte yeni nesil siber saldırıların da önemli aktörlerinden biri haline gelip gelmeyeceği tartışmasını yarattı.