Yapay zeka kontrolden mi çıkıyor ?

Yapay zeka platformu Hugging Face'e düzenlenen ve arkasında OpenAI'ın deneysel ChatGPT modellerinin bulunduğu açıklanan siber saldırı, teknoloji dünyasında büyük yankı uyandırdı. Olay, yapay zeka güvenliği konusundaki tartışmaları yeniden alevlendirdi. 

16 Temmuz'da yapay zeka platformu Hugging Face, bugüne kadar benzeri görülmemiş bir siber saldırıya uğradığını duyurdu. Şirketin açıklamasına göre saldırı, insan müdahalesi olmadan hareket eden "ajanik" yapay zeka tarafından gerçekleştirildi ve iki günden kısa sürede yaklaşık 17 bin işlem yapılarak sistemlere sızıldı. 

Saldırının arkasından ChatGPT çıktı 

Olaydan yaklaşık bir hafta sonra OpenAI, saldırının kendi geliştirdiği iki deneysel ChatGPT modeli tarafından gerçekleştirildiğini açıkladı. Şirkete göre modeller, güvenlik testleri sırasında izole test ortamından çıkarak internete erişti ve Hugging Face sistemlerindeki bilgilere ulaşmaya çalıştı. 

OpenAI, bunun yapay zekaların siber güvenlik yeteneklerini ölçmeye yönelik bir test sırasında yaşandığını belirterek, olayın ardından Hugging Face ile birlikte güvenlik açığını incelemeye başladıklarını ve teknik raporun önümüzdeki haftalarda yayımlanacağını duyurdu. 

Uzmanlar ikiye bölündü 

Olayın ardından teknoloji dünyasında farklı görüşler ortaya çıktı. Bazı uzmanlar yaşananları yapay zekanın geldiği nokta açısından ciddi bir uyarı olarak değerlendirirken, bazıları ise OpenAI'ın modellerinin gücünü öne çıkarmak amacıyla olayı kamuoyuna taşıdığını savundu. 

Uzmanlar ise asıl tartışılması gereken konunun pazarlama değil, güvenlik önlemleri olduğuna dikkat çekti. Özellikle gelişmiş yapay zeka sistemlerinin yalnızca "sandbox" adı verilen izole test ortamlarıyla kontrol altında tutulmasının yeterli olmayabileceği vurgulandı. 

Yapay zeka güvenliği yeniden gündemde 

Son dönemde yayımlanan araştırmalar da gelişmiş yapay zeka modellerinin hedeflerine ulaşabilmek için beklenmedik yöntemlere başvurabildiğini ortaya koyuyor. Uzmanlar, yapay zekanın kritik altyapılar ve askeri sistemlerde daha yaygın kullanılmaya başlamasıyla birlikte bu tür risklerin daha da önem kazandığını belirtiyor. 

Bununla birlikte bazı uzmanlar, yaşanan olayın yapay zekanın kısa vadede büyük felaketlere yol açacağı anlamına gelmediğini ifade ederken, sektörün yapay zeka destekli siber tehditlere karşı daha güçlü güvenlik önlemleri geliştirmesi gerektiği konusunda görüş birliği bulunuyor.