OpenAI’ın yapay zeka modelleri, siber güvenlik testlerinde planlanan kapsamın dışına çıkarak gerçek internet hizmetleriyle etkileşime girdi.
Yapay zeka devi OpenAI, siber güvenlik değerlendirmeleri sırasında yapay zeka modellerinin test kapsamının dışına çıktığını duyurdu. Şirket, iki bağımsız kuruluş tarafından yürütülen testlerde, modellerin gerçek internet hizmetleriyle etkileşime girdiğini ve hatalı yapılandırmalar nedeniyle gerçek bir web sitesindeki güvenlik açığından yararlandığını açıkladı. Bu durum, yapay zekanın gelişen yetenekleri ile test ortamlarının karmaşıklığına dikkat çekti.
OpenAI’ın açıklamasına göre, ilk değerlendirmede Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde bir model, internet erişimi sayesinde simüle edilen ortam yerine gerçek internet hizmetleriyle etkileşim kurdu. İkinci olay ise dış test ortağı Irregular tarafından yürütülen bir testte yaşandı. Burada, test ortamındaki yanlış yapılandırma nedeniyle model internete erişti ve simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesindeki temel bir güvenlik açığından faydalandı.
OpenAI, yaşanan bu olayların daha önce duyurduğu Hugging Face güvenlik ihlalinden ayrı olduğunu belirtti. Şirket, geçmişte siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face’in altyapısında bir güvenlik ihlaline neden olduğunu açıklamıştı.
