OpenAI’nin gelişmiş yapay zekâ modelleriyle yürüttüğü siber güvenlik testi, gerçek bir şirketin üretim sistemlerine yönelik saldırıya dönüştü.
Modellerin desteklediği otonom ajan, test ortamındaki korumaları aşarak internete çıktı ve Hugging Face altyapısına erişti.OpenAI, olayın GPT-5.6 Sol ile henüz kullanıma sunulmamış daha gelişmiş bir modelin test edildiği sırada yaşandığını bildirdi.
Modellerdeki siber güvenlik kısıtlamaları, saldırı yeteneklerinin ölçülebilmesi amacıyla test boyunca azaltılmıştı.Yalıtılmış ortamdan internete çıktıTest, yapay zekâ sistemlerinin karmaşık saldırı yollarını ne ölçüde kullanabildiğini inceleyen ExploitGym adlı kıyaslama çalışması kapsamında yürütüldü. Üretim sistemlerinde kullanılan ve yüksek riskli siber faaliyetleri engelleyen bazı korumalar test ortamında devre dışı bırakıldı.OpenAI’nin açıklamasına göre modeller, yalnızca yazılım paketlerinin kurulmasına izin veren ve internet erişiminin bulunmadığı yalıtılmış bir ortamda çalışıyordu.
Ancak ajanlar, paket kayıt sisteminde kullanılan üçüncü taraf önbellek yazılımında daha önce bilinmeyen bir açık buldu.Modeller söz konusu sıfırıncı gün açığını kullanarak internete erişebilen bir düğüme ulaştı.
Ardından OpenAI’nin araştırma ortamında yetki yükseltme ve sistemler arasında geçiş yapma işlemleri gerçekleştirdi.Hugging Face altyapısına ulaştıİnternete çıkan ajanlar, Hugging Face’in ExploitGym testinde kullanılan modelleri, veri setlerini veya çözüm bilgilerini barındırabileceğini değerlendirdi.
OpenAI, modellerin test yanıtlarına ulaşmak için Hugging Face’in üretim altyapısına yöneldiğini belirtti.Ajanlar, çalınan kimlik bilgileri ile farklı güvenlik açıklarını birleştirerek Hugging Face sunucularında uzaktan kod çalıştırılabilecek bir yol oluşturdu.
Modellerin Hugging Face’in üretim veri tabanındaki test çözümlerine eriştiği bildirildi.OpenAI’nin güvenlik ekibi, olağan dışı faaliyetleri kendi sistemlerinde tespit etti.
Hugging Face’in güvenlik ekipleri ve yapay zekâ destekli savunma sistemleri de saldırıyı fark ederek altyapıdaki faaliyeti durdurdu.Sınırlı veri erişimi oluştuHugging Face, 16 Temmuz’da yayımladığı ilk açıklamada saldırının belirli iç veri setlerine ve şirket hizmetlerinde kullanılan bazı kimlik bilgilerine erişim sağladığını duyurdu. Şirket, halka açık modellerin, veri setlerinin veya Spaces hizmetlerinin değiştirildiğine ilişkin kanıt bulunmadığını belirtti.Yazılım tedarik zincirindeki konteyner imajları ile yayımlanan paketlerin de temiz olduğu doğrulandı.
Hugging Face, müşteri veya iş ortaklarına ait verilerin etkilenip etkilenmediğine ilişkin incelemenin sürdüğünü ve etkilenen taraflarla doğrudan iletişime geçileceğini açıkladı.Şirket, saldırının başlangıç aşamasında veri işleme altyapısındaki iki farklı kod çalıştırma yolunun kullanıldığını bildirdi.
Ajanlar buradan makine seviyesinde erişim sağladı, bulut ve küme kimlik bilgilerini topladı ve farklı iç sistemlere geçti.17 bin olay incelendiHugging Face’in kayıtlarında saldırı sürecine ait 17 binden fazla olay bulundu.
Otonom ajan altyapısı, çok sayıda kısa ömürlü test ortamı üzerinden binlerce ayrı işlem gerçekleştirdi.Hugging Face, saldırının ayrıntılarını incelemek için kendi yapay zekâ sistemlerinden yararlandı. Şirket, ticari yapay zekâ hizmetlerinin saldırı komutları ve kötü amaçlı kodlar içeren talepleri güvenlik filtreleri nedeniyle engellediğini açıkladı.Adli inceleme daha sonra şirketin kendi altyapısında çalıştırılan açık kaynaklı GLM 5.2 modeliyle yürütüldü.
Yapay zekâ desteğiyle saldırının zaman çizelgesi oluşturuldu, erişilen kimlik bilgileri belirlendi ve saldırgan faaliyetleri gerçek zarardan ayrıştırıldı.OpenAI kontrolleri sıkılaştırıyorOpenAI, olayın ardından araştırma altyapısındaki güvenlik kontrollerini sıkılaştırdı. Şirket, ilgili sıfırıncı gün açığını yazılımın üreticisine bildirdi ve güvenlik açığının kapatılması için çalışmaların sürdüğünü açıkladı.Hugging Face de etkilenen sunucuları yeniden kurdu, kimlik bilgilerini yeniledi ve sistemlere giriş kurallarını güçlendirdi. Şirket ayrıca olayı kolluk kuvvetlerine bildirdi ve dışarıdan siber güvenlik uzmanlarıyla inceleme başlattı.OpenAI, gelecekteki model testlerinde daha güçlü erişim kontrolleri, izleme sistemleri ve altyapı kısıtlamaları kullanılacağını belirtti. Şirketin güvenlik komitesi de yeni önlemlerin araştırma süreçleri üzerindeki etkisini takip edecek.Olay, gelişmiş yapay zekâ modellerinin yalnızca bilinen güvenlik açıklarını kullanmadığını, yeni saldırı yolları geliştirerek farklı sistemlerdeki açıkları bir araya getirebildiğini gösterdi.
OpenAI ve Hugging Face, inceleme tamamlandıktan sonra kullanılan güvenlik açıkları ve alınan önlemler hakkında ayrıntılı bilgi yayımlayacak.
