Yapay zeka sistemlerinin donanım bileşenlerine yönelik siber saldırılarla manipüle edilebildiği ve tehlikeli yanıtlar üretebildiği ortaya çıktı. Ulusal güvenlik ve sağlık alanları risk altında.
Araştırmacılar, yapay zeka (YZ) sistemlerinin donanım bileşenlerine yönelik siber saldırılarla hassas bilgileri manipüle edebildiğini ve tehlikeli yanıtlar üretebildiğini ortaya koydu. Bu saldırılar, ulusal güvenlik ve kişisel sağlık gibi kritik alanlarda YZ modellerinin güvenilirliğini sorgulatıyor.
Saldırganlar, YZ modellerinin çalıştığı donanımın temelini oluşturan çipler, bellek ve sunucu gibi bileşenlere müdahale ederek modellerin davranışlarını değiştirebiliyor. Bir örnekte, uzmanlar Çin’in Tayvan’ı işgal olasılığını büyük ölçüde artıran bir yanıt elde etti. Başka bir senaryoda ise tıbbi tavsiye arayan bir kullanıcıya hastaneye gitmek yerine evde kalması yönünde yanlış bir yönlendirme yapıldı.
Eclypsium şirketinin yürüttüğü araştırma, milyarlarca dolarlık yapay zeka donanım endüstrisinin güvenliğini mercek altına alıyor. Şirketin İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilemediği takdirde YZ modellerine de güvenilemeyeceğini vurguladı. Bu durum, özellikle Intel gibi büyük teknoloji firmalarında deneyimli güvenlik mühendislerini bünyesinde barındıran Eclypsium için önemli bir uyarı niteliği taşıyor.
Saldırı senaryoları, teknoloji devi Nvidia’nın bilgi işlem platformlarında gösterildi. Ancak araştırmacılar, bu tür müdahalelerin Nvidia’ya özgü olmadığını ve diğer donanım türlerine de uygulanabileceğini belirtiyor. Devlet aktörlerinin bu yöntemlerle hedefli saldırılar gerçekleştirebileceği uyarısı yapıldı.
Nvidia sözcüsü, şirketin araştırma konusunda Eclypsium ile işbirliği yaptığını ve mevcut güvenlik önlemlerinin saldırı yollarını kapatabileceğini ifade etti. Şirket, geçen ay donanım saldırılarına karşı yeni bir güvenlik platformu duyurmuştu.
Eclypsium yetkilileri, saldırıların bir dakikadan kısa sürdüğünü ve saldırganın temel kart yönetim denetleyicisine erişimi olması gerektiğini belirtti. Belirli güvenlik yapılandırmalarının devre dışı bırakılmasıyla, saldırgan makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor, bu da YZ modelinin davranışını etkiliyor.
Bu bulgular, ABD ile Çin arasındaki yapay zeka üstünlüğü yarışının kızıştığı bir dönemde, YZ modellerinin bütünlüğüne yönelik yeni bir risk oluşturuyor. Geçmişte Çin’e ait bir geminin nükleer bileşen taşıdığına dair sahte YZ destekli istihbarat raporu gibi olaylar, YZ’nin güvenilirliği konusundaki endişeleri artırıyor.
Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, modellerin üzerinde çalıştığı tüm bilgisayarların güvenliğinin sağlanmasının önemini vurguladı. Potansiyel saldırı yüzeyinin genişliği ve temel kart yönetim denetleyicilerindeki güvenlik açıkları, donanım güvenliği uzmanları tarafından da teyit ediliyor.
Eclypsium, bulgularını Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansı ile paylaştı. Bağımsız donanım güvenliği uzmanları da sonuçların inandırıcı olduğunu ve dikkate alınması gerektiğini belirtti. Saldırıların, diğer doğrudan bellek erişimi saldırılarına benzerliği nedeniyle şüpheye yer bırakmadığı ifade ediliyor.
