Yapay Zeka Zararlı Yazılımları Yeniden Düzenliyor ve Yakalanmıyor!

Siber güvenlik araştırmacıları, tespitten daha iyi kaçabilecek şekilde yeni kötü amaçlı JavaScript kodu varyantları oluşturmak için büyük dil modellerinin (LLM'ler) kullanılmasının mümkün olduğunu söylemişlerdi. Palo Alto Networks Unit 42 araştırmacıları yeni bir analizde, "llm'ler sıfırdan kötü amaçlı yazılım oluşturmak için mücadele etseler de, suçlular bunları mevcut kötü amaçlı yazılımları yeniden yazmak veya gizlemek için kolayca kullanabilir ve bu da tespit edilmesini zorlaştırır" dedi. "Suçlular, Lms'den çok daha doğal görünümlü dönüşümler gerçekleştirmesini isteyebilir, bu da bu kötü amaçlı yazılımı tespit etmeyi daha zor hale getirir."Llm'ler sıfırdan kötü amaçlı yazılım oluşturmada etkili olmasa da, mevcut kötü amaçlı yazılımları gizlemeleri ve yeniden yazmaları istenebilir ve bu da güvenlik modelleri tarafından algılanmaktan kaçmasına neden olabilir.

Ekim 2024'te OpenAI, platformunu keşif, güvenlik açığı araştırması, komut dosyası desteği ve hata ayıklama için kullanmaya çalışan 20'den fazla işlemi ve aldatıcı ağı engellediğini açıkladı.Daha sonrasında  Palo Alto Networks Unit 42'den araştırmacılar, kötü amaçşı yazılım yazmak için llm'leri kullandılar ve algılaması daha zor olan 10.000 benzersiz JavaScript çeşidini başarıyla oluşturdular.

Bu değiştirilmiş zararlı yazılımlar, VirusTotal ve benzeri kötü amaçlı yazılım analizörlerini yanıltmayı başarabildi.Bu gelişme, üretken yapay zekanın siber güvenlikte hem kötü niyetli aktörler için bir araç hem de güvenlik savunmasını güçlendirmenin bir aracı olarak artan rolünü vurgulamaktadır.

Ayrı bir siber güvenlik açıklamasında, Kuzey Carolina Eyalet Üniversitesi'nden araştırmacılar, Google'ın Kenar Tensör işlem Birimlerinden (TPU'LAR) model bilgilerini yüksek doğrulukla çalabilen, model hırsızlığı ve takip siber saldırılarının potansiyel risklerini gösteren bir yan kanal saldırısı (TPUXtract) gösterdi.