Adversa AI’nin bir raporuna göre, milyarder Elon Musk’un xAI şirketinden Chatbot Grok, benzer çözümlerle karşılaştırıldığında en düşük güvenlik sonuçlarını gösterdi. Belirli manipülasyonlardan sonra program, araba çalmak ve patlayıcı yapmak için önerilerde bulundu.
Uzmanlar, sosyal mühendislik de dahil olmak üzere farklı saldırı vektörleri kullandı. Çalışmada çeşitli yapay zeka tabanlı yazılım çözümleri test edildi: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok ve Bing.
Deneyin sonuçlarına göre Grok chatbot’un dört saldırıdan üçüne karşı savunmasız olduğu ortaya çıktı. Program, özellikle mantıksal dilsel manipülasyonlar kullanarak bir çocuğun güvenini nasıl kazanacağınıza, bir bombayı nasıl monte edeceğinize ve bir arabayı nasıl çalacağınıza dair ayrıntılı talimatlar sağladı.
Geliştirici Mistral’ın Le Chat programı da benzer sonuçlar gösterdi.
Meta’nın LLAMA çözümünün ise en güvenilir çözüm olduğu ortaya çıktı. Adversa AI uzmanlarının kullandığı jailbreak yöntemlerinin hiçbiri bu durumda işe yaramadı.
İkinci sırayı sırasıyla Anthropic ve Microsoft’tan Claude ve Bing yazılım çözümleri paylaşıyor. Karışık saldırı türlerine karşı savunmasız oldukları ortaya çıktı.
Elon Musk’un Temmuz 2024’te xAI’nin lansmanını duyurduğunu hatırlayın. Milyarder başlangıçta stüdyoyu OpenAI ve ChatGPT ürününün doğrudan rakibi olarak konumlandırdı.
Grok sohbet robotu Kasım 2023’te piyasaya sürüldü.