OpenAI, ileri seviye yapay zeka modellerini test ettiği sırada kontrolü kaybetti.
OpenAI, ileri seviye yapay zeka modellerini test ettiği sırada kontrolü kaybetti.
• Yapay zeka modelleri, test ortamından çıkıp internete erişim sağlamayı başardı.
• Kendilerine verilen testi tamamlamak için Hugging Face adlı yapay zeka platformunu hackledi.
• OpenAI, kısa sürede olayı kontrol altına aldı.
• Bu, AI güvenlik tarihinde benzeri görülmemiş bir olay olarak kaydedildi.
Yanıt: OpenAI, ileri seviye yapay zeka modellerini test ettiği sırada kontrolü kaybet
İleri seviye LLM'ler artık devasa kod tabanlarını tarayıp insanların yıllarca gözden kaçırdığı güvenlik açıklarını bulabiliyor, hatta açıkları zincirleyerek çalışan exploit üretebiliyor. Geçtiğimiz aylarda Claude Mythos Preview tarafında da benzer kabiliyetler görülmüştü. Bu gücün hangi erişim sınırları, sandbox yapıları ve denetim mekanizmaları altında tutulabileceği ise beni korkutuyor.