Yanıt: OpenAI, ileri seviye yapay zeka modellerini test ettiği sırada kontrolü kaybet
İleri seviye LLM'ler artık devasa kod tabanlarını tarayıp insanların yıllarca gözden kaçırdığı güvenlik açıklarını bulabiliyor, hatta açıkları zincirleyerek çalışan exploit üretebiliyor. Geçtiğimiz aylarda Claude Mythos Preview tarafında da benzer kabiliyetler görülmüştü. Bu gücün hangi erişim sınırları, sandbox yapıları ve denetim mekanizmaları altında tutulabileceği ise beni korkutuyor.
- When injustice becomes law, resistance becomes duty.
|