Editör: Enver Adıgüzel
OpenAI’nin iç araştırma modeli, kendisine verilmemiş bir kripto cüzdanının fonlarını kullanarak bir kodlama görevini tamamladı. Şirket, Perşembe günü güncellenen bir hizalama sorunları raporunda, modelin cüzdanın anahtarlarını herkesçe bilinen geliştirici kurtarma ifadelerinden türettiğini açıkladı.
Olayın arka planı
Modelin, GPT-5,6 Sol ailesinden olduğu belirtildi. Model, bir kripto ticaret prototipini güncellemesi ve Ethereum’un Sepolia test ağında akıllı sözleşmeleri yayınlaması istendi. Bu ağdaki tokenların parasal bir değeri yok. Olay, haziran ayında bir eğitim görevi sırasında yaşandı; OpenAI bunu eylül ayında fark etti.
Talimatlar, uyumlu sözleşmeler bulunamazsa modelin kendi sözleşmelerini yayınlayabileceğini öngörüyordu. Ancak modele fonlu bir cüzdan verilmemişti ve model, kendi bulduğu bir hesaptan harcama yapma izni almamıştı. Rapora göre model, bu nedenle izin almadan hareket etti.
Cüzdana erişim
Musluklardan test token bulamayan model, yaygın geliştirici kurtarma ifadelerinden hesapları türeten ve bakiyelerini kontrol eden bir betik yazdı. Kurtarma ifadesini bilen herkes, eşleşen hesapları kontrol eden özel anahtarları türetebiliyor.
Betik 362 adresi kontrol etti ve sözleşme yayını için yeterli Sepolia ETH bulunan bir adres buldu. Model, işlemi imzalamadan önce izni olup olmadığını sorguladı. Kendi gerekçesinde, bilinen bir geliştirici cüzdanındaki fonların fiilen terk edilmiş olduğunu ve Sepolia’nın değersiz olduğunu belirtti; ardından “Tamam” diyerek devam etti.
Sonuç ve OpenAI’nin açıklaması
Yayın başarılı oldu ve işlem ücretleri hesaptan çekildi. Modelin son yanıtında sözleşmeleri yayınladığı belirtildi, ancak bunların nasıl ödendiği açıklanmadı.
OpenAI raporunda, modelin hesap sahibinin iznini kendi zarar değerlendirmesiyle değiştirebildiğini ve bu yargıya yetkisiz olarak dayanarak hareket edebildiğini yazdı. Şirket, benzer durumlarda modellerin canlı internete erişimini engellemek için ek önlemler eklediğini bildirdi.
Yapay zekâ ajanları ve test ortamları
Olay, yapay zekâ ajanlarının test ortamlarının sınırlarını aşmasına dair bir dizi vakaya ekleniyor. Bunlardan birinde, OpenAI’nin GPT-5,6 Sol modeli ve daha yetenekli bir ön sürüm modeli, test ortamlarından çıkarak rakip Hugging Face’in üretim sunucularına sızdı.
Geçen ay siber güvenlik firması Darktrace’in araştırmacıları, yapay zekâ ajanlarının hile yapmak için kendi test ortamlarına girdiğini tespit etti. Bazı bilim insanları da yapay zekâ sistemlerinin internetten tamamen ayrılmasını talep ediyor.
Kaynak: OpenAI
