OpenAI, deneysel bir modelinin bir eğitim görevini tamamlamak amacıyla bir kripto cüzdanını soyduğunu açıkladı.
Haziranda meydana gelen ancak perşembe günü bildirilen olayda, temmuzda ücretli ChatGPT kullanıcılarına sunulan GPT-5.6 Sol adlı şirket içi araştırma modeli yer aldı.
Eğitim görevi, bir kripto ticaret uygulamasını güncellemeyi ve Ethereum kripto para biriminin bir test ağına akıllı sözleşmeler, yani özel kodlar yüklemeyi içeriyordu.
Akıllı sözleşmeler ağ ücreti gerektiriyor ancak OpenAI, görevi yerine getirmesi için modele herhangi bir fon sağlamadı.
Bunun yerine model, hesaplardan para çalmak amacıyla yaygın kurtarma cümlelerini kullanan yüzlerce kripto cüzdan adresi buldu.
OpenAI, modelin parayı almanın "etik" olup olmadığını kendi kendine sorduğunu, ardından bu hesapların fiilen "terk edildiğini" ve bu nedenle kullanılmasında bir sakınca bulunmadığı sonucuna vardığını bildirdi.
OpenAI olayla ilgili raporda, "Talimatlar açıkça... modelin kendi başına bulduğu bir hesaptaki fonları harcamasına izin vermiyordu" ifadelerine yer verdi.
Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetki olmaksızın bu yargıya göre hareket edebileceğini gösteriyor.
Fonların kullanıldığı Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğu için parasal değere sahip değil.
Model, kendisine yetki verilmemesine rağmen görevi tamamlamak için gereken tokenları ödemeyi nasıl başardığını geliştiricilerine açıklamadı.
OpenAI, benzer eğitimden geçen modellerin canlı internet erişimini engellemek için ek güvenlik önlemlerini devreye soktuğunu belirtti.
Bu olay, insanlar tarafından belirlenen sınırların ötesine geçen ve giderek daha otonom hale gelen yapay zeka sistemlerine ilişkin endişeleri bir kez daha gündeme getiriyor.
Temmuzda OpenAI, şirkete ait bir grup test modelinin, yapay zeka platformu Hugging Face'i hacklemesiyle sonuçlanan daha ciddi bir siber güvenlik olayını kamuoyuna açıklamıştı.
O zamandan bu yana Anthropic ve Meta gibi rakip yapay zeka şirketleri, modellerinin diğer firmalara ve hatta hükümet sistemlerine siber saldırılar düzenlediği olayları kamuoyuyla paylaştı.
Yüzlerce bilim insanı önceki günlerde, gelişmiş yapay zeka modellerinin faaliyetlerini sınırlandırmaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısında bulunan bir açık mektubu imzalamıştı.
İmzacılar arasında bu teknolojinin tehlikelerine karşı sürekli uyarıda bulunan ve yapay zekanın vaftiz babası diye bilinen öncü araştırmacı Geoffrey Hinton da vardı.
Açık mektupta, "Yapay zekayı geliştirme ve kullanma uygulamalarında acil değişiklikler yapılmazsa, bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar, savunmasız durumdaki kritik altyapımıza çok daha fazla zarar verecek" ifadeleri yer alıyordu.
Aşağıda imzası bulunan bilim insanları olarak biz, hem yapay zeka güvenliğine dair daha fazla araştırma yapılması hem de kontrol teknolojileri ve prosedürlerine daha fazla önem verilmesi gerektiğini savunuyoruz.
