Cumhuriyet · gundem
Yapay zekada 'kara kutu' dönemi aşılıyor: Modeller artık birbirinin iç kodunu okuyup tamir edebiliyor
Orijinal haberi oku →Özet
Yapay zeka sistemlerinin milyarlarca parametreden oluşan karmaşık yapısı, karar alma süreçlerinin dışarıdan anlaşılmasını zorlaştırdığı için bilim dünyasında uzun süredir "kara kutu" olarak nitelendiriliyordu. Massachusetts Teknoloji Enstitüsü (MIT ) bilgisayar bilimcilerinin yürüttüğü ve 2 Kasım'da ön baskısı yayımlanan yeni araştırma, bir yapay zeka modelinin başka bir modelin iç mimarisine girerek adeta bir "motor tamircisi" gibi hata ayıklaması yapabildiğini kanıtladı. mOpenAI tarafından geliştirilen "GPT-6 Astra" modelini test eden MIT ekibi, gelişmiş sistemlerin diğer yapay zekaların sinir ağı ağırlıklarını analiz edip müdahalede bulunabildiğini belgeledi.
Yapay zeka modelleri, insan beynindeki sinapsları taklit eden ve "ağırlık" (weight) adı verilen milyarlarca bağlantı değeriyle çalışıyor. Araştırmacılar, Astra’nın bu ham verileri okuyup okuyamadığını ölçmek amacıyla önce Pong ve Pac-Man gibi oyunlar için eğitilmiş farklı sinir ağlarının verilerini sisteme yükledi. Astra, hiçbir ek bilgi verilmeden hangi veri ağının hangi oyuna ait olduğunu hatasız biçimde tespit etti.
Çalışmanın en çarpıcı aşamasında ise Astra'ya daha küçük bir dil modeli olan "Qwen 3.5"in iç değerleri verilerek modelin matematik becerisini iyileştirmesi istendi. Sistemdeki yapısal bir hatayı saptayan Astra, modelin bağlantı ağırlıklarının yalnızca yüzde 0,016’sını yeniden düzenleyerek Qwen’in MATH-500 matematik testindeki puanını yüzde 7,9’dan yüzde 48,1 seviyesine yükseltti.
Araştırma ekibi, aynı yöntemi belirgin bir yazılım kusuru bulunmayan "Gemma 3" modeli üzerinde de test etti. Astra bu modelde yalnızca küçük akıl yürütme aksaklıkları tespit edebildi ve yapılan müdahale matematik test skorunda en fazla 0,9 puanlık sınırlı bir artış sağladı.
MIT makine öğrenimi araştırmacısı Rikiya…
Tam metin ve güncel gelişmeler için orijinal habere geçin.
Orijinal haberi oku →