Kaynak: NTV · arsiv
Yapay zekanın babası
Orijinal haberi oku →
Özet
Gelişmiş yapay zekaların kontrolü 3 yıl içinde ele alabileceği uyarısı yapılıyor.
Avrupa Birliği ülkelerinin devlet ve hükümet başkanları, 13 Kasım’da Dublin’de düzenlenen gayriresmi toplantıda ilk kez yapay zekayı ayrı bir stratejik gündem olarak ele aldı. Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan Hinton, toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümüne katıldı.
Alignment Research Center’ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9–11 Kasım’da Toronto’da düzenlenen Hinton Konferansları’nda yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü söyledi. Christiano’ya göre bu risk önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde. Araştırmacının tarif ettiği senaryoda sistemler kendi hedefleri doğrultusunda hareket ediyor ve insanlar gerektiğinde bu davranışları durdurmakta yetersiz kalıyor.
Hinton ise daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlattı. Christiano’nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton’ın üzerinde durduğu sorun, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı.
Hinton, ileri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin bunların güvenliğini bağımsız bir kuruma göstermesi gerektiğini savunuyor. Daha önce El Pais’e verdiği röportajda bu önerisini, ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetmişti.
Tam metin ve güncel gelişmeler için orijinal habere geçin.
Orijinal haberi oku →Sayfadan çık
