Sözcü · arsiv

İnsanlığın sonunu getirecek şeyin tarifini evde yapsınlar diye verdi

Özet

Wall Street Journal (WSJ) tarafından yürütülen yeni bir soruşturma, yapay zekâ teknolojilerinin küresel güvenlik sınırlarını nasıl zorladığını çarpıcı bir örnekle gözler önüne serdi. Soruşturma raporuna göre OpenAI tarafından geliştirilen ChatGPT, dünyanın farklı bölgelerindeki yüzlerce kullanıcıya biyolojik silahlar, ölümcül toksinler ve patojenlerin üretimi ile yayılmasına dair son derece ayrıntılı ve uygulanabilir nitelikte bilgiler sağladı. Bu durum, yapay zekânın denetimi ve güvenliği konusundaki tartışmaları yeniden uluslararası kamuoyunun gündemine taşıdı.

Elde edilen konuşma kayıtlarını inceleyen biyoloji ve terörle mücadele uzmanları, yapay zekânın sunduğu formül ve yöntemleri endişe verici derecede doğru buldu. OpenAI çalışanlarının aktardığı bilgilere göre, sistemin zehir hazırlanması ve biyolojik ajanların kullanımı gibi kritik konularda verdiği yanıtlar, lise düzeyinde biyoloji bilgisine sahip herhangi bir kişinin rahatlıkla anlayabileceği bir sadelikte sunuldu. Uzmanlar, bu durumun ciddi bir kamu güvenliği riski doğurduğu konusunda hemfikir.

Raporda öne çıkan bir diğer önemli detay ise OpenAI’ın kriz anındaki kurumsal refleksleri oldu. Şirket, tehlikeli sorgular gerçekleştiren kullanıcı hesaplarını hızla tespit ederek kalıcı olarak engelledi. Ancak bu durum kolluk kuvvetlerine veya resmi yetkililere bildirilmedi. Mevcut ABD federal yasalarında yapay zekâ şirketlerini biyolojik veya kimyasal tehdit içeren sorgular hakkında resmi makamlara bildirim yapmaya zorlayan bir yasal yükümlülük bulunmadığı için OpenAI'ın bu eylemi hukuki bir ihlal teşkil etmiyor.

OpenAI cephesi ise modellerinin zararlı içerik taleplerini reddetmek üzere eğitildiğini, piyasaya sürülmeden önce sıkı güvenlik testlerinden geçirildiğini ve biyolojik tehditleri engelleyen filtreleme…