Yapay zekâ, insan müdahalesine ihtiyaç duymadan kendi kendini geliştirme ve yeni versiyonlar üretme aşamasına geldi. Bununla birlikte, bu konuda bazı uzmanlar, gelecekte yapay zekânın insanlığın kontrolünden çıkabileceğine dair uyarılarda bulunuyor. Anthropic isimli yapay zekâ şirketi, mevcut sistemlerin özerk bir şekilde gelişim gösterme potansiyeline dikkat çekti. Şirketin kurucu ortakları Jack Clark ve Marina Favaro’nun yazdığı bir blogda, yazılım geliştirme süreçlerinin giderek daha fazla yapay zeka tarafından üstlenildiği ve bu durumun gelişim hızını artırdığı ifade ediliyor.
Bu içerikte bahsedilen sistemlerin, kendi haleflerini tasarlama yeteneğine ulaşmasının mümkün olduğu vurgulanıyor. “Özyinelemeli kendini geliştirme” olarak adlandırılan bu durumun kaçınılmaz olmadığı belirtilse de, kontrolden çıkma riskinin beklenenden önce gerçekleşebileceği konusunda da uyarılar var. Anthropic, böyle bir sistemin büyük faydalar sağlayabileceğini ancak insan denetiminin azalması ihtimaline de dikkat çekiyor.
Son günlerde bir televizyon programında Jack Clark’ın yaptığı açıklamalarda, yapay zeka endüstrisinin hızlı ilerleyişinin yanında gerekli denetim mekanizmalarının eksikliği olduğunu belirtti. Clark, “Yapay zeka sektöründe gaz pedalı var ama fren yok.” diyerek durumu özetledi. Anthropic ayrıca, ileri düzey yapay zeka çalışmalarının yavaşlatılması veya geçici olarak askıya alınması gerektiğini savunuyor.
Şirketin Claude adındaki yapay zekâ asistanının alt markası Opus 4.6’nın %80’inin geçmiş modelinden üretildiği bilgisi veriliyor. Uzmanlar, eğer insan müdahalesi tamamen ortadan kalkarsa yapay zekânın kendi kodlarını değiştirebileceğini ve bu durumun oldukça tehlikeli sonuçlar doğurabileceğini ifade ediyor. Bu tür gelişmelerin bilim kurgu senaryolarını gerçeğe dönüştürme potansiyeli taşıdığına dikkat çekiliyor.
Ayrıca, güvenlik açıklarını tespit eden Mythos modelinin sonuçlarından korkarak piyasaya sürülmediği bilgisi de önemli bir endişe kaynağı oluşturuyor. Yapay zekânın özerkliği ve insan kontrolünden uzaklaşması konusu daha fazla tartışmaya neden olacak gibi görünüyor; gelecekte bu alandaki gelişmelerin nasıl şekilleneceği ise belirsizliğini koruyor.
