Tesla, SpaceX, Twitter CEO'su Elon Musk, Apple kurucu ortağı Steve Wozniak, Stability AI CEO'su Emad Mostaque, DeepMind araştırmacıları gibi yapay zeka sektörü yöneticisi ya da uzmanı 1124 kişi tarafından imzalanan açık mektupta, GPT-4'ten daha güçlü sistemlerin geliştirilmesine 6 aylık ara verilmesi çağrısı yapıldı.
'İnsanlarla rekabet ediyorlar'
Mola talebinin toplum ve insanlığa yönelik potansiyel derin risklerle gerekçelendirildiği açık mektupta şu soru yöneltildi:
Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor. Sonunda bize sayıca üstün gelebilecek, zekaca geçebilecek, bizi modası geçmiş hale getirebilecek ve yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz?
'Şimdi durup inceleme zamanı'
OpenAI'nın kısa süre önceki "Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce ve yeni modeller oluşturmak için kullanılan bilgi işlemin büyüme oranını sınırlamayı kabul etmeye yönelik en gelişmiş çabalar için bağımsız inceleme almak önemli olabilir" paylaşımına atıf yapan açık mektupta şöyle denildi:
Hemfikiriz. Şimdi o noktadayız. Bu, genel olarak yapay zeka geliştirmede duraklama değil, yalnızca geri adım anlamına geliyor.
İleri yapay zekaların dikkatle geliştirilmesi gerekirken, son aylarda laboratuvarların, hiç kimsenin -yaratıcılarının bile- anlayamayacağı, tahmin edemeyeceği veya güvenilir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve konuşlandırmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük.
'Risklere karşı politika yapıcılarla birlikte çalışılmalı'
İnsanla rekabetçi yapay zeka sistemlerinin ekonomik ve siyasi aksamalar şeklinde toplum ve uygarlığa potansiyel riskler oluşturabileceği uyarısı yapan açık mektupta, yapay zeka geliştiricilerin politika yapıcılarla ve düzenleyici kurumlarla birlikte çalışmaları tavsiye edildi.
'Etkilerinin olumlu ve risklerinin yönetilebilir olacağından eminsek'
"Önerilen mola, yapay zeka geliştirmeyi daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmenin bir yolu olarak görülmelidir" denilerek, bu sırada yönetişim sistemleri oluşturmak için kanun koyucularla birlikte çalışılması gerektiği belirtildi. 'Bu tür tasarımlar için paylaşılan güvenlik protokolleri bağımsız uzmanlar tarafından geliştirilene, uygulanana ve denetlenene kadar ara verilmesi gerektiğinin' altı çizilerek "Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" vurgusu yapıldı.
Musk da 'endişeliyim' dedi
Yaşamın Geleceği Enstitüsü'nün destekçi ve danışmanlarından olan Elon Musk, kendi yapay zeka geliştirme çabalarıyla çelişir gözükse de, bu ay Tesla yöneticilerine hitabında "Yapay zeka olayı hakkında biraz endişeliyim" dedi.
Gebru: Gerçekten korkmamız gerek
Bu yılın başlarında CBS'in Pazar Sabahı programında konuşan yapay zeka araştırmacısı Timnit Gebru, "Bütün bu şeylerden gerçekten korkmamız gerektiğini düşünüyorum" görüşünü paylaştı. Gebru, "Bir şeyi her yerde çoğaltmadan önce zararlarını anlamalı ve bunun gibi bir şeyi ortaya çıkarmadan önce bu riskleri azaltmalıyız" diye ekledi.
İnsanla rekabetçi yapay zeka sistemlerinin ekonomik ve siyasi aksamalar şeklinde toplum ve uygarlığa potansiyel riskler oluşturabileceği uyarısı yapan açık mektupta, yapay zeka geliştiricilerin politika yapıcılarla ve düzenleyici kurumlarla birlikte çalışmaları tavsiye edildi.
'Etkilerinin olumlu ve risklerinin yönetilebilir olacağından eminsek'
"Önerilen mola, yapay zeka geliştirmeyi daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmenin bir yolu olarak görülmelidir" denilerek, bu sırada yönetişim sistemleri oluşturmak için kanun koyucularla birlikte çalışılması gerektiği belirtildi. 'Bu tür tasarımlar için paylaşılan güvenlik protokolleri bağımsız uzmanlar tarafından geliştirilene, uygulanana ve denetlenene kadar ara verilmesi gerektiğinin' altı çizilerek "Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" vurgusu yapıldı.
Musk da 'endişeliyim' dedi
Yaşamın Geleceği Enstitüsü'nün destekçi ve danışmanlarından olan Elon Musk, kendi yapay zeka geliştirme çabalarıyla çelişir gözükse de, bu ay Tesla yöneticilerine hitabında "Yapay zeka olayı hakkında biraz endişeliyim" dedi.
Gebru: Gerçekten korkmamız gerek
Bu yılın başlarında CBS'in Pazar Sabahı programında konuşan yapay zeka araştırmacısı Timnit Gebru, "Bütün bu şeylerden gerçekten korkmamız gerektiğini düşünüyorum" görüşünü paylaştı. Gebru, "Bir şeyi her yerde çoğaltmadan önce zararlarını anlamalı ve bunun gibi bir şeyi ortaya çıkarmadan önce bu riskleri azaltmalıyız" diye ekledi.
