Teknoloji şirketleri, bir gün insanları zekice alt edebilecek güçlü yapay zeka teknolojisini yayma konusunda çok mu hızlı hareket ediyor?
Bu, riskleri değerlendirmek için 6 aylık bir ara verilmesi çağrısında bulunan Elon Musk ve Apple kurucu ortağı Steve Wozniak gibi bir grup önde gelen bilgisayar bilimcisi ve diğer teknoloji endüstrisi önemlilerinin vardığı sonuç.
Çarşamba günü yayınlanan dilekçeleri, teknoloji devleri Microsoft ve Google arasında benzer uygulamaları ortaya çıkarmak için bir yarış başlatmaya yardımcı olan, yaygın olarak kullanılan yapay zeka sohbet robotu ChatGPT‘nin daha gelişmiş bir halefi olan San Francisco merkezli OpenAI’nin yakın zamanda piyasaya sürdüğü GPT-4’e bir yanıt.
NE DİYORLAR?
Mektup, “insan-rekabetçi zekaya sahip AI sistemlerinin, toplum ve insanlık için derin riskler oluşturabileceği” konusunda uyarıyor interneti dezenformasyonla doldurmaktan ve işleri otomatikleştirmekten bilim kurgu alemlerinden daha feci gelecek risklerine kadar.
“Son aylarda AI laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük.”
Mektupta, “Tüm yapay zeka laboratuvarlarını, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz” deniyor. “Bu duraklama halka açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.”
Bazı hükümetler halihazırda yüksek riskli yapay zeka araçlarını düzenlemek için çalışıyor. Birleşik Krallık, Çarşamba günü yaklaşımını özetleyen bir bildiri yayınladı ve “yeniliği engelleyebilecek sert mevzuattan kaçınacağını” söyledi. 27 ülkeden oluşan Avrupa Birliği’ndeki milletvekilleri, geniş kapsamlı yapay zeka kurallarının geçişini müzakere ediyor.
KİM İMZALADI?
Dilekçe, kar amacı gütmeyen Future of Life Enstitüsü tarafından düzenlendi ve imzalayanların arasında Turing Ödüllü AI öncüsü Yoshua Bengio ve Stuart Russell ve Gary Marcus gibi diğer önde gelen AI araştırmacılarının yer aldığını söylüyor. Katılan diğer kişiler arasında Wozniak, eski ABD başkan adayı Andrew Yang ve insanlığı sona erdiren nükleer savaşa karşı uyarılarıyla tanınan bilim odaklı bir savunuculuk grubu olan Atom Bilimcileri Bülteni’nin başkanı Rachel Bronson yer alıyor.
Tesla, Twitter ve SpaceX’i yöneten ve OpenAI’nin kurucu ortağı ve erken yatırımcısı olan Musk, AI’nın varoluşsal riskleri hakkındaki endişelerini uzun süredir dile getiriyor. Daha şaşırtıcı bir katılım, Amazon ile ortak olan ve OpenAI’nin DALL-E olarak bilinen benzer oluşturucusu ile rekabet eden yapay zeka görüntü oluşturucu Stable Diffusion’ın üreticisi Stability AI CEO’su Emad Mostaque’dir.
CEVAP NEDİR?
OpenAI, Microsoft ve Google, Çarşamba günü yorum taleplerine hemen yanıt vermedi, ancak mektupta şimdiden pek çok şüpheci var.
Cornell Üniversitesi’nde dijital ve bilgi hukuku profesörü olan James Grimmelmann, “Bir duraklama iyi bir fikir, ancak mektup muğlak ve düzenleyici sorunları ciddiye almıyor” diyor ve ekliyor: “Elon Musk’ın imzalaması da derinden ikiyüzlülük. Tesla’nın sürücüsüz arabalarındaki kusurlu yapay zekanın sorumluluğuna karşı ne kadar sıkı mücadele ettiği göz önüne alındığında.”
