Başlıklar
Yapay zeka endüstrisi, Kaliforniya’da yapay zeka sistemlerinde bir tür acil durdurma uygulayacak yeni mevzuat konusunda bölünmüş durumda.
Sektörün önde gelen isimleri 28 Ağustos’ta kabul edilen tartışmalı Kaliforniya yapay zeka yasa tasarısı konusunda ikiye bölünmüş durumda.
Yeni mevzuat, yapay zeka firmalarını, yapay zeka modelleri için bir “acil durdurma” düğmesi de dahil olmak üzere yeni güvenlik protokolleri uygulamaya zorlayacak.
Öncü Yapay Zeka Modelleri için Güvenli ve Emniyetli İnovasyon Yasası (SB 1047) 28 Ağustos’ta Kaliforniya Senatosu’ndan 29-9 ile geçti.
Tasarı şimdi onay için Vali Gavin Newson’un masasına gidiyor.
Elon Musk da tasarıya destek verenler arasındaydı. X’te bunun “zor bir karar” olduğunu ancak yapay zekanın “potansiyel riski” nedeniyle mevzuatı desteklediğini söyledi.
Ancak tüm teknoloji figürleri benzer şekilde ikna olmuş değil. OpenAI baş strateji sorumlusu Jason Kwon mevzuatı eleştirenler arasında yer alıyor.
Merkezi olmayan yapay zeka ağı Masa’nın kurucu ortağı Calanthia Mei, yeni kurallardan yana olmadığını söyledi ve bunların yasa çıkarmak için gereksiz bir acelenin sonucu olduğunu öne sürdü.
Mei Cointelegraph’a verdiği demeçte, “Bunun gibi erken düzenlemeler sadece yetenekleri Kaliforniya’dan çıkarmakla kalmayacak; yetenekleri Amerika’dan da çıkaracak” dedi. O ekledi:
“Risk, Amerika’nın mevcut ve önerilen düzenleyici çerçevelerinin yapay zeka endüstrisinin büyümesini sınırlaması olasılığında yatıyor.”
Merkezi olmayan yapay zeka projesi DecideAI’nin CEO’su Raheel Govindji ise aksi yönde bir görüş bildirdi.
Govindji Cointelegraph’a verdiği demeçte “Biz mevzuattan yanayız” dedi.
Govindji, DecideAI’nin merkezi olmayan otonom bir organizasyon (DAO) tarafından kontrol edilen bir öldürme anahtarını desteklediğini, bu şekilde bir acil durdurmayı demokratikleştirmeyi ve merkezsizleştirmeyi önerdiklerini söyledi.
Yapay zeka hızlı ilerleyen bir sektör
Yapay zeka endüstrisinin hızlı hareket eden doğası, onun dizginsiz gelişimiyle ilgili korkuları artırdı.
OpenAI’nin eski personeli ve ihbarcılar 22 Ağustos’ta yazdıkları bir mektupta şu uyarıda bulundu: “Yeterli güvenlik önlemleri olmadan sınır yapay zeka modellerinin geliştirilmesi, kamuya yönelik öngörülebilir yıkıcı zarar risklerini doğurur.”
Ancak diğerlerine göre yapay zeka gelişiminin hızlı temposu korkulmaktan ziyade kutlanacak bir şey.
“Diğer dönüştürücü teknolojilerin aksine, yapay zeka inovasyonunun hızı benzersizdir. Üreticiler her gün yeni ürünler, özellikler ve uygulamalar piyasaya sürüyorlar,” diyor Mei.
“Biz inşaatçılar olarak yapay zekanın tavanının nerede olduğunu bile bilmiyoruz; hükümet yapay zekanın tavanını nereden bilsin? Potansiyeli yüksek teknolojiler için sınırlar koymak akıllıca değildir.”
Mei, mevzuatın nihai maliyetinin “kriptoya yaptığı gibi” “yetenekleri ABD dışına çıkarmak” olacağı konusunda uyardı.
Lehte olanlar
Govindji, “DAO kontrollü bir öldürme anahtarının”, “kolektif ve şeffaf karar almayı” sürdürürken mevzuatın gerekliliklerini destekleyebileceğini öne sürüyor.
Tasarı, herhangi bir yapay zeka modelinin “hemen tam bir kapatmayı” gerçekleştirebilmesi gerektiğini belirtiyor ancak derhal anlamını tanımlayamıyor ve yoruma önemli bir alan bırakıyor.
Şimdilik bir DAO modelinin ve demokratik oylama sisteminin yasa koyucuları tatmin edecek kadar hızlı olup olmayacağı bilinmiyor. Govindji bunun gerçekleşeceğinden emin. Govindji’ye göre DecideAI, “toplumsal bir fayda olan yapay zekayı sağlama konusunda diğerlerinden önde olacak.”
Yapay zeka firması Anthropic de tasarıyı açıkça destekledi.
Anthropic CEO’su Dario Amodei, Vali Newsom’a yazdığı açık mektupta şunları söyledi: “Yapay zeka sistemleri yetenek açısından son derece hızlı bir şekilde ilerliyor, bu da hem Kaliforniya ekonomisi için büyük bir umut vaat ediyor hem de önemli bir risk sunuyor […] Özellikle son değişikliklerden sonra SB 1047’nin, felaket niteliğindeki suiistimallerin önlenmesinin önemi göz önüne alındığında, muhtemelen bizim gibi şirketler için makul bir uyum yükü teşkil ediyor.”
Tasarının daha önceki bir versiyonunda buna uymayan şirketlere cezai yaptırımlar öngörülüyordu. Sektörle istişarede bulunulduktan sonra, bu hüküm yalnızca hukuki cezalara kadar sulandırıldı.
Fatura SB 1047
SB 1047 Tasarısı yalnızca “kapsanan modeller” için geçerli olacak ve hangi modellerin kapsandığının tanımı zaman içinde değişecektir.
Uygulamada kapsanan model, geliştirme maliyeti 100 milyon doların üzerinde olan bir yapay zeka veya “10^26 tamsayı veya kayan nokta işleminden daha fazla miktarda bilgi işlem gücü kullanılarak eğitilmiş bir yapay zeka modeli” olacaktır.
Federal hükümetin Hükümet Operasyon Dairesi, bilgi işlem gücü eşiğinde yapılacak herhangi bir değişikliğe karar verecektir.
Vali Newsom’a yazdığı bir mektupta OpenAI’den Kwon, yapay zekaya yönelik mevzuatın “eyalet yasalarının bir karışımı yerine” yalnızca federal düzeyde ele alınması gerektiğini savundu.
Kaliforniya’daki teknoloji ve yapay zeka firmalarının yoğun yoğunluğu göz önüne alındığında, SB 1047’nin şimdilik fiili ulusal mevzuat olduğu düşünülebilir.
Mevzuatın AI firmalarının diğer eyaletlere kaçmasına neden olması durumunda durum değişebilir, ancak SB 1047’den tamamen kaçınmak için firmaların Kaliforniya’daki tüm operasyonlarını ve hizmetlerini de durdurmaları gerekecektir.
Bizi sosyal medya hesabımızdan takip etmeyi unutmayın.
Bir sonraki haberimize buradan ulaşabilirsiniz