Yapay zeka sektörü, Kaliforniya’da yapay zeka sistemlerinde bir tür acil durdurma uygulaması getirecek yeni yasa konusunda ikiye bölünmüş durumda.
Sektör liderleri, 28 Ağustos’ta kabul edilen tartışmalı Kaliforniya yapay zeka yasası konusunda bölünmüş durumda.
Yeni mevzuat, yapay zeka firmalarını, yapay zeka modelleri için “acil durdurma” düğmesi de dahil olmak üzere yeni güvenlik protokolleri uygulamaya zorlayacak.
Sınır Yapay Zeka Modelleri için Güvenli ve Emniyetli Yenilik Yasası (SB 1047), 28 Ağustos’ta Kaliforniya Senatosu’ndan 29-9 oyla geçti.
Yasa tasarısı şimdi onay için Vali Gavin Newson’ın masasına gidiyor.
Elon Musk, yasa tasarısına destek verenler arasındaydı. X konusunda bunun “zor bir karar” olduğunu söyledi ancak yapay zekanın “potansiyel riski” nedeniyle yasa tasarısını destekledi.
Ancak tüm teknoloji figürleri aynı şekilde ikna olmuş değil. OpenAI baş strateji sorumlusu Jason Kwon, yasayı eleştirenler arasında.
Merkezi olmayan yapay zeka ağı Masa’nın kurucu ortağı Calanthia Mei, yeni kurallara karşı olduğunu, bunların yasa çıkarmak için gereksiz yere acele edilmesinin sonucu olduğunu öne sürdü.
Mei, Cointelegraph’a “Bunun gibi erken düzenlemeler yalnızca yetenekleri Kaliforniya’dan kovmayacak; aynı zamanda yetenekleri Amerika’dan da kovacaktır” dedi. Şunu ekledi:
“Risk, Amerika’nın mevcut ve önerilen düzenleyici çerçevelerinin yapay zeka sektörünün büyümesini sınırlama olasılığında yatıyor.”
Merkezi olmayan yapay zeka projesi DecideAI’nin CEO’su Raheel Govindji ise zıt bir görüşe sahip.
Govindji, Cointelegraph’a yaptığı açıklamada, “Biz yasa tasarısından yanayız” dedi.
Govindji, DecideAI’nin merkezi olmayan otonom bir organizasyon (DAO) tarafından kontrol edilen bir killswitch’i desteklediğini ve bu şekilde acil durdurmayı demokratikleştirip merkezsizleştirmeyi önerdiklerini söyledi.
Yapay zeka hızla gelişen bir sektördür
Yapay zeka sektörünün hızlı gelişimi, onun sınırsız gelişimi konusunda korkuları körüklüyor.
OpenAI’daki eski personel ve ihbarcılar, 22 Ağustos tarihli bir mektupta , “Yeterli güvenlik önlemleri olmaksızın sınır AI modelleri geliştirmek, halk için öngörülebilir felaket zararı riskleri doğurmaktadır.” uyarısında bulundu .
Ancak bazılarına göre, yapay zeka gelişiminin hızlı temposu korkulacak bir şey değil, kutlanacak bir şey.
Son: Sorunsuz çözümler: Ethereum’un kaç adet 2. katmanı çok fazladır?
“Diğer dönüştürücü teknolojilerin aksine, AI inovasyonunun hızı benzersizdir. Üreticiler her gün yeni ürünler, özellikler ve uygulamalar sunuyor” dedi Mei.
“Biz inşaatçılar olarak yapay zekanın tavanının nerede olduğunu bile bilmiyoruz; hükümet yapay zekanın tavanını nasıl bilecek? Yüksek potansiyelli teknolojiler için sınırlar koymak akıllıca değil.”
Mei, yasanın nihai maliyetinin “kriptoya yaptığı gibi” “yetenekleri ABD’den kovmak” olacağı konusunda uyardı.
Lehte olanlar
Govindji, “DAO kontrollü bir öldürme anahtarının” mevzuatın gerekliliklerini desteklerken “kolektif ve şeffaf karar alma”yı da koruyabileceğini öne sürüyor.
Tasarıda herhangi bir yapay zeka modelinin “derhal tam bir kapatma gerçekleştirebilmesi” gerektiği belirtiliyor ancak “derhal” ifadesinin anlamı tanımlanamadığından, önemli ölçüde yoruma açık alan bırakılıyor.
Şimdilik, bir DAO modelinin ve demokratik oylama sisteminin yasa koyucuları tatmin edecek kadar hızlı olup olmayacağı bilinmiyor. Govindji bunun olacağından emin. Govindji’ye göre DecideAI “toplumsal bir iyilik olan AI’yı sağlamada eğrinin önünde olacak.”
Yapay zeka firması Anthropic de yasa tasarısını kamuoyuna açık bir şekilde destekledi.
Anthropic CEO’su Dario Amodei, Vali Newsom’a yazdığı açık mektupta, “Yapay zeka sistemleri, yetenekleri bakımından son derece hızlı bir şekilde gelişiyor. Bu durum, hem Kaliforniya ekonomisi için büyük bir vaat hem de önemli bir risk sunuyor […] Özellikle son değişikliklerden sonra, SB 1047’nin, felaket boyutunda kötüye kullanımın önlenmesinin önemi göz önüne alındığında, bizimki gibi şirketler için uygulanabilir bir uyumluluk yükü oluşturduğuna inanıyoruz.” dedi.
Yasa tasarısının daha önceki bir versiyonu, uymayan şirketlere cezai yaptırımlar getiriyordu. Sektörle istişare edildikten sonra, bu hüküm yalnızca medeni cezalara indirildi.
Yasa Tasarısı SB 1047
SB 1047 Tasarısı yalnızca “kapsanan modeller” için geçerli olacak ve hangi modellerin kapsandığına ilişkin tanım zamanla değişecek.
Uygulandığında, kapsanan model, geliştirilmesi 100 milyon doların üzerinde maliyete sahip bir yapay zeka veya “10^26 tam sayı veya kayan nokta işleminden daha büyük miktarda işlem gücü kullanılarak eğitilen bir yapay zeka modeli” olacaktır.
Federal hükümetin Hükümet Operasyonları Ajansı, bilgi işlem gücü eşiğinde yapılacak herhangi bir değişikliği karara bağlayacaktır.
OpenAI’den Kwon, Vali Newsom’a yazdığı mektupta, yapay zekaya yönelik mevzuatın “birbirinden farklı eyalet yasalarından oluşan bir karmaşadan ziyade” yalnızca federal düzeyde ele alınması gerektiğini savundu.
Teknoloji ve yapay zeka firmalarının Kaliforniya’da yoğunlaşması göz önüne alındığında, SB 1047’nin şimdilik fiili ulusal mevzuat olabileceği söylenebilir.
Mevzuatın yapay zeka firmalarının diğer eyaletlere kaçmasına yol açması durumunda durum değişebilir, ancak SB 1047’den tamamen kaçınmak için firmaların Kaliforniya’daki tüm operasyonlarını ve hizmetlerini durdurmaları gerekecektir.
Bizi sosyal medyamızdan takip etmeyi unutmayın.
Bir sonraki habere buradan ulaşabilirsiniz.