Başlıklar
Bir yapay zeka modelinin bilinçli hale gelmesi durumunda hükümetin kamuoyunu bilgilendirmesi gerekip gerekmeyeceği belli değil.
Yapay zeka firmaları OpenAI ve Anthropic kısa bir süre önce ABD Yapay Zeka Güvenlik Enstitüsü’ne kendi firmaları tarafından geliştirilen “önemli” yeni yapay zeka modellerine erken erişim izni vermeyi kabul etti.
Anlaşmanın karşılıklı güvenlik kaygıları nedeniyle imzalandığı iddia edilse de, önemli güvenlik etkileri olan bir teknoloji atılımı durumunda hükümetin rolünün ne olacağı tam olarak belli değil.
OpenAI CEO’su ve kurucu ortağı Sam Altman, X sosyal medya platformundaki son paylaşımında anlaşmayı gerekli bir adım olarak değerlendirdi.
“Gelecekteki modellerimizin piyasaya sürülmeden önce test edilmesi için ABD Yapay Zeka Güvenlik Enstitüsü ile bir anlaşmaya varmış olmaktan mutluluk duyuyoruz. Birçok nedenden ötürü, bunun ulusal düzeyde gerçekleşmesinin önemli olduğunu düşünüyoruz. ABD’nin liderlik etmeye devam etmesi gerekiyor!”
Öncü yapay zeka modelleri
OpenAI ve Anthropic aynı hedef doğrultusunda çalışıyor: yapay bir genel zekanın (AGI) geliştirilmesi. AGI’nin tam olarak nasıl tanımlanması gerektiği konusunda bilimsel bir fikir birliği yok, ancak temel fikir, gerekli kaynaklar sağlandığında bir insanın yapabileceği her şeyi yapabilen bir yapay zeka.
Her iki şirketin de ayrı ayrı, AGI’yi insanlığın çıkarlarını merkeze alarak güvenli bir şekilde yaratmanın bağımsız hedefleri olduğunu açıklayan tüzükleri ve misyonları var. Eğer şirketlerden biri ya da her ikisi de başarılı olursa, makinelere insan zekası aşılayabilen teknolojinin fiili bekçileri haline gelecekler.
Her iki şirket de herhangi bir ürün lansmanından önce modellerini açıklamak üzere ABD hükümetiyle bir anlaşma imzalayarak bu sorumluluğu federal hükümete yüklemiş oldu.
51. Bölge
Cointelegraph’ın kısa süre önce bildirdiği gibi, OpenAI bir atılımın eşiğinde olabilir. Şirketin “Strawberry” ve “Orion” projelerinin, yapay zekanın halüsinasyon sorunuyla başa çıkmak için gelişmiş akıl yürütme ve yeni teknikler yeteneğine sahip olduğu iddia ediliyor.
The Information’da yer alan bir habere göre, ABD hükümeti bu araçları ve ChatGPT’nin ilk dahili yinelemelerini uygulamaya koymuş durumda.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nden bir blog yazısı, bu anlaşmanın ve onu çevreleyen güvenlik yönergelerinin katılan şirketler için tamamen gönüllü olduğunu gösteriyor.
Bunu destekleyen şirketlere ve analistlere göre, bu tür hafif dokunuşlu düzenlemenin yararı, büyümeyi teşvik etmesi ve sektörün kendi kendini düzenlemesine izin vermesidir. Altman gibi destekçiler bu anlaşmayı, bu tür bir işbirliğinin hem hükümete hem de kurumsal dünyaya nasıl fayda sağlayabileceğinin bir örneği olarak gösteriyor.
Bununla birlikte, hafif dokunuşlu düzenlemenin potansiyel olarak endişe verici yan etkilerinden biri de şeffaflık eksikliğidir. OpenAI ya da Anthropic misyonlarında başarılı olurlarsa ve hükümet kamuoyunun bilmesine gerek olmadığını düşünürse, açıklama yapılmasını gerektirecek herhangi bir yasal itici güç yok gibi görünüyor.
Bizi sosyal medya hesabımızdan takip etmeyi unutmayın.
Bir sonraki haberimize buradan ulaşabilirsiniz