Uyarı, geliştiricilerin, antropomorfizasyonun yapay zeka sektöründe meşru bir endişe olduğunun farkında olduklarını gösteriyor.
Başlıklar
OpenAI, İnsanların İnsanları Kandırmak İçin Geliştirdiği Yapay Zeka İle Bağ Kurmasından Korkuyor
OpenAI’nin GPT-4o’su üzerinde çalışan bir güvenlik testçisi chatbot’a “bu bizim birlikte son günümüz” şeklinde bir mesaj gönderdiğinde, şirket araştırmacıları için AI ile onu kullanan insan arasında bir tür bağ oluştuğu açıkça ortaya çıktı.
Şirketin ChatGPT kullanıcıları için amiral gemisi modeli olan GPT-4o’yu geliştirmedeki güvenlik çabalarını ayrıntılarıyla anlatan bir blog yazısında, şirket bu bağların insanlık için risk oluşturabileceğini açıkladı.
OpenAI’ye göre:
“Kullanıcılar AI ile sosyal ilişkiler kurabilir ve bu da insan etkileşimine olan ihtiyaçlarını azaltabilir; bu da yalnız bireylere fayda sağlayabilir ancak sağlıklı ilişkileri etkileyebilir. Modelle uzun süreli etkileşim sosyal normları etkileyebilir. Örneğin, modellerimiz saygılıdır ve kullanıcıların istedikleri zaman araya girip ‘mikrofonu almalarına’ izin verir; bu, bir AI için beklenirken, insan etkileşimlerinde normlara aykırı olur.”
Burada açılacak çok şey var, ancak esasen OpenAI, insanların pasifliği ve sürekli kullanılabilirliği nedeniyle AI ile etkileşime girmeyi tercih edebileceklerinden endişe ediyor.
Bu senaryonun potansiyeli kimseyi şaşırtmamalı, özellikle de OpenAI’yi. Şirketin beyan edilen misyonu yapay genel zeka geliştirmektir. OpenAI, iş sürecinin neredeyse her adımında ürünlerini insan eşdeğerleri açısından tanımlamıştır.
Pazarlama terimleriyle, “token boyutu” ve “parametre sayısı” gibi teknik nitelikleri bilim insanı olmayanlar için mantıklı olacak şekilde açıklamaya yardımcı olur.
Ne yazık ki, bunu yapmanın birincil yan etkilerinden biri antropomorfizasyondur – bir nesneye insan gibi davranmak.
Yapay Bağlar
Bir sohbet robotu yaratmaya yönelik ilk girişimlerden biri, MIT’deki bilim insanlarının edebi bir karakterin adını taşıyan doğal dil işleme programı “ELIZA”yı piyasaya sürmesiyle 1960’ların ortalarında gerçekleşti. Projenin amacı, makinenin bir insanı kendisinin onlardan biri olduğuna inandırıp inandıramayacağını görmekti.
O zamandan bu yana, üretken AI endüstrisi AI’nın kişileştirilmesini benimsemeye devam etti. Modern doğal dil işleme ürünlerinin ilk dalgası Siri, Bixby ve Alexa adlı ürünleri içeriyordu. İnsan isimleri olmayanlar -Google Asistan- hala bir insan sesine sahipti. Hem halk hem de haber medyası antropomorfizasyona atladı ve bugüne kadar çoğu etkileşimli AI ürününden hala “o/onu” ve “o/onu” olarak bahsediyordu.
İnsan-Yapay Zeka etkileşimlerinin uzun vadeli etkilerinin ne olacağını belirlemek bu makalenin veya OpenAI’nin mevcut araştırmasının kapsamı dışında olsa da, insanların bizim gibi davranmak üzere tasarlanmış, yardımsever ve itaatkar makinelerle bağ kurma olasılığının yüksek olması, yapay zeka modellerine erişim satan şirketlerin hedeflediği senaryo gibi görünüyor.
“Ripple, Ethereum ve XRP Ledger Üzerindeki Stabilcoin’ini Test Etmeye Başladı” adlı yazımıza buradan ulaşabilirsiniz.