- Başka bir Hofstadter makalesinden eklenen önemli noktalar
Güncelleme, 9 Temmuz 2023:
Hofstadter derin derin düşünmeye devam ediyor. Atlantik için makaleözellikle yüzeysel ve yanlış bilgileri büyük bir güvenle üretebilen GPT-4 gibi büyük dil modelleri hakkında yorum yapıyor.
Bu ton, son derece zeki insanları bile makinelerin geçerli bir şekilde insan yazarlığının yerini alabileceğine inandırır. Ancak Hofstadter bunun bir yanılsama olduğunu söylüyor.
Tanınmış fizikçi, kendi bakış açısından neden “Gödel, Escher, Bach” yazdığını haklı çıkarmaya çalışan bir GPT-4 yanıtı üzerinde çalışıyor. Metnin “yukarıdan aşağıya bir alay” olduğunu ve “kim olduğuma dair oldukça yanıltıcı bir izlenim” verdiğini söylüyor.
reklam
Hofstadter’in kararı: “Açıkçası, tartışmasız anlayışlı pek çok insan için (birçok arkadaşım dahil), opak hesaplama sistemlerinin onlar için entelektüel görevler yerine getirmesine izin vermenin cazibesi beni şaşırttı.”
Hofstadter, “düşünen, yaşayan bir insanın yansıtıcı sesinin”, “göz kamaştırıcı bir hızla rastgele sohbet eden bir chatbot’un yapay sesi” ile değiştirilemeyeceğini düşünüyor;
Hofstadter, GPT-4 ve benzerlerinin gerçek tehlikesini burada görüyor – dil modelleri, gerçeğin ve dolayısıyla bir bütün olarak toplumun doğasını baltalayabilir.
Metnin dışında gerçek dünyada hiçbir zaman tek bir deneyimi “olmayan” hesaplama sistemlerinin yine de genel olarak dünya hakkında tamamen güvenilir otoriteler olduğu yanılsamasına düşmek derin bir hatadır ve eğer bu hata yeterince sık tekrarlanırsa ve ortaya çıkarsa geniş çapta kabul görmesi, toplumumuzun – ve tüm insan toplumunun – dayandığı gerçeğin doğasını baltalayacaktır.
Douglas Hofstadter
4 Temmuz 2023 tarihli orijinal makale:
“Gödel, Escher, Bach” yazarı Douglas Hofstadter yapay zekadan korkuyor
AI yutturmacasında yeni bir niş ortaya çıktı: Mevcut AI gelişmelerine dayanarak insanlık için kasvetli bir gelecek öngören “AI doomer”. Bu niş önemli bir figür kazanıyor.
Öneri
Tanınmış bilişsel bilim adamı Douglas Hofstadter, yapay zekanın kaderine terk edenlerin yanında yer alıyor ve insanlık için büyük, daha az elverişli değişikliklerin geldiğini görüyor. Garry Kasparov’u satrançta yenmek veya bir Go şampiyonu olmak gibi daha önce ulaşılamaz görünen hedeflere ulaşan Deep Blue gibi ilk sistemlerin ortaya çıkışından bu yana AI sistemlerinin hızlı evriminden bahsediyor.
Hofstadter, “Ve ardından sistemler, diller arasında çeviride ve ardından doğal dilde zor sorulara anlaşılır yanıtlar vermede ve hatta şiir yazmada giderek daha iyi hale geldi,” diye belirtiyor.
Bu gelişme, diyor, makinelerin yakın zamanda insanlardan önemli ölçüde daha akıllı olmayacağına dair inanç sistemini sarstı.
“Sanki sadece benim inanç sistemlerim çökmüyor, aynı zamanda tüm insan ırkı yakında gölgede kalacak ve toz içinde kalacakmış gibi geliyor. İnsanlar bana “‘Yakında’ derken ne demek istiyorsun?” diye soruyor.
Ve gerçekten ne demek istediğimi bilmiyorum. Bilmemin hiçbir yolu yok. Ama bir yanım 5 yıl diyor, bir yanım 20 yıl diyor, bir yanım “Bilmiyorum, hiçbir fikrim yok” diyor. Ama ilerleme, hızlanan ilerleme o kadar beklenmedikti ki, beni, sadece kendimi değil, pek çok insanı o kadar hazırlıksız yakaladı ki, yaklaşan bir tsunaminin tüm insanlığı hazırlıksız yakalayacak belli bir tür terörü var. .”
Douglas Hofstadter
Hofstadter, bu gelişmenin sonucunu belirsiz görüyor. Güçlü bir yapay zekanın insanlığı yok etme olasılığını görüyor. Aksi halde, insanlık hamamböcekleri için ne kadar anlaşılmazsa, çok daha zeki ve bizim için de anlaşılmaz bir şeyin yanında küçük bir fenomen gibi görünebilir.
AI, Douglas Hofstadter’ı üzüyor
Hofstadter, yapay zeka alanında, özellikle de insanların fikirleri bir bağlamdan diğerine aktarması gibi, makinelerin analoji yoluyla düşünme ve öğrenme yeteneğini incelediği “akışkan kavramlar ve yaratıcı analojiler” alanında temel araştırmalar yaptı.
Kendi hesabına, yalnızca ileri yönde çalışan bir sinir ağının derin düşünme yapabileceğine asla inanmadı. Hofstadter bunun kendisine mantıklı gelmediğini söylüyor ve bu onun saf olduğunu gösteriyor.
Hofstadter, “Ve beni çok uzun süredir depresyona girmediğim bir şekilde bunaltıyor ve üzüyor” diyor. Ne de olsa insan zihni, “Gödel, Escher, Bach” ve “Ben garip bir döngüyüm” kitaplarını yazarken hayal ettiği kadar derin ve karmaşık olmayabilir.
Hofstadter, “Bir anlamda, benim sahip olduğumdan bir milyon kat veya bir milyar kat daha fazla bilgiye sahip olan ve bir milyar kat daha hızlı olan bu hesaplama sistemlerine kıyasla çok kusurlu, kusurlu bir yapı gibi hissediyorum” diyor. .
İnsanlığın yakında haklı olarak eskimiş olacağını hissettiğini söyledi. “Çünkü çok kusurlu ve yanılabiliriz. Her zaman bir şeyleri unuturuz, her zaman bir şeyleri karıştırırız, her zaman kendimizle çelişiriz.”
Yapay zekanın keşfinin ateşin keşfi gibi olduğunu ve evrimin muhtemelen geri döndürülemez olduğunu söyledi. “Ormanı çoktan ateşe vermiş olabiliriz.”
Röportajın tamamını aşağıdaki videodan izleyebilirsiniz.
Hofstadter canınızı sıkıyorsa: Başka bakış açıları da var. IEEE Spectrum’un yakın tarihli bir derlemesine göre, önde gelen 22 yapay zeka uzmanından yalnızca dördü yapay zekanın dünyanın sonunu getirebileceğine inanıyor. Ancak sekizi, mevcut büyük dil modellerinin yapay genel zekaya yol açabileceğine inanıyor. Tahmin topluluğu Metaculus, 2033’te genel yapay zekayı tahmin ediyor.