“Gödel, Escher, Bach” author Douglas Hofstadter fears AI

Özet

AI yutturmacasında yeni bir niş ortaya çıktı: Mevcut AI gelişmelerine dayanarak insanlık için kasvetli bir gelecek öngören “AI doomer”. Bu niş önemli bir figür kazanıyor.

Tanınmış bilişsel bilim adamı Douglas Hofstadter, yapay zekanın kaderine terk edenlerin yanında yer alıyor ve insanlık için büyük, daha az elverişli değişikliklerin geldiğini görüyor. Garry Kasparov’u satrançta yenmek veya bir Go şampiyonu olmak gibi daha önce ulaşılamaz görünen hedeflere ulaşan Deep Blue gibi ilk sistemlerin ortaya çıkışından bu yana AI sistemlerinin hızlı evriminden bahsediyor.

Hofstadter, “Ve ardından sistemler, diller arasında çeviride ve ardından doğal dilde zor sorulara anlaşılır yanıtlar vermede ve hatta şiir yazmada giderek daha iyi hale geldi,” diye belirtiyor.

Bu gelişme, diyor, makinelerin yakın zamanda insanlardan önemli ölçüde daha akıllı olmayacağına dair inanç sistemini sarstı.

“Sanki sadece benim inanç sistemlerim çökmüyor, aynı zamanda tüm insan ırkı yakında gölgede kalacak ve toz içinde kalacakmış gibi geliyor. İnsanlar bana “‘Yakında’ derken ne demek istiyorsun?” diye soruyor.

Ve gerçekten ne demek istediğimi bilmiyorum. Bilmemin hiçbir yolu yok. Ama bir yanım 5 yıl diyor, bir yanım 20 yıl diyor, bir yanım “Bilmiyorum, hiçbir fikrim yok” diyor. Ama ilerleme, hızlanan ilerleme o kadar beklenmedikti ki, beni, sadece kendimi değil, pek çok insanı o kadar hazırlıksız yakaladı ki, yaklaşan bir tsunaminin tüm insanlığı hazırlıksız yakalayacak belli bir tür terörü var. .”

Douglas Hofstadter

Hofstadter, bu gelişmenin sonucunu belirsiz görüyor. Güçlü bir yapay zekanın insanlığı yok etme olasılığını görüyor. Aksi halde, insanlık hamamböcekleri için ne kadar anlaşılmazsa, çok daha zeki ve bizim için de anlaşılmaz bir şeyin yanında küçük bir fenomen gibi görünebilir.

AI, Douglas Hofstadter’ı üzüyor

Hofstadter, yapay zeka alanında, özellikle de insanların fikirleri bir bağlamdan diğerine aktarması gibi, makinelerin analoji yoluyla düşünme ve öğrenme yeteneğini incelediği “akışkan kavramlar ve yaratıcı analojiler” alanında temel araştırmalar yaptı.

Kendi hesabına, yalnızca ileri yönde çalışan bir sinir ağının derin düşünme yapabileceğine asla inanmadı. Hofstadter bunun kendisine mantıklı gelmediğini söylüyor ve bu onun saf olduğunu gösteriyor.

Hofstadter, “Ve beni çok uzun süredir depresyona girmediğim bir şekilde bunaltıyor ve üzüyor” diyor. Ne de olsa insan zihni, “Gödel, Escher, Bach” ve “Ben garip bir döngüyüm” kitaplarını yazarken hayal ettiği kadar derin ve karmaşık olmayabilir.

Hofstadter, “Bir anlamda, benim sahip olduğumdan bir milyon kat veya bir milyar kat daha fazla bilgiye sahip olan ve bir milyar kat daha hızlı olan bu hesaplama sistemlerine kıyasla çok kusurlu, kusurlu bir yapı gibi hissediyorum” diyor. .