AI critic Marcus and OpenAI’s Altman push for regulation

Özet

OpenAI CEO’su Sam Altman, ABD Senatosunda hem destek hem de şüpheyle karşılanan yapay zekayı düzenlemek ve lisanslamak için yeni bir kurum çağrısında bulundu.

“Yapay Zekanın Gözetimi: Yapay Zeka Kuralları” konulu ilk ABD Senatosu duruşmasında, herkesin hemfikir olduğu kısa sürede anlaşıldı: OpenAI CEO’su Sam Altman, IBM Baş Gizlilik ve Güven Sorumlusu Christina Montgomery ve derin öğrenme eleştirmeni Gary Marcus, ABD Senatosu yapay zekayı düzenleyecek.

Senatörler benzer duyguları dile getirdiler, bazıları Altman’ın düzenleme çağrısına şaşırdı: “Şirketlerin en son ne zaman gelip onları düzenlememiz için bize yalvardığını hatırlayamıyorum,” dedi ABD Senatörü Dick Durbin duruşma sırasında. Montgomery, senatoya IBM’in pozisyonunun değişmediğini hatırlattı: “Güven, bizim çalışma lisansımızdır. Yıllardır AI için hassas düzenleme çağrısında bulunduk. AI, risk noktasında düzenlenmelidir.”

OpenAI CEO’su, AI için yeni ABD ajansı çağrısında bulundu

Spesifik olarak, üçü de şirketlere AI modellerini belirli bir risk seviyesinin üzerinde çalıştırmaları için lisans verilmesini savundu; Marcus ve Altman ayrıca yapay zeka için yeni bir ABD düzenleyici kurumun oluşturulması ve bazen CERN’e, bazen de Uluslararası Atom Enerjisi Ajansı’na benzetilen uluslararası bir düzenleyici kurumun başlatılması çağrısında bulundu. Marcus, mevcut yetkililer veya mevcut yasalar kapsamındaki davalar bir araç olabilir, ancak “yeterli kapsama alanı sunmuyorlar, önemsediğimiz şeyleri korumak için çok yavaşlar” dedi.

Marcus, yeni bir AI ajansının, AI modelleri devreye alınmadan önce ve sonra güvenlik incelemeleri yürütmesi ve AI gelişmelerini takip edebilen ve ürünleri geri çağırabilen “çevik bir izleme ajansı” olması gerektiğini söyledi. Ayrıca AI güvenlik araştırmalarına daha fazla yatırım ve OpenAI gibi şirketlerden daha fazla şeffaflık çağrısında bulundu.

Altman, aşırı geniş düzenlemelerle boğucu küçük yapay zeka girişimlerine ve açık kaynak topluluğuna karşı uyarıda bulundu. Bunun yerine, şirketlerin yapay zeka modellerinin yeni kurum tarafından belirli bir yetenek eşiğinin üzerinde lisanslanması gerektiğini ve güvenlik standartlarını karşılayamazlarsa kaybedebileceklerini öne sürdü. Modellerin kullanılmadan önce kendini kopyalama veya bir sistemden çıkma gibi belirli yetenekler açısından test edilmesi gerekir. Altman ayrıca bu süreçlerin bağımsız, dış taraflarca denetlenmesini savundu.

Öte yandan Montgomery, düzenlemenin mevcut kurumlar tarafından ele alınabileceğini savundu ve düzenleyici tekliflerinde defalarca AB AI Yasasına atıfta bulundu. İhtiyaç duyulan şeyin, teknolojinin kendisinden ziyade belirli kullanım durumlarını yöneten kurallarla yapay zekaya yönelik hassas bir düzenleme yaklaşımı olduğunu söyledi. Bu aynı zamanda kullanım durumuna bağlı olarak risklerin net bir şekilde tanımlanmasını ve farklı riskler için farklı kuralları gerektirecektir. Şeffaflık ve hesap verebilirliğe odaklanılması gerektiğini söyledi.

“Pandora’nın kutusu kelimelerden daha fazlasına ihtiyaç duyar”

Altman ve Marcus, seçimlere müdahale veya diğer hedefli etki biçimleri gibi acil tehlikelerin yanı sıra yalnızca genel yapay zekanın (AGI) ortaya çıkmasıyla ortaya çıkabilecek tehlikelere işaret ettiler. Altman, öncelikle yapay zeka modellerinin bir gün yapabilecekleri için değil, yalnızca şu anda yapabilecekleri için değil, öncelikle lisanslara ihtiyaç duyulduğunu söyledi. GPT-5 gibi yapay zeka eğitimiyle ilgili olası bir moratoryuma gelince, şirketinin şu anda yeni yapay zeka modellerini eğitmeyi durdurmak için bir neden görmediğini, bunun yerine yayınlanmadan önce kapsamlı güvenlik testleri yapmaya devam etmek istediğini vurguladı.

ABD’li senatörlerin çoğu yeni bir yapay zeka ajansı fikrine açık görünüyordu ve bazıları bunu açıkça destekliyordu. Peter Welch ve Richard Blumenthal, “Pandora’nın kutusunun ‘lisanslama’ ve ‘yeni ajans’ gibi kelimelerden daha fazlasına ihtiyacı olduğu” uyarısında bulundu.