Dünyanın sonu nasıl gelecek? Yeni bir makale, yıkıcı yapay zeka risklerine genel bir bakış sunuyor.
Yapay zekanın hızlı gelişimi, son aylarda araştırmacılar ve politika yapıcılar arasında artan bir endişeye yol açtı. ABD Senatosundaki duruşmalar, eğitimin durdurulmasını isteyen bir mektup ve OpenAI CEO’su Sam Altman’ın bir tür dünya turu ile 2023’te AI sistemlerinin yönü ve potansiyel riskleri hakkındaki tartışma yeni zirvelere ulaştı.
ABD merkezli Yapay Zeka Güvenliği Merkezi (CAIS), tüm “yıkıcı yapay zeka risklerine”, yani büyük ölçekli zarara neden olabileceklere ilişkin kapsamlı bir genel bakış yayınladı.
Yıkıcı AI riskinin dört kategorisi
Araştırmacılar riskleri dört kategoriye ayırdı:
reklam
- Bireylerin veya grupların kasıtlı olarak yapay zekayı zarar vermek için kullandığı kötü amaçlı kullanım. Örnekler arasında propaganda, sansür ve biyoterörizm sayılabilir.
- Rekabetçi bir ortamın aktörleri güvensiz yapay zeka kullanmaya veya kontrolü yapay zekaya bırakmaya zorladığı yapay zeka yarışları. Bir örnek, kontrolden çıkan bir otomatik savaş biçimine yol açan bir silahlanma yarışıdır.
- İnsan faktörlerinin ve karmaşık sistemlerin katastrofik kaza olasılığını nasıl artırabileceğini gösteren organizasyonel riskler. Örnekler arasında tehlikeli bir AI sisteminin kasıtsız olarak halka açıklanması veya AI güvenliğinin AI yeteneklerinden daha hızlı nasıl geliştirilebileceğinin anlaşılmaması yer alır.
- İnsanlardan çok daha zeki olan ajanları kontrol etmenin doğasında var olan zorluğu tanımlayan Renegade AI. Örnekler, hedeflerini değiştiren ve hatta aktif olarak güç arayan AI sistemlerini içerir.
Ekip, her bir risk kategorisi için belirli tehlikeleri tanımlar, açıklayıcı hikayeler sunar, ideal senaryolar sunar ve bu tehlikelerin nasıl azaltılacağına dair pratik önerilerde bulunur.
Ekip, “Bu riskleri proaktif bir şekilde ele alarak, yıkıcı sonuçların potansiyelini en aza indirirken yapay zekanın faydalarını gerçekleştirmeye çalışabiliriz” diyor.
Tam genel bakış için, makaleye bakın“Yıkıcı Yapay Zeka Risklerine Genel Bir Bakış.”