OpenAI bosses share some thoughts on how to control a superintelligence



özet
Özet

Herkes ChatGPT ve AI metin oluşturma hakkında konuşuyor. Ancak OpenAI’nin asıl amacı yapay bir süper zeka geliştirmektir. Şirket bize uzak hedefini hatırlatıyor ve böyle bir sistemin nasıl kontrol altında tutulacağını öneriyor.

Doğrudan OpenAI’nin yönetici paketinden potansiyel bir süper yapay zekanın nasıl kontrol edileceğine dair bir makale geliyor: Yazarlar Sam Altman, Greg Brockman ve Ilya Sutskever.

Süper akıllı AI sistemleri için olası kontrol sistemlerini tartışıyorlar. Tanımları gereği bunlar, “süper zeka” terimini belirtmeseler de “yapay genel zeka”dan (AGI) bile “dramatik olarak daha güçlü” olacak geleceğin yapay zeka sistemleridir.

Altman, Brockman ve Sutskever, yapay süper zekanın etkisinin hem olumlu hem de olumsuz olarak geniş kapsamlı olacağını öne sürüyor ve potansiyel sonuçlarını nükleer enerji veya sentetik biyolojininkilerle karşılaştırıyor. Önümüzdeki on yılda, AI sistemleri “çoğu alanda uzmanlardan daha iyi performans gösterecek ve bugün en büyük şirketlerin yaptığı kadar üretken işler yapacak.

reklam

Koordinasyon, kontrol, teknoloji

Süper zekayı etkili bir şekilde kontrol etmek için üç başlangıç ​​noktası önerirler:

  • Koordinasyon: Süper zeka sistemlerinin topluma güvenli ve sorunsuz entegrasyonunu sağlamak için önde gelen süper yapay zeka geliştirme çabalarının koordine edilmesi gerekecektir. Bu, büyük hükümetler tarafından başlatılan küresel bir proje aracılığıyla veya yapay zeka yeteneklerinin büyüme oranını sınırlamak için toplu bir anlaşma yoluyla yapılabilir.
  • Yönetmelik: OpenAI, ABD Senatosu duruşmasında Uluslararası Atom Enerjisi Ajansı’na (IAEA) benzer bir düzenleyici kurum çağrısını yineliyor. Böyle bir ajans, süper zekayı denetlemekten sorumlu olacaktır. Sistemleri denetleyecek, denetim gerektirecek, güvenlik standartlarını uygulayacak ve kullanım kısıtlamaları ve güvenlik seviyeleri belirleyecektir.
  • Teknik çözümler: Süper zeki yapay zekayı güvenli hale getirmek için insanlığın teknik yetenekler geliştirmesi gerekir. Bu açık bir araştırma sorusudur.

Üç OpenAI lideri, süper zekanın sıkı bir şekilde düzenlenmesini desteklerken, şirketlerin ve açık kaynak projelerinin, düzenleme olmaksızın önemli bir yetenek eşiğinin altında modeller geliştirmesine izin veren net bir sınıra duyulan ihtiyacın altını çiziyor.

“Endişelendiğimiz sistemler, şimdiye kadar oluşturulmuş herhangi bir teknolojinin ötesinde bir güce sahip olacak ve bu çubuğun çok altındaki teknolojilere benzer standartlar uygulayarak onlara odaklanmaya dikkat etmeliyiz.”

Sam Altman, Greg Brockman, Ilya Sutskever

İnsanlar AI’dan sorumlu olmalı

Altman, Brockman ve Sutskever, güçlü AI sistemlerini yönetmede halkın katılımının ve gözetiminin önemini vurguluyor. Onlara göre bu sistemlerin sınırları ve hedefleri demokratik olarak belirlenmelidir.

Bununla birlikte, bu geniş sınırlar dahilinde, kullanıcıların kullandıkları yapay zeka sistemi üzerinde “çok fazla kontrole” sahip olmaları gerekir. OpenAI CEO’su Altman daha önce şirketinin gelecekte özelleştirilebilir yapay zeka modelleri sunmayı planladığını duyurmuştu.

Son olarak, yazarlar, tüm risklere rağmen yapay süper zeka geliştirmeyi haklı çıkarıyor: potansiyel olarak bugün hayal edebileceğimizden “çok daha iyi bir dünyaya” yol açabilir. Eğitimde, yaratıcılıkta ve üretkenlikte örneklerin zaten görülebildiğini iddia ediyorlar.

Öneri

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top