The Washington Post ve The New York Times’a göre FTC, OpenAI’nin ChatGPT’sini kullanıcı verilerini işlemesi ve bireyler hakkında yanlış bilgilerin yayılmasıyla ilgili endişeler nedeniyle araştırıyor.
Ajans, 20 sayfalık ayrıntılı bir mektupta OpenAI’ye kullanıcılar için olası riskler hakkında bir dizi soru sordu ve yazılım güncellemeleri öncesinde veri güvenliği olayları ve alınan önlemler hakkında bilgi istedi.
Ayrıca hakkında daha fazla bilgi istiyor Mart ayında gerçekleşen sohbet geçmişi sızıntısıChatGPT kullanıcılarının ChatGPT’nin yanlış bilgi üretebileceğinin ne ölçüde farkında olduğunun yanı sıra.
İnsana benzer iletişim yeteneklerine rağmen, yapay zeka ürettiği içeriği anlamıyor ve bu da onun insanlar hakkında zararlı yanlışlar yaratmasına neden oluyor. ChatGPT’nin bireyler hakkında zarar verici ve doğru olmayan şeyler söylediği, herkes tarafından bilinen en az iki vaka vardır.
reklam
Bir durumda, ChatGPT, bir hukuk profesörünü cinsel saldırıyla suçladı taahhüt etmedi. Bilinen başka bir durumda, ChatGPT, Avustralyalı bir belediye başkanı hakkında asılsız iddialarda bulundu iddiaya göre rüşvetten cezaevine girdi.
FTC soruşturması, OpenAI CEO’su Sam Altman’ı hayal kırıklığına uğratan bir sızıntıyla başladı
Soruşturma, OpenAI için ilk önemli düzenleyici zorluğu işaret ediyor. Girişimin kurucu ortağı Sam Altman, daha önce kongre ifadesinde AI mevzuatını memnuniyetle karşılayarak, endüstrinin hızlı büyümesini ve iş kayıpları ve dezenformasyonun yayılması gibi potansiyel riskleri öne sürdü.
Twitter’dan, Altman, FTC’nin soruşturmasına tepki gösterdi“bir sızıntıyla başlaması ve güven oluşturmaya yardımcı olmaması” hayal kırıklığı yaratıyor.
Altman, GPT-4’ün “yıllarca süren güvenlik araştırması” üzerine inşa edildiğini ve ilk eğitimden sonra modelin hizalamasını ve güvenliğini optimize etmek için ek 6 aylık bir aşama olduğunu vurguluyor.
Altman, “Kullanıcı gizliliğini koruyoruz ve sistemlerimizi bireyler hakkında değil, dünya hakkında bilgi edinecek şekilde tasarlıyoruz” diye yazıyor.
Öneri
