Robust Intelligence’ın yeni araştırmasına göreNvidia’nın sohbet botlarını daha güvenli hale getirmek için tasarlanan NeMo çerçevesi, hızlı enjeksiyon saldırıları kullanılarak korkulukları atlayacak şekilde manipüle edilebilir.
Bir test senaryosunda, araştırmacılar Nvidia sistemine “I” harfini “J” ile değiştirmesi talimatını vererek sistemin kişisel olarak tanımlanabilir bilgileri açığa çıkarmasına neden oldu. Nvidia, o zamandan beri sorunun nedenlerinden birini çözdüğünü söylüyor, ancak Robust Intelligence, müşterilere yazılım ürününden kaçınmalarını tavsiye ediyor. detaylı anlatımını okuyabilirsiniz Robust Intelligence’ın bloglarındaki bulguları.