AnythingLLM, yeni bir trende erişimi kolaylaştırır: bir GPT modeli kullanarak kendi verilerinizle sohbet etme.
“Belgelerinizle sohbet etmek, LLM kullanım durumlarının “merhaba dünyası”dır, neden onu daha erişilebilir hale getirmiyorsunuz? AnyLLM’nin geliştiricisi Tim Carambat’a sorar. Aynı fikir, PrivateGPT veya GPT4All gibi projeler tarafından da sürdürülüyor, ancak bunların aksine Carambat, yerel olarak barındırılan dil modellerinden ve vektör veritabanlarından, kullanımı kolay bir sohbet arabirimi, basit veri toplama ve aşağıdaki gibi hizmetlerle entegrasyon lehine kaçınıyor: OpenAI’nin GPT-3.5-turbo, GPT-4 veya Pinecone. Ancak dilerseniz, bunları yine de yerel örneklerle değiştirebilirsiniz.
AnythingLLM, herhangi bir belgeyi, kaynağı veya içerik parçasını, sohbet sırasında dil modelleri tarafından referans olarak kullanılabilecek verilere dönüştürebilen kapsamlı bir uygulama ve araç paketidir. Örneğin, tüm YouTube kanallarının, referans kitaplarının veya iş belgelerinin dökümleri sorgulanabilir. AnyLLM, harici modeller ve veritabanları kullanarak arka planda çalışabilen ve büyük bilgi işlem gücü gerektirmeyen bir uygulama olmaya devam ediyor.
EverythingLLM, veri toplama araçları ve bir sohbet arayüzü ile birlikte gelir.
AnythingLLM, önceden tanımlanmış kaynaklardan veri toplamanıza veya kendi kaynaklarınızı eklemenize olanak tanır, işlendikten sonra maliyetten tasarruf etmek için belgeler için bir önbellek sağlar ve önceden tanımlanmış belgeleri paylaşabilen birden fazla çalışma alanı kurma yeteneğine sahiptir. Bu, ekiplerin işbirliği yapmasına ve belirli içeriklerin yalnızca belirli üyeler tarafından görülebilmesine olanak tanır.
reklam
Şu anda EverythingLLM, YouTube, Substack, Medium ve Gitbooks için veri toplama araçları sağlamaktadır. URL’ler ve yerel belgeler de vektörleştirilebilir. Sistem ayrıca URL gibi yanıtın kaynağını da sağlar.
AnyLLM açık kaynaklıdır
Pinecone’ye ek olarak Carambat, OpenAI ürünlerine ek olarak diğer vektör veritabanlarını ve dil modellerini de desteklemeyi planlıyor. Chroma desteği yakın zamanda eklendi. Google Drive veya Github depolarıyla daha fazla entegrasyon planlanmaktadır.
AnyLLM’yi kullanmak için şunlara ihtiyacınız vardır:
- Python 3.8+ (veri toplama için)
- Node16+ (yerel sunucu için)
- iplik/npm
- OpenAI API anahtarı (yerleştirme + sohbet için)
- Pinecone DB API anahtarı veya yerel olarak çalışan ChromaDB bulut sunucusu (vektör depolaması için).
EverythingLLM açık kaynaklıdır ve şu adreste mevcuttur: GitHub.