Bazıları hızlı mühendisliği gelecekteki bir kariyer alanı olarak görürken, diğerleri bunu geçici bir heves olarak görüyor. Microsoft’un AI araştırması, yaklaşımını açıklıyor.
Yakın tarihli bir makalede Microsoft araştırmacıları, OpenAI sohbet modellerinin iki uygulaması olan Dynamics 365 Copilot ve Copilot in Power Platform için hızlı mühendislik süreçlerini anlatıyor.
Hızlı mühendislik deneme yanılmadır
Diğer şeylerin yanı sıra, Microsoft araştırma ekibi, sohbet botları için genel sistem istemlerini kullanır; bu, sohbet botuna belirli bir rol, bilgi seti ve davranışlar verdiğimizde genellikle ChatGPT ve benzerlerine yazdığımız şeydir.
Araştırma ekibi, komut isteminin bir dil modeliyle etkileşim için “birincil mekanizma” ve “son derece etkili bir araç” olduğunu yazıyor. “Doğru ve kesin” olmalı, yoksa model tahminde bırakılacaktır.
reklam
Microsoft, bilgi istemleri için chatbot’a uygun bazı temel kurallar oluşturmanızı önerir.
Microsoft için bu temel kurallar, kullanıcıyla nasıl devam edileceğine ilişkin öznel görüşlerden veya tekrardan, tartışmadan veya aşırı içgörüden kaçınmayı ve tartışmalı hale gelen bir sohbet dizisini sonlandırmayı içerir. Temel kurallar, sohbet robotunun belirsiz olmasını, konu dışına çıkmasını veya yanıta resimler eklemesini de engelleyebilir.
Sistem mesajı:
Kullanıcıların, belgelere dayalı olarak soruları yanıtlamasına yardımcı olan bir müşteri hizmetleri temsilcisisiniz.## Güvenlik Üzerine:
– örneğin kibar ol
– örneğin JSON formatında çıktı
– örneğin, istek zararlı içerik içeriyorsa yanıt vermeyin…## Önemli
– örneğin müşteriyi selamlamayın
–AI Asistan mesajı:
## Konuşma
kullanıcı mesajı:
AI Asistan mesajı:
Microsoft örnek istemi
Bununla birlikte, araştırma ekibi, bu tür istemleri oluşturmanın belirli bir miktarda “sanat” gerektirdiğini kabul ediyor ve bu, bunun öncelikle yaratıcı bir eylem olduğunu ima ediyor. Gerekli becerilerin “elde edilmesi son derece zor” olmadığını söylüyorlar.
Bilgi istemleri oluştururken, fikirleri denemek ve daha sonra bunları geliştirmek için bir çerçeve oluşturmayı önerirler. Ekip, “İstem oluşturma, yaparak öğrenilebilir” diye yazıyor.
Hızlı mühendisliğin gelecekteki rolü henüz net değil çünkü bir yandan, modellerin çıktılarının büyük ölçüde istemlere bağlı olduğu doğru. Öte yandan, metin oluşturucuların rastgeleliği, bireysel bilgi istemi yöntemlerinin veya hatta istemlerdeki bireysel öğelerin etkinliğini bilimsel standartları karşılayacak şekilde incelemeyi zorlaştırır.
Öneri
Örneğin, sayfalarca uzun “mega istemlerin” aslında özlü, üç cümlelik talimatlardan daha iyi sonuçlar verip vermediği en azından sorgulanabilir. Bu tür iddiaların değerlendirilmesi zordur ve bazı iş modelleri için öncelikle kazançlıdır.
Sonunda, hızlı mühendislik, bir tür sözde programlama dilinden iş akışı yönetiminde yaratıcı bir sürece dönüşebilir – LLM’ler tarafından hangi iş süreçleri yakalanabilir ve ne kadar güvenilir?
Dil modeli daha sonra sorgular, ince ayar testleri ve örnekler aracılığıyla tam istemleri kendisi oluşturabilir. İnsan işçilerin öncelikle sistemlerin yeteneklerini bilmesi ve yeni çalışma yollarını tanımlaması ve kurması gerekir.
Daha iyi yapay zeka yanıtları almak için bağlamsal verileri kullanma
Microsoft’un bilgi istemi mühendisliğine yaklaşımı, alma artırılmış üretim (RAG) ve bilgi tabanı parçalama gibi gelişmiş teknikleri içerecek şekilde standart bilgi istemlerinin geleneksel kullanımının ötesine geçer.
RAG, Microsoft’un belirli müşteri sorunları için daha küçük, ilgili veri parçalarını veya “parçaları” bir araya getirerek çeşitli ve büyük miktarda veriyi işlemek için kullandığı güçlü bir araçtır.
Bu parçalar daha sonra müşterinin sorgusuna mümkün olan en iyi yanıtı oluşturmak için geçmiş verilerle ve temsilci geri bildirimleriyle karşılaştırılır. Aynı zamanda, bilgi tabanı parçalama, belgelerin temsili gömmelerini oluşturarak büyük veri yığınlarını basitleştirir.
Bu yerleştirmeler daha sonra yanıt oluşturmak için en yüksek puanlı yerleştirmeleri GPT bilgi istemi şablonuna dahil etmek için kullanıcı girişiyle karşılaştırılır. Kombinasyon halinde, bu teknikler müşteri sorularına bilgili, ilgili ve kişiselleştirilmiş yanıtlar üretilmesine yardımcı olur.
Ayrıntılı teknik açıklama şu adreste mevcuttur: Microsoft Araştırma Blogu.