RAG, wywołanie narzędzia czy deterministyczne zapytanie?

Decyzja

Wybierz mechanizm przez organ, którego wymaga odpowiedź. Retrieval- rozszerzone pokolenie może pomóc wyjaśnić materiały w dokumentach. Określone zapytanie zwraca ustrukturyzowane fakty zgodnie z wyraźnymi zasadami. Wywołanie narzędzia pozwala na żądanie modelu określonej operacji; Twoja aplikacja musi nadal potwierdzać ten wniosek i zdecydować, czy może być uruchomiony.

Przykład roboczy

Ilustracyjny asystent serwisowy otrzymuje trzy pytania: "Jaka jest polityka zwrotu?", "Czy mój powrót przyszedł?" i "Proszę anulować kolekcję". Pierwszy z nich może korzystać z odzyskanych fragmentów polityki; drugi powinien odczytać autoryzowany zapis; trzeci stan zmian i potrzebuje potwierdzonego polecenia z odpowiednim potwierdzeniem.

Alternatywy warte ważenia

• Możesz użyć normalnego formularza do anulowania i wyszukiwania konwersacji dla polityki. Pojedynczy interfejs czatu może łączyć te ścieżki, ale powinien zachować ich odrębne uprawnienia, dowody i obsługę błędów. Wygody konwersacyjne nie są powodem do zastąpienia niezawodnego uporządkowanego przepływu pracy.

Gdzie plan się psuje

Nie odpowiadaj na akcje lub salda na żywo ze starego indeksu dokumentów. Nie pozwól modelowi wynaleźć zapytania z nieograniczonym dostępem do bazy danych. Przed wykonaniem operacji należy utrzymać wąskie operacje obsługiwane, potwierdzić parametry i obsługiwać brakujące lub niejednoznaczne identyfikatory.

Przekierować wniosek przed złożeniem odpowiedzi

Przydatne zadanie projektowe polega na napisaniu umowy na odpowiedź dla każdego z trzech pytań o odpowiedź. Wyjaśnienie dotyczące polityki musi określać wersję polityki i wspierać przejście. Sprawdzenie statusu musi identyfikować autoryzowany zapis powrotu i jak niedawno został przeczytany. Anulowanie musi identyfikować dokładną kolekcję, dozwolone przejście i wynik polecenia. Brzmienie może być konwersacyjne, ale obowiązki te powinny pozostać odrębne we wniosku.

Pojedyncza wiadomość może zawierać kilka intencji: wyjaśnić opłatę, pokazać jej status i anulować kolekcję, jeśli nie rozpoczęła. Nie pozwól, aby wiarygodne wyjaśnienie cicho spełniać warunek zapisu. Przeczytaj stan autorytatywny, przedstawić zamierzone działanie i potwierdzić ponownie, gdy użytkownik potwierdza. Jeśli państwo zmieniło się w międzyczasie, wyjaśnij tę zmianę i poproś o nową decyzję. Traktuj brakujące i niejednoznaczne identyfikatory jako prośby o wyjaśnienie, a nie pozwolenie na wybranie wygodnego rekordu.

Badanie granicy między zrozumieniem a wykonaniem

Dla przykładowego asystenta, przygotować testy, w których dwie kolekcje udostępniają nazwę klienta, kolekcja już zakończona, dzwoniący brakuje dostępu i dostawcy czas po otrzymaniu odwołania. Zdefiniuj akceptowalny wynik każdego testu u właściciela przedsiębiorstwa. Udana odpowiedź na czat nie jest dowodem na to, że anulowanie miało miejsce. Interfejs powinien rozróżniać operacje zakończone, odrzucone i nierozwiązane oraz oferować odniesienie, które operator może zbadać.

Utrzymuj implementację komendy do użytku bez modelu. Ułatwia to niezależne testowanie kontroli zezwoleń, walidacji i powtarzania obsługi. Należy powierzyć właścicielom źródeł odpowiedzialności za aktualizacje polityki, personelowi operacyjnemu odpowiedzialność za nierozwiązane polecenia oraz właścicielowi produktu odpowiedzialność, za którą oferowane są działania. Jeżeli trasa konwersacyjna staje się niepewna, należy zachować konwencjonalną formę lub sprawdzić, czy można ją wykorzystać zamiast wyłączyć cały obieg pracy.

Przed zleceniem pracy

Czy użytkownik prosi o wyjaśnienie, aktualny fakt czy działanie? Który system jest autorytatywny? Czy użytkownik może dokonać przeglądu operacji następczej przed jej uruchomieniem? Odpowiedzi te powinny napędzać projekt integracji AI.