Inżynieria Kontekstu w AI

Inżynieria kontekstu obejmuje całość informacji dostarczanej modelowi, nie tylko pojedynczy prompt.

Kontekst składa się z instrukcji systemowych, promptu użytkownika, historii rozmowy, pamięci długoterminowej, danych zewnętrznych i dostępnych narzędzi.

Jakość kontekstu decyduje o sukcesie lub porażce agentów AI, a nie złożoność samego modelu.

Inżynieria kontekstu to dynamiczne, wieloetapowe przygotowywanie spersonalizowanego kontekstu przed wywołaniem modelu.

Formatowanie i selekcja informacji oraz narzędzi we właściwym momencie mają kluczowe znaczenie dla efektywności AI.

Celem inżynierii kontekstu jest stworzenie systemu automatycznie dostarczającego wszystko, czego potrzebuje LLM do wykonania zadania.