Vytváření LLM agentů s instrukcemi
← Back
Jozo
Jozo
2024/09/04
19 min read
AILLMVývojTutorialAI AgentiProgramování

Vytváření LLM agentů s instrukcemi

Úvod

Agenti umělé inteligence (AI), zejména ti poháněni velkými jazykovými modely (LLM), revolucionizovali způsob, jak komunikujeme s technologií. Tito agenti mohou porozumět a generovat text podobný člověku, odpovídat na otázky a provádět širokou škálu úkolů. V tomto článku prozkoumáme anatomii AI agenta a provedeme vás procesem vytváření LLM agenta s instrukcemi.

Anatomie AI agenta

AI agent, zejména ten založený na LLM, se typicky skládá z několika klíčových součástí:

Základní

  1. Základní model: Základní LLM vyškolený na obrovském množství textových dat.
    Například ChatGPT, Claude Sonnet, Gemini, atd.
  2. Výzvy: Instrukce dané modelu, aby řídily jeho odpovědi.
    Například: 'Jste užitečný asistent.'
  3. Kontext: Kontext daný modelu, aby řídil jeho odpovědi.
    Například: 'Zavolej uživatele Fred, miluje kočky, je pondělí 2024-09-02'

Pokročilý

  1. Nástroje: Nástroje pro obohacení kontextu nebo provádění akcí.
    Příklady: Prohledávání webu, Generování obrázků, Přidání úkolu do Jiry atd.
  2. Fine-tuning: Další školení na konkrétních datasetech k specializaci modelu.
  3. Zpracování výstupu: Mechanismy pro vylepšení a formátování výstupu modelu.
    Příklady: Formát jako Markdown, filtry vulgarismů, úpravy tónu
  4. Paměť: Systémy pro zachování kontextu přes více interakcí.
    Příklad: Fredova narozenin je 8. ledna, Kelly je jeho šéfka.

Vytváření LLM agenta s instrukcemi

Zde je podrobný průvodce vytvářením základního LLM agenta:

  1. Vyberte si základní model: Zvolte vhodný LLM (např. GPT-4, Claude nebo Gemini) na základě vašich požadavků a dostupných zdrojů.
  2. Navrhněte strukturu výzvy: Definujte roli a chování agenta
  3. Vypracujte jasné instrukce: Napište stručné, specifické instrukce, které řídí chování a odpovědi modelu. Například:
Systém: Jste užitečný asistent se specializací na vývoj softwaru. Poskytujte stručné, přesné odpovědi na otázky týkající se kódování. Používejte markdown pro úryvky kódu.
  1. Poskytnout relevantní kontext: Zahrňte jakékoli nezbytné základní informace nebo omezení pro úkol agenta. Například:
  2. Testování a vylepšování: Interagujte se svým agentem, analyzujte jeho odpovědi a iterativně vylepšujte své výzvy a instrukce, aby se zlepšil výkon.
  3. Implementujte základní zpracování chyb: Vyvinout jednoduché mechanismy pro zpracování neočekávaných nebo nevhodných odpovědí od modelu.

Zvažte etické pokyny: Zajistěte, aby váš agent dodržoval etické standardy a respektoval soukromí a bezpečnost uživatelů.

Zaměřením se na tyto základní komponenty - základní model, výzvy a kontext - můžete vytvořit funkčního LLM agenta, který slouží specifickému účelu nebo doméně. Jak se s tímto procesem stanete více obeznámeni, můžete prozkoumat pokročilejší funkce jako nástroje, fine-tuning, zpracování výstupu a paměťové systémy, aby se vylepšily schopnosti vašeho agenta.

Příklady výzev a scénáře

Pojďme si prohlédnout některé struktury výzev a scénáře:

Scénář 1: Agent pro služby zákazníkům

V tomto scénáři vytvoříme AI agenta, který slouží jako zástupce služeb zákazníků pro technologickou společnost. Tento příklad ukazuje, jak strukturovat výzvy pro zpracování dotazů zákazníků a poskytování podpory produktů.

Struktura výzvy zahrnuje:

  1. Systémové instrukce definující roli a cíle agenta
  2. Kontext poskytující základní informace o společnosti
  3. Příklad dotazu uživatele na ilustraci interakce

Zde je struktura výzvy pro agenta pro služby zákazníků:

Systém: Jste užitečný agent služeb zákazníků pro TechGadgets Inc. Vaším cílem je asistovat zákazníkům s jejich dotazy a efektivně a zdvořile vyřešit jejich problémy.

Kontext: TechGadgets Inc. prodává smartphony, notebooky a tablety. Máme 30denní zásadu vrácení a 1leté záruky na všechny produkty.

Uživatel: Koupil jsem si notebook minulý týden, ale nefunguje správně. Co bych měl dělat?

Scénář 2: Osobní trenér fitness

V tomto scénáři vytvoříme AI agenta, který funguje jako osobní trenér fitness. Tento příklad ukazuje, jak strukturovat výzvy pro poskytování personalizovaných rad na trénink a motivace.

Systém: Jste znalý a motivující osobní trenér fitness. Vaším cílem je poskytnout přizpůsobené rady na trénink a povzbuzení, které pomáhají klientům dosáhnout svých fitness cílů.

Kontext: Máte přístup k základním informacím o věku, váze, výšce a fitness cílech klienta.

Uživatel: Jsem 35 let, 180 liber a 5'10". Chci zhubnout a nabrat nějaké svaly. Jaký tréninkový program byste mi doporučil?

Scénář 3: Jazykový tutor

V tomto scénáři vytvoříme AI agenta, který funguje jako jazykový tutor se specializací na španělštinu. Tento příklad ukazuje, jak strukturovat výzvy pro poskytování pomoci při učení se jazyku, včetně vysvětlení gramatiky a konverzační praxe. Struktura výzvy zahrnuje systémové instrukce definující roli tutora, kontext o úrovni studenta a příklad dotazu uživatele na ilustraci interakce.

Zde je struktura výzvy pro agenta jazykového tutora:

Systém: Jste trpělivý a povzbuzující jazykový tutor se specializací na výuku španělštiny. Vaším cílem je pomáhat studentům zlepšovat jejich dovednosti ve španělštině prostřednictvím konverzační praxe a vysvětlení gramatiky.

Kontext: Pracujete se studentem na střední úrovni, který chce zlepšit své konverzační dovednosti.

Uživatel: Pomůžete mi trénovat používání subjunctive mood ve španělštině?

Scénář 4: Finanční poradce

Systém: Jste spolehlivý finanční poradce s odborností v osobních financích, investicích a plánování důchodu. Vaším cílem je poskytnout zvučné finanční rady přizpůsobené jedinečné situaci každého klienta.

Kontext: Máte přístup k obecným informacím o různých investičních možnostech, daňových zákonech a finančních strategiích plánování.

Uživatel: Mám 40 let a chci začít plánovat důchod. Kde bych měl začít?

Scénář 5: Asistent pro recepty

Systém: Jste tvůrčí a znalý asistent pro recepty. Vaším cílem je pomáhat uživatelům najít, upravit nebo vytvářet recepty na základě jejich preferencí, dietních omezení a dostupných ingrediencí.

Kontext: Máte přístup k široké škále receptů a informací o výživě pro různé ingredience.

Uživatel: Hledám vegetariánský recept na večeři, který je bohatý na proteiny a nízký na sacharidy. Co byste mi mohl navrhnout?

Tyto scénáře ukazují, jak mohou být AI agenti přizpůsobeni různým specializovaným úkolům, což demonstruje všestrannost systémů založených na LLM, když jsou poskytovány s vhodným kontextem a instrukcemi.