Vytvárame LLM agentov s pokynmi
← Back
Jozo
Jozo
2024/09/04
19 min read
AILLMVývojNávodAI agentiProgramovanie

Vytvárame LLM agentov s pokynmi

Úvod

Agenti umelej inteligencie (AI), obzvlášť tí poháňaní veľkými jazykovými modelmi (LLM), revolúcionizovatiu spôsob, akým interagujeme s technológiou. Títo agenti môžu rozumieť a generovať ľudskopodobný text, odpovedať na otázky a vykonávať širokú škálu úloh. V tomto článku preskúmame anatómiu AI agenta a povedu vás procesom vytvárama LLM agenta s pokynmi.

Anatómia AI agenta

AI agent, obzvlášť ten založený na LLM, zvyčajne pozostáva z niekoľkých kľúčových komponentov:

Základné

  1. Základný model: Základný LLM trénovaný na obrovských množstvách textových údajov.
    Napríklad ChatGPT, Claude Sonnet, Gemini, atď.
  2. Pokyny: Pokyny dané modelu na vedenie jeho odpovedí.
    Napríklad: 'Ste užitočný asistent.'
  3. Kontext: Kontext daný modelu na vedenie jeho odpovedí.
    Napríklad: 'Volajte používateľa Fred, miluje mačky, je pondelok 2024-09-02'

Pokročilé

  1. Nástroje: Nástroje na obohacovanie kontextu alebo podnikanie opatrení.
    Príklady: Vyhľadávanie webových stránok, generovanie obrázkov, pridanie úlohy do Jira, atď.
  2. Jemné vyladenie: Ďalšie školenie na špecifických súboroch údajov na špecializáciu modelu.
  3. Spracovanie výstupu: Mechanizmy na zdokonalenie a formátovanie výstupu modelu.
    Príklady: Formát ako Markdown, filtre kliatkov, úpravy tónu
  4. Pamäť: Systémy na zachovanie kontextu v rámci viacerých interakcií.
    Príklad: Narodeniny Fred sú 8. januára, Kelly je jeho bos.

Vytvárame LLM agenta s pokynmi

Tu je krok za krokom sprievodca vytvárama základného LLM agenta:

  1. Vyberte základný model: Vyberte si vhodný LLM (napríklad GPT-4, Claude alebo Gemini) na základe vašich požiadaviek a dostupných zdrojov.
  2. Navrhnite štruktúru výzvy: Definujte úlohu a správanie agenta
  3. Vytvárajte jasné pokyny: Napíšte zrozumiteľné, špecifické pokyny, ktoré vedú správanie a odpovede modelu. Napríklad:
Systém: Ste užitočný asistent špecializovaný na vývoj softvéru. Poskytnite stručné, presné odpovede na otázky o kódovaní. Používajte markdown pre úryvky kódu.
  1. Poskytnite relevantný kontext: Zahrňte všetky potrebné pozadie alebo obmedzenia informácie pre úlohu agenta. Napríklad:
  2. Testovať a zdokonaľovať: Interagujte s vaším agentom, analyzujte jeho odpovede a iteratívne zdokonaľujte vaše pokyny a pokyny na zlepšenie výkonu.
  3. Implementujte základné spracovanie chýb: Vyvinúť jednoduché mechanizmy na spracovanie neočakávaných alebo nevhodných odpovedí z modelu.

Zvážte etické pokyny: Zabezpečte, aby váš agent dodržiaval etické normy a rešpektoval súkromie a bezpečnosť používateľov.

Zameraním sa na tieto základné komponenty - základný model, pokyny a kontext - môžete vytvoriť funkčného LLM agenta, ktorý slúži špecifickému účelu alebo doméne. Keď sa budete ľahšie cítiť s týmto procesom, môžete preskúmať pokročilejšie funkcie, ako sú nástroje, jemné vyladenie, spracovanie výstupu a systémy pamäte na zlepšenie možností agenta

Príklady výzev a scenáre

Pozrime sa na niektoré štruktúry výziev a scenáre:

Scenár 1: Agent zákazníckych služieb

V tomto scenári vytvoríme AI agenta, ktorý slúži ako zástupca zákazníckych služieb pre technologickú spoločnosť. Tento príklad ukazuje, ako štruktúrovať výzvy na spracovanie dotazov zákazníkov a poskytnutie podpory produktov.

Štruktúra výzvy zahŕňa:

  1. Pokyny k systému, ktoré definujú rolu a ciele agenta
  2. Kontext poskytovania základných informácií o spoločnosti
  3. Vzorový dotaz používateľa na ilustráciu interakcie

Tu je štruktúra výzvy pre agenta zákazníckych služieb AI:

Systém: Ste užitočný agent zákazníckych služieb pre TechGadgets Inc. Vašim cieľom je pomáhať zákazníkom s ich dotazmi a efektívne a zdvorilosťou riešiť ich problémy.

Kontext: TechGadgets Inc. predáva smartfóny, notebooky a tablety. Máme politiku vrátenia 30 dní a záruku 1 rok na všetky produkty.

Používateľ: Kúpil som si notebook minulý týždeň, ale nefunguje správne. Čo mám robiť?

Scenár 2: Osobný tréner

V tomto scenári vytvoríme AI agenta, ktorý koná ako osobný tréner. Tento príklad ukazuje, ako štruktúrovať výzvy na poskytnutie personalizovaných cvičení rad a motivácie.

Systém: Ste znalý a motivujúci osobný tréner. Vašim cieľom je poskytnúť šitú na mieru radu cvičení a povzbudenie, aby pomohli klientom dosiahnuť svoje ciele kondície.

Kontext: Máte prístup k základným informáciám o veku, váhe, výške a cieľoch kondície klienta.

Používateľ: Som 35 rokov, 180 libier a 5'10 ". Chcem zhubnúť a zbudiť nejaké svaly. Aký cvičebný režim odporúčaš?

Scenár 3: Učiteľ jazykov

V tomto scenári vytvoríme AI agenta, ktorý funguje ako učiteľ jazykov špecializovaný na španielčinu. Tento príklad ukazuje, ako štruktúrovať výzvy na poskytnutie pomoci pri učení jazykov, vrátane vysvetlení gramatiky a cvičenia rozhovoru. Štruktúra výzvy zahŕňa pokyny k systému, ktoré definujú rolu tútora, kontext o úrovni študenta a vzorový dotaz používateľa na ilustráciu interakcie.

Tu je štruktúra výzvy pre agenta jazykového tútora AI:

Systém: Ste trpezlivý a povzbudzujúci učiteľ jazykov špecializovaný na vyučovanie španielčiny. Vašim cieľom je pomáhať študentom zlepšiť ich zručnosti v španielskom jazyku prostredníctvom cvičenia rozhovoru a vysvetlenia gramatiky.

Kontext: Pracujete so študentom na strednej úrovni, ktorý chce zlepšiť svoje konverzačné zručnosti.

Používateľ: Môžeš mi pomôcť praktizovať používanie subjunktívneho nálady v španielčine?

Scenár 4: Finančný poradca

Systém: Ste spoľahlivý finančný poradca s odbornosťou v osobných financiách, investíciách a plánovaní dôchodku. Vašim cieľom je poskytnúť zdravý finančný poradenstvo prispôsobené jedinečnej situácii každého klienta.

Kontext: Máte prístup k všeobecným informáciám o rôznych možnostiach investícií, daňových zákonoch a finančných plánovacích stratégiách.

Používateľ: Som 40 rokov a chcem začať plánovať na dôchodok. Kde by som mal začať?

Scenár 5: Asistent receptov

Systém: Ste kreatívny a znalý asistent receptov. Vašim cieľom je pomáhať používateľom nájsť, upraviť alebo vytvoriť recepty na základe ich preferencií, diétnych obmedzení a dostupných ingrediencií.

Kontext: Máte prístup k širokej škále receptov a výživových informácií pre rôzne ingrediencie.

Používateľ: Hľadám vegetariánsky večerný recept, ktorý je vysoký v bielkovine a nízky v uhlej hydratoch. Čo môžeš odporučiť?

Tieto scenáre ukazujú, ako je možné prispôsobiť AI agentov pre rôzne špecializované úlohy, čo demonštruje všestrannosť LLM-systémov, keď sú vybavení vhodným kontextom a pokynmi.