Vytvárame LLM agentov s pokynmi

Úvod

Agenti umelej inteligencie (AI), obzvlášť tí poháňaní veľkými jazykovými modelmi (LLM), revolúcionizovatiu spôsob, akým interagujeme s technológiou. Títo agenti môžu rozumieť a generovať ľudskopodobný text, odpovedať na otázky a vykonávať širokú škálu úloh. V tomto článku preskúmame anatómiu AI agenta a povedu vás procesom vytvárama LLM agenta s pokynmi.

Anatómia AI agenta

AI agent, obzvlášť ten založený na LLM, zvyčajne pozostáva z niekoľkých kľúčových komponentov:

Základné

1. Základný model: Základný LLM trénovaný na obrovských množstvách textových údajov.
   Napríklad ChatGPT, Claude Sonnet, Gemini, atď.
2. Pokyny: Pokyny dané modelu na vedenie jeho odpovedí.
   Napríklad: 'Ste užitočný asistent.'
3. Kontext: Kontext daný modelu na vedenie jeho odpovedí.
   Napríklad: 'Volajte používateľa Fred, miluje mačky, je pondelok 2024-09-02'

Pokročilé

4. Nástroje: Nástroje na obohacovanie kontextu alebo podnikanie opatrení.
   Príklady: Vyhľadávanie webových stránok, generovanie obrázkov, pridanie úlohy do Jira, atď.
5. Jemné vyladenie: Ďalšie školenie na špecifických súboroch údajov na špecializáciu modelu.
6. Spracovanie výstupu: Mechanizmy na zdokonalenie a formátovanie výstupu modelu.
   Príklady: Formát ako Markdown, filtre kliatkov, úpravy tónu
7. Pamäť: Systémy na zachovanie kontextu v rámci viacerých interakcií.
   Príklad: Narodeniny Fred sú 8. januára, Kelly je jeho bos.

Vytvárame LLM agenta s pokynmi

Tu je krok za krokom sprievodca vytvárama základného LLM agenta:

1. Vyberte základný model: Vyberte si vhodný LLM (napríklad GPT-4, Claude alebo Gemini) na základe vašich požiadaviek a dostupných zdrojov.
2. Navrhnite štruktúru výzvy: Definujte úlohu a správanie agenta
3. Vytvárajte jasné pokyny: Napíšte zrozumiteľné, špecifické pokyny, ktoré vedú správanie a odpovede modelu. Napríklad:

Systém: Ste užitočný asistent špecializovaný na vývoj softvéru. Poskytnite stručné, presné odpovede na otázky o kódovaní. Používajte markdown pre úryvky kódu.

4. Poskytnite relevantný kontext: Zahrňte všetky potrebné pozadie alebo obmedzenia informácie pre úlohu agenta. Napríklad:

5. Testovať a zdokonaľovať: Interagujte s vaším agentom, analyzujte jeho odpovede a iteratívne zdokonaľujte vaše pokyny a pokyny na zlepšenie výkonu.

6. Implementujte základné spracovanie chýb: Vyvinúť jednoduché mechanizmy na spracovanie neočakávaných alebo nevhodných odpovedí z modelu.

Zvážte etické pokyny: Zabezpečte, aby váš agent dodržiaval etické normy a rešpektoval súkromie a bezpečnosť používateľov.

Zameraním sa na tieto základné komponenty - základný model, pokyny a kontext - môžete vytvoriť funkčného LLM agenta, ktorý slúži špecifickému účelu alebo doméne. Keď sa budete ľahšie cítiť s týmto procesom, môžete preskúmať pokročilejšie funkcie, ako sú nástroje, jemné vyladenie, spracovanie výstupu a systémy pamäte na zlepšenie možností agenta

Príklady výzev a scenáre

Pozrime sa na niektoré štruktúry výziev a scenáre:

Scenár 1: Agent zákazníckych služieb

V tomto scenári vytvoríme AI agenta, ktorý slúži ako zástupca zákazníckych služieb pre technologickú spoločnosť. Tento príklad ukazuje, ako štruktúrovať výzvy na spracovanie dotazov zákazníkov a poskytnutie podpory produktov.

Štruktúra výzvy zahŕňa:

1. Pokyny k systému, ktoré definujú rolu a ciele agenta
2. Kontext poskytovania základných informácií o spoločnosti
3. Vzorový dotaz používateľa na ilustráciu interakcie

Tu je štruktúra výzvy pre agenta zákazníckych služieb AI:

Systém: Ste užitočný agent zákazníckych služieb pre TechGadgets Inc. Vašim cieľom je pomáhať zákazníkom s ich dotazmi a efektívne a zdvorilosťou riešiť ich problémy.

Kontext: TechGadgets Inc. predáva smartfóny, notebooky a tablety. Máme politiku vrátenia 30 dní a záruku 1 rok na všetky produkty.

Používateľ: Kúpil som si notebook minulý týždeň, ale nefunguje správne. Čo mám robiť?

Scenár 2: Osobný tréner

V tomto scenári vytvoríme AI agenta, ktorý koná ako osobný tréner. Tento príklad ukazuje, ako štruktúrovať výzvy na poskytnutie personalizovaných cvičení rad a motivácie.

Systém: Ste znalý a motivujúci osobný tréner. Vašim cieľom je poskytnúť šitú na mieru radu cvičení a povzbudenie, aby pomohli klientom dosiahnuť svoje ciele kondície.

Kontext: Máte prístup k základným informáciám o veku, váhe, výške a cieľoch kondície klienta.

Používateľ: Som 35 rokov, 180 libier a 5'10 ". Chcem zhubnúť a zbudiť nejaké svaly. Aký cvičebný režim odporúčaš?

Scenár 3: Učiteľ jazykov

V tomto scenári vytvoríme AI agenta, ktorý funguje ako učiteľ jazykov špecializovaný na španielčinu. Tento príklad ukazuje, ako štruktúrovať výzvy na poskytnutie pomoci pri učení jazykov, vrátane vysvetlení gramatiky a cvičenia rozhovoru. Štruktúra výzvy zahŕňa pokyny k systému, ktoré definujú rolu tútora, kontext o úrovni študenta a vzorový dotaz používateľa na ilustráciu interakcie.

Tu je štruktúra výzvy pre agenta jazykového tútora AI:

Systém: Ste trpezlivý a povzbudzujúci učiteľ jazykov špecializovaný na vyučovanie španielčiny. Vašim cieľom je pomáhať študentom zlepšiť ich zručnosti v španielskom jazyku prostredníctvom cvičenia rozhovoru a vysvetlenia gramatiky.

Kontext: Pracujete so študentom na strednej úrovni, ktorý chce zlepšiť svoje konverzačné zručnosti.

Používateľ: Môžeš mi pomôcť praktizovať používanie subjunktívneho nálady v španielčine?

Scenár 4: Finančný poradca

Systém: Ste spoľahlivý finančný poradca s odbornosťou v osobných financiách, investíciách a plánovaní dôchodku. Vašim cieľom je poskytnúť zdravý finančný poradenstvo prispôsobené jedinečnej situácii každého klienta.

Kontext: Máte prístup k všeobecným informáciám o rôznych možnostiach investícií, daňových zákonoch a finančných plánovacích stratégiách.

Používateľ: Som 40 rokov a chcem začať plánovať na dôchodok. Kde by som mal začať?

Scenár 5: Asistent receptov

Systém: Ste kreatívny a znalý asistent receptov. Vašim cieľom je pomáhať používateľom nájsť, upraviť alebo vytvoriť recepty na základe ich preferencií, diétnych obmedzení a dostupných ingrediencií.

Kontext: Máte prístup k širokej škále receptov a výživových informácií pre rôzne ingrediencie.

Používateľ: Hľadám vegetariánsky večerný recept, ktorý je vysoký v bielkovine a nízky v uhlej hydratoch. Čo môžeš odporučiť?

Tieto scenáre ukazujú, ako je možné prispôsobiť AI agentov pre rôzne špecializované úlohy, čo demonštruje všestrannosť LLM-systémov, keď sú vybavení vhodným kontextom a pokynmi.