MI ágensek és multiágens rendszerek fejlesztése

VIMIBXAV030-00  |  Szabadon választható  |  Kredit: 4

A tantárgy célkitűzése

A tantárgy gyakorlatorientált bevezetést nyújt a mesterséges intelligencia (MI) ágensek és multiágens rendszerek kialakításába. Fókuszában a nagy nyelvi modellekre építő LLM-ágensek, azok eszközhasználata, az ágensekből felépülő multiágens rendszerek, kialakuló ipari megoldásaik és szabványaik, valamint gyakorlati alkalmazásaik állnak. Tárgyalja az intelligens ágensek tulajdonságait, felépítésüket, részletesen bemutatja lehetséges megvalósításaikat (pl. OpenAI AgentKit, Google AgentBuilder), működésüket, az ágensek eszközhasználati lehetőségeit (pl. Model Context Protocol), az eszközfejlesztés menetét, valamint az ágensekből álló kooperatív és kompetitív multiágens rendszerek létrehozását, belső kommunikációját és működését. A tantárgy foglalkozik az ágensrendszerek teljesítménymérésével és megfigyelhetőségével, valamint kitér fenntarthatósági, biztonságossági (safety), etikai és jogszabályi vonatkozásaikra is.
Mészáros Tamás
Mészáros Tamás

docens

tárgyfelelős

A tárgy oktatói

Hullám Gábor
Hullám Gábor

tanszékvezető helyettes, docens

Potyók Csaba
Potyók Csaba

doktorandusz

A tantárgy részletes tematikája

Előadások tematikája:

Bevezetés: az intelligens ágens (intelligent agent) fogalma, tulajdonságai és a mesterséges intelligencia (MI) klasszikus ágensmodelleinek áttekintése.

MI ágensek a gyakorlatban: a klasszikus és modern MI ágensek gyakorlati alkalmazásai (esettanulmányok) és azok implementációs kihívásai.

Nagy nyelvi modellek alapjai: a kis és nagy nyelvi modellek (Small and Large Language Models, SLM, LLM) alapműködése, programozott modellhasználat, problémamegoldó képességeik és korlátaik.

Nagy nyelvi modellek a gyakorlatban: prompttervezés és kontextus-összeállítás, elterjedt SLM és LLM modellek és használati eszközeik, értékelési módszerek, alkalmazási esettanulmányok.

LLM ágensek: MI ágensek nagy nyelvi modellekre épülő megvalósítása, működésük részletes bemutatása (környezetészlelés, instrukciókövetés, kommunikáció és akcióvégrehajtás), egyszerű megvalósításuk online szolgáltatásokkal (pl. OpenAI AgentKit, Google Vertex AI Agent Builder).

Ágensek eszközhasználata: külső eszközt igénylő megfigyelések és beavatkozások az ágensek környezetében, eszközleírások készítése, eszközválasztás és -futtatás, a Model Context Protocol (MCP) bemutatása.

MCP eszközök fejlesztése: az eszközfejlesztés lépései, tipikus megvalósítási környezetek, MCP eszközök bemutatása (esettanulmányok), MCP gyűjtemények, az ágensek önálló eszközfejlesztése (kódgenerálás).

Megfigyelhetőség és magyarázhatóság: az ágensek megfigyelhetősége, nyomkövetési és telemetria lehetőségek (pl. OpenAI SDK és Arize Phoenix), működésük magyarázhatóságának (explainable AI) kihívásai és lehetséges megoldások.

Teljesítmény és fenntarthatóság: ágensek teljesítménymérése, az objektív kiértékelhetőség kérdése, jellemző metrikák és benchmarkok, MI ágensek költségelemzése és fenntarthatósági jellemzőik, esettanulmányok SLM és LLM modellek felhasználásával.

Biztonságosság (safety) és bizalom (trust): a mesterséges intelligencia szabályozásának (pl. EU AI Act) és megfelelőségi tesztelésének áttekintése, értékelvűség (human-alignment), MI ágensekre jellemző egyedi problémák (megtévesztés, kihasználás, elrejtés stb.), működési védőkorlátok (guardrails) típusai és megvalósításuk.

Ágensek fizikai környezetben: a fizikai környezetek jelentette kihívások, ágensek valósidejű működése, lokális futtatókörnyezetek, ágensek edgeAI és IoT környezetben, esettanulmányok.

Multiágens rendszerek (multiagent systems, MAS): kooperatív és kompetitív ágensrendszerek megvalósítása, topológiák, szervezeti modellek, ágensek közötti kommunikáció, MAS rendszerek emergens viselkedése, tanulás és adaptivitás elosztott multiágens rendszerekben.

LLM ágensek multiágens környezetben: a nagy nyelvi modellekre épülő ágensek kommunikációs és együttműködési protokolljai (pl. OSF/Google Agent2Agent, A2A), képességfelderítés, feladatmenedzsment, biztonságossági és interoperabilitási kérdések.

Multiágens rendszerek a gyakorlatban: esettanulmányok multiágens rendszerek gyakorlati alkalmazásaiból (pl. üzleti folyamatok ágensalapú megvalósítása, információkereső ágensek stb.).

 

Gyakorlatok tematikája:

Klasszikus ágensrendszerek: ismerkedés a mesterséges intelligencia klasszikus ágensfejlesztő eszközeivel, azok képességeivel és korlátaival.

Nagy nyelvi modellek: LLM rendszerek programozott használata (pl. OpenAI API és SDK), a prompttervezés alapjai, egyszerű LLM-alkalmazás fejlesztése.

Lokális nyelvi modellek: a helyi modellfuttatás célja és működése, futtatókörnyezetek és erőforrások, néhány jellemző megvalósítási eszköz gyakorlati kipróbálása egyszerű feladatokon.

OpenAI AgentKit és Agents SDK: az ágensfejlesztési eszközcsalád és programozási környezet megismerése gyakorlati példákon keresztül, egyszerű ágensek készítése.

LLM ágens esettanulmányok: egyéni házifeladat-ötletek kidolgozását segítő esettanulmányok, a területhez kapcsolódó kutatási és fejlesztési projektjeink bemutatása.

Az ágensek eszközhasználata: egyszerű MCP-eszközök fejlesztése, MCP szerver felépítése (SDK) és megvalósítása.

Házi feladatok alapvető gyakorlati kérdései: erőforrások, futtatókörnyezet, MCP eszközök.

Ágensek működésének megfigyelése: nyomkövető és telemetria eszközök (pl. OpenAI SDK és Arize Phoenix) kipróbálása a korábbiakban megvalósított egyszerű ágensrendszerben.

Teljesítmény- és költségmérés: LLM-ágensek teljesítményének és erőforrás-használatának mérése eszközhasználattal és anélkül különféle gyakorlati benchmarkok felhasználásával.

Házi feladatok értékelési és erőforráskérdései: esettanulmányok az ágensek teljesítményének és erőforrás-használatának mérésére.

Biztonságossági vizsgálatok: emergens és nem kívánt viselkedések vizsgálata, kísérletek LLM-ágensek viselkedési anomáliáival, egyszerű védőkorlátok beépítése.

Klasszikus multiágens rendszerek: egyszerű multiágens rendszer kipróbálása, együttműködő ágensrendszer kiépítése és a feladatmegoldás monitorozása.

LLM ágensek összekapcsolása: egyszerű multiágens rendszer létrehozása LLM ágensekkel, feladatmegosztás és kooperáció kialakítása, implementációs eszközök.

Házi feladatok bemutatói: Érdekesebb házi feladatok bemutatói és közös diszkussziója.