MI ágensek és multiágens rendszerek fejlesztése
VIMIBXAV030-00 | Szabadon választható | Kredit: 4
A tantárgy célkitűzése
Mészáros Tamás
docens
tárgyfelelős
A tárgy oktatói
Alekszejenkó Levente
tanársegéd
Hullám Gábor
tanszékvezető helyettes, docens
Mészáros Tamás
docens
Potyók Csaba
doktorandusz
A tantárgy részletes tematikája
Előadások tematikája:
Bevezetés: az intelligens ágens (intelligent agent) fogalma, tulajdonságai és a mesterséges intelligencia (MI) klasszikus ágensmodelleinek áttekintése.
MI ágensek a gyakorlatban: a klasszikus és modern MI ágensek gyakorlati alkalmazásai (esettanulmányok) és azok implementációs kihívásai.
Nagy nyelvi modellek alapjai: a kis és nagy nyelvi modellek (Small and Large Language Models, SLM, LLM) alapműködése, programozott modellhasználat, problémamegoldó képességeik és korlátaik.
Nagy nyelvi modellek a gyakorlatban: prompttervezés és kontextus-összeállítás, elterjedt SLM és LLM modellek és használati eszközeik, értékelési módszerek, alkalmazási esettanulmányok.
LLM ágensek: MI ágensek nagy nyelvi modellekre épülő megvalósítása, működésük részletes bemutatása (környezetészlelés, instrukciókövetés, kommunikáció és akcióvégrehajtás), egyszerű megvalósításuk online szolgáltatásokkal (pl. OpenAI AgentKit, Google Vertex AI Agent Builder).
Ágensek eszközhasználata: külső eszközt igénylő megfigyelések és beavatkozások az ágensek környezetében, eszközleírások készítése, eszközválasztás és -futtatás, a Model Context Protocol (MCP) bemutatása.
MCP eszközök fejlesztése: az eszközfejlesztés lépései, tipikus megvalósítási környezetek, MCP eszközök bemutatása (esettanulmányok), MCP gyűjtemények, az ágensek önálló eszközfejlesztése (kódgenerálás).
Megfigyelhetőség és magyarázhatóság: az ágensek megfigyelhetősége, nyomkövetési és telemetria lehetőségek (pl. OpenAI SDK és Arize Phoenix), működésük magyarázhatóságának (explainable AI) kihívásai és lehetséges megoldások.
Teljesítmény és fenntarthatóság: ágensek teljesítménymérése, az objektív kiértékelhetőség kérdése, jellemző metrikák és benchmarkok, MI ágensek költségelemzése és fenntarthatósági jellemzőik, esettanulmányok SLM és LLM modellek felhasználásával.
Biztonságosság (safety) és bizalom (trust): a mesterséges intelligencia szabályozásának (pl. EU AI Act) és megfelelőségi tesztelésének áttekintése, értékelvűség (human-alignment), MI ágensekre jellemző egyedi problémák (megtévesztés, kihasználás, elrejtés stb.), működési védőkorlátok (guardrails) típusai és megvalósításuk.
Ágensek fizikai környezetben: a fizikai környezetek jelentette kihívások, ágensek valósidejű működése, lokális futtatókörnyezetek, ágensek edgeAI és IoT környezetben, esettanulmányok.
Multiágens rendszerek (multiagent systems, MAS): kooperatív és kompetitív ágensrendszerek megvalósítása, topológiák, szervezeti modellek, ágensek közötti kommunikáció, MAS rendszerek emergens viselkedése, tanulás és adaptivitás elosztott multiágens rendszerekben.
LLM ágensek multiágens környezetben: a nagy nyelvi modellekre épülő ágensek kommunikációs és együttműködési protokolljai (pl. OSF/Google Agent2Agent, A2A), képességfelderítés, feladatmenedzsment, biztonságossági és interoperabilitási kérdések.
Multiágens rendszerek a gyakorlatban: esettanulmányok multiágens rendszerek gyakorlati alkalmazásaiból (pl. üzleti folyamatok ágensalapú megvalósítása, információkereső ágensek stb.).
Gyakorlatok tematikája:
Klasszikus ágensrendszerek: ismerkedés a mesterséges intelligencia klasszikus ágensfejlesztő eszközeivel, azok képességeivel és korlátaival.
Nagy nyelvi modellek: LLM rendszerek programozott használata (pl. OpenAI API és SDK), a prompttervezés alapjai, egyszerű LLM-alkalmazás fejlesztése.
Lokális nyelvi modellek: a helyi modellfuttatás célja és működése, futtatókörnyezetek és erőforrások, néhány jellemző megvalósítási eszköz gyakorlati kipróbálása egyszerű feladatokon.
OpenAI AgentKit és Agents SDK: az ágensfejlesztési eszközcsalád és programozási környezet megismerése gyakorlati példákon keresztül, egyszerű ágensek készítése.
LLM ágens esettanulmányok: egyéni házifeladat-ötletek kidolgozását segítő esettanulmányok, a területhez kapcsolódó kutatási és fejlesztési projektjeink bemutatása.
Az ágensek eszközhasználata: egyszerű MCP-eszközök fejlesztése, MCP szerver felépítése (SDK) és megvalósítása.
Házi feladatok alapvető gyakorlati kérdései: erőforrások, futtatókörnyezet, MCP eszközök.
Ágensek működésének megfigyelése: nyomkövető és telemetria eszközök (pl. OpenAI SDK és Arize Phoenix) kipróbálása a korábbiakban megvalósított egyszerű ágensrendszerben.
Teljesítmény- és költségmérés: LLM-ágensek teljesítményének és erőforrás-használatának mérése eszközhasználattal és anélkül különféle gyakorlati benchmarkok felhasználásával.
Házi feladatok értékelési és erőforráskérdései: esettanulmányok az ágensek teljesítményének és erőforrás-használatának mérésére.
Biztonságossági vizsgálatok: emergens és nem kívánt viselkedések vizsgálata, kísérletek LLM-ágensek viselkedési anomáliáival, egyszerű védőkorlátok beépítése.
Klasszikus multiágens rendszerek: egyszerű multiágens rendszer kipróbálása, együttműködő ágensrendszer kiépítése és a feladatmegoldás monitorozása.
LLM ágensek összekapcsolása: egyszerű multiágens rendszer létrehozása LLM ágensekkel, feladatmegosztás és kooperáció kialakítása, implementációs eszközök.
Házi feladatok bemutatói: Érdekesebb házi feladatok bemutatói és közös diszkussziója.
BME-MIT