Feladat javaslatok a Neurális hálózatok fakultatív tárgyhoz

A feladatokra jelentkezés személyesen (e-mailben: horvath@mit.bme.hu) 2009. okt. 10.-ig.

Általános információ  

A feladatok inkább feladatcsoportok, tehát egy feladatra többen is jelentkezhetnek. A felsoroltakon kívül más feladatok  is megoldhatók. Lehet hozni saját érdekes problémákat is, de ezeknél előzetes személyes egyeztetés szükséges.

Feladatcsoportok

  1.) Osztályozási problémák (pl.paritás, kettős spirál, stb.) vizsgálata

  MLP hálóval

  - rejtett réteg méretének a hatása

  - tanulási együttható, illetve momentum tag hatása

  - súlyok kezdeti inicializálásának hatása

RBF-fel

CMAC-val

összehasonlítás

  2.) Egyszerű mintafelismerési feladatok vizsgálata backpropagation hálóval

       - rögzített elrendezésű és fix méretű karakterek felismerése, tanítás után a képek felismerése zaj hozzákeverése mellett

       - milyen változást jelent, ha már a tanítás során is keverünk zajt a képekhez

       - a rejtett réteg méretének optimalizálása

  3.) Bonyolultabb felismerési feladatok megoldása:

  - különböző képfelismerési feladatok pl. kézzel írott karakterek felismerése,  ujjlenyomat felismerés

  - hangfelismerés

  -      ...

  4.) Zajszűrés

     A feladat hasonló az előző pontban leírtakkal, de itt a kimeneten ne egy kódot próbáljunk
     előállítani, hanem a bemeneti képpel azonos méretű tiszta képet.

  5.) N királynő (vagy egyéb kombinatoriuks optimalizációs probléma) megoldása Hopfield hálóval

      - vizsgálat N különböző értékeire

      - összehasonlítás más, nem neurális megoldásokkal

  6.) Zajszűrés

     A feladat azonos a 4. pontbelivel, de itt zajszűrésre használjunk Hopfield hálót.  

     Más neurális hálókkal történő zajszűrés

  7.) Kohonen háló vizsgálata és alkalmazása osztályozásra  

  8.) Képtömörítés vizsgálata különböző önszervező algoritmusokkal

      - pl. Sanger algoritmus, Oja algoritmus, APEX háló, Nemlineáris tömörítés  

  9.) A Kohonen háló működését illusztráló "Kohonen mozi" elkészítése

10.) Függvény approximáció, nemlineáris leképezés közelítése MLP, RBF vagy CMAC hálóval.
         pl.      - szinusz függvény

                    - nemlineáris, de monoton, folytonos függvény

                    - "csúnya" függvény

11.) Tanulási eljárások módosításai, azok elemzése

         - extrem learning machine

         - lazy learning

         - konjugált gradiens módszer

         - RLS algoritmus

         - Levenberg-Marquardt eljárás

         - stb.

12.) Genetikus algoritmus alkalmazása NN tanítására

        - MLP tanítása egyszerű feladat pl. XOR probléma megoldására

 a genetikus algoritmus operátorainak vizsgálata (keresztezés, mutáció, szelekció paramétereinek hatása)

        - kombinált genetikus/gradiens eljárás alkalmazása MLP tanítására

13.) Dinamikus hálók (rekurzív BP, RTRL, BPTT, stb.) alkalmazása.

        - idősor előrejelzés (pl. napfolt tevékenység előrejelzése)

        - kaotikus folyamatok rövid távú előrejelzése

14.) Dinamikus rendszerek identifikációja (bonyolultabb, két-emberes feladatok)

        - fordított inga egyensúlyozása,

        - autó mozgatás (tolatás adott pozíció eléréséig)

        - hátrafelé parkolás járda mellé két autó közé

        - mozgás labirintusban

        - különböző hálózatok képességeinek összehasonlítása  

15.) Adattömörítő hálók vizsgálata, főkomponens analízis (PCA) és gyakorlati alkalmazása

        - PCA hálók, kernel PCA vizsgálata és alkalmazása 

16.) Független komponens analízis (ICA) és gyakorlati alkalmazása:

        - összetett jelek pl. beszédjelek, illetve képek szétválasztása kom­po­­nen­seikre

17.) Elméleti jellegű feladatok

         - elméleti érdeklődésű hallgatók részére: különböző hálók modellező képességének meghatározása, illetve más matematikai  módszerek alkalmazását igénylő feladatok

         - komplexitás csökkentő eljárások: OLS, RRKRR, RREF-alapú eljárások (bázisfüggvényes hálóknál illetve SVM-nél)

18.) Újabb tanuló eljárások vizsgálata: 

         - szupport vektor gépek (SVM), kernel módszerek 

         - a kernel függvények megválasztásának vizsgálata

         - tanító eljárás implementálása, vizsgálata és alkalmazása.

19.) Moduláris hálózatok vizsgálata

        - MOE architektúra azonos, illetve különböző típusú szakértőkkel

        - boosting eljárások vizsgálata és alkalmazása 

        - … 

További feladatokhoz találhatók ötletek, illetve különféle neurális megoldások tesztelésére adatbázisok az alábbi web címeken:

 http://www.cs.cmu.edu/afs/cs.cmu.edu/project/ai-repository/ai/html/other/repositories.html

 http://lib.stat.cmu.edu/datasets/

 ftp://ftp.ics.uci.edu/pub/machine-learning-databases/

 http://archive.ics.uci.edu/ml/