A kvantáláselmélet továbbfejl.

A kvantálás elméletének továbbfejlesztése, kerekítési hibák modellezése
Típus: 
OTKA
Kezdés éve: 
2000
Befejezés éve: 
2003
Partnerek: 
Stanford University, EUPAS

Tanszéki projektvezető

A munkatárs fényképe
egyetemi tanár
Szoba: IE440

Tanszéki résztvevők

A munkatárs fényképe
egyetemi tanár
Szoba: IE440

Elérhetőségek

Koordinátor: 
BME MIT
Felelős: 
Kollár István

Bemutatás

A kerekítés (általánosabban a kvantálás) minden digitális eszközben fellépő jelenség: az egyes értékeket mindig véges bitszámon ábrázoljuk, tehát általában kerekítenünk kell. A kvantálás statisztikai elmélete azon alapszik, hogy a kvantálási (kerekítési) hibát additív fehér zajnak tekintjük, és a számítási/mérési eredményeket ilyen hibamodell alapján vizsgáljuk. A jó közelítés feltételeit a közelmúltban egy akadémiai doktori értekezésben, és egy amerikai-magyar kooperációban készülő könyv elkészült részeiben analizáltuk [1-2]. Ezekben a korábbi elméletet a lebegőpontos számábrázolásra vonatkozó új modellel egészítettük ki. Az eddigi vizsgálatok új kutatási területeket nyitottak meg. Ilyenek a következők: a lebegőpontos számábrázolás kerekítési hibáinak további analízise, speciális dither-jelek (a kvantálási hibát csökkentő segédjelek) alkalmazásának vizsgálata, determinisztikus dither-jelek generálása, alkalmazása, előnyeinek-hátrányainak vizsgálata, analóg-digitál átalakítók tesztelési eljárásainak vizsgálata a kvantálás-elmélet alapján, új hirlátok meghatározása, IEEE dupla pontosságú számítógépek kerekítési hibáinak jellemzése, és csökkentési módjainak kidolgozása, a fentiekhez hatékony szimulációs módszerek kutatása és kifejlesztése. Az ettől a kutatástól várt eredmények jelentősége a következő. A jelenségek jobb megértésével a hamis tudományos következtetések esélyét csökkentjük. Ezeket az ismereteket könyvben fogjuk publikálni. Az elterjedt lebegőpontos számítógépekre vizsgálati módszereket és javítási eljárásokat dolgozunk ki. Célunk az, hogy lehetőleg a meglévő hardver-t felhasználva megfelelő eljárásokkal csökkentsük a hibát. [1] Kollár I., Quantization Noise. Doctoral Thesis at the Hungarian Academy of Sciences, Budapest, 1996. 416 p. [2] B. Widrow and I. Kollár, Quantization Noise. Englewood Cliffs, Prentice-Hall. In preparation.

© 2010-2018 BME MIT | Hibajelentés | Használati útmutató