Evolucijska gradnja odločitvenih dreves

V petnajstih letih raziskovalnega dela smo člani Inštituta za informatiko definirali, razvili in podrobno ovrednotili postopek gradnje odločitvenih dreves z evolucijskimi algoritmi, ki smo ga aplicirali na različne realne probleme s področja medicine, programskega inženirstva in telekomunikacij. Odločitvena drevesa so eden izmed najbolj razširjenih in pogosto uporabljanih postopkov strojnega učenja, ki omogočajo enostavno in transparentno klasifikacijo, z možnostjo validacije zgrajenih modelov znanja. Tradicionalni, požrešni postopek indukcije dreves po načelu od zgoraj navzdol smo v razvitem izvirnem pristopu nadomestili z evolucijskimi algoritmi, s čimer smo na mnogih realnih primerih izboljšali učinkovitost napovedovanja, hkrati zmanjšali kompleksnost zgrajenih modelov znanja in dosegli bistveno boljšo uravnoteženost klasifikacije. Z vpeljavo ekspertnega znanja v iterativen proces gradnje rešitev smo zasnovali inovativen algoritem, ki preišče večji iskalni prostor potencialnih rešitev od klasičnih pristopov, kar je pripeljalo še do odkritja potencialno novega znanja v domeni kardiovaskularnih težav mlajše populacije. Pomembnejši izvirni znanstveni prispevki zajemajo še samo-prilagodljiv proces gradnje, več-nivojsko hierarhično razgradnjo učne množice, vektorsko klasifikacijo, avtonomen evolucijski proces, pametni operator križanja, selekcijo na osnovi podobnosti in več-populacijsko gradnjo dreves.

Objavljeno v:

Vili Podgorelec, Matej Šprogar, Sandi Pohorec, Evolutionary design of decision trees, WIREs Data Mining and Knowledge Discovery, Elsevier, 3(2), pp. 63-82, 2013

Comments are closed