Višezadatno učenje

Višezadatno učenje (engl. ) je potpolje machine learning u kome se istovremeno rešava više zadataka za učenje, uz iskorišćavanje zajedničkih svojstava i razlika između zadataka. Ovo može dovesti do poboljšane efikasnosti učenja i tačnosti predviđanja za modele specifične za zadatak, u poređenju sa odvojenom obukom modela.^[1][2][3] U suštini, učenje sa više zadataka je problem optimizacije sa više ciljeva koji ima kompromise između različitih zadataka.^[4] Rane verzije MTL-a su se zvale „nagoveštaji“.^[5][6]

U široko citiranom radu iz 1997, Rič Karuana je dao sledeću karakterizaciju:

Višezadatno učenje je pristup induktivnom prenosu koji poboljšava generalizaciju korišćenjem informacija o domenu sadržanih u signalima obuke povezanih zadataka kao induktivnom pristrasnošću. To radi tako što paralelno uči zadatke dok koristi zajedničku reprezentaciju; ono što se nauči za svaki zadatak može pomoći da se drugi zadaci bolje nauče.^[3]

U kontekstu klasifikacije, MTL ima za cilj da poboljša performanse višestrukih klasifikacionih zadataka učeći ih zajedno. Jedan primer je filter za neželjenu poštu, koji se može tretirati kao različiti, ali povezani zadaci klasifikacije među različitim korisnicima. Da bi ovo bilo konkretnije, uzmite u obzir da različiti ljudi imaju različite distribucije funkcija koje razlikuju neželjene e-poruke od legitimnih, na primer, govornik engleskog može otkriti da su svi mejlovi na ruskom spam, a ne za one koji govore ruski. Ipak, postoji određena sličnost u ovom zadatku klasifikacije među korisnicima, na primer, jedna zajednička karakteristika može biti tekst koji se odnosi na transfer novca. Zajedničko rešavanje problema klasifikacije neželjene pošte svakog korisnika putem MTL-a može omogućiti rešenjima da se međusobno informišu i poboljšaju performanse. Dalji primeri podešavanja za MTL uključuju višeklasnu klasifikaciju i klasifikaciju sa više oznaka.^[7]

Učenje sa više zadataka funkcioniše zato što regularizacija izazvana zahtevom da algoritam dobro obavlja srodni zadatak može biti superiornija od regularizacije koja sprečava prekomerno prilagođavanje tako što će svu složenost kažnjavati ujednačeno. Jedna situacija u kojoj MTL može biti od posebnog značaja je ako zadaci imaju značajne zajedničke karakteristike i generalno su malo manje uzorkovani.^[8] Međutim, kao što je objašnjeno u nastavku, MTL se takođe pokazao korisnim za učenje nepovezanih zadataka.^[8][9]