- Lasso i shkurtuar: Garancitë e rralla të rikuperimit dhe optimizimi praktik nga penalltia e përgjithësuar Soft-Min (arXiv)
Autori: "Tal Amir", "Ronen Basri", "Boaz Nadler"
Abstrakt: Ne paraqesim një qasje të re për të zgjidhur problemin e përafrimit të rrallë ose të përzgjedhjes më të mirë të nëngrupit, domethënë të gjejmë një vektor k-sparse x∈Rd që minimizon ℓ2 mbetjen ∥Ax−y∥2. Ne konsiderojmë një qasje të rregulluar, ku kjo mbetje penalizohet nga lasoja e shkurtuar jo-konveks, e përcaktuar si norma ℓ1 e x duke përjashtuar hyrjet e saj k me magnitudë më të madhe. Ne vërtetojmë se lasoja e prerë ka disa veti teorike tërheqëse, dhe në veçanti nxjerrin garanci të pakta rikuperimi duke supozuar optimizimin e suksesshëm të objektivit të penalizuar. Më pas, ne tregojmë në mënyrë empirike se optimizimi i drejtpërdrejtë i këtij objektivi mund të jetë mjaft sfidues. Në vend të kësaj, ne propozojmë një zëvendësues për laso të shkurtuar, të quajtur soft-min e përgjithësuar. Ky penallti ndërthuret pa probleme midis lasos klasike dhe lasos të shkurtuar, duke marrë parasysh të gjitha modelet e mundshme k-sparse. Dënimi i përgjithësuar soft-min përfshin përmbledhjen mbi termat (dk), megjithatë ne nxjerrim një algoritëm të kohës polinom për ta llogaritur atë. Kjo, nga ana tjetër, jep një metodë praktike për problemin origjinal të përafrimit të rrallë. Nëpërmjet simulimeve, ne demonstrojmë performancën e tij konkurruese në krahasim me gjendjen aktuale të artit
2. Identifikimi i saktë i sistemeve dinamike jolineare nga Trimmed Lasso (arXiv)
Autori: Shawn L. Kiser, Mikhail Guskov, Marc Rébillat, Nicolas Ranc
Abstrakt: Identifikimi i sistemeve dinamike jolineare është popullarizuar nga identifikimi i rrallë i dinamikës jolineare (SINDy) nëpërmjet algoritmit të katrorëve më të vegjël të pragjeve (STLS). Shumë zgjerime SINDy janë shfaqur në literaturë për t'u marrë me të dhëna eksperimentale të cilat janë me gjatësi të kufizuar dhe të zhurmshme. Kohët e fundit, metoda intensive llogaritëse e bashkimit të modeleve SINDy me bootstrapped (E-SINDy) u propozua për identifikimin e modelit, për trajtimin e të dhënave të fundme, shumë të zhurmshme. Ndërsa zgjerimet e SINDy janë të shumta, vlerësuesit e tyre që nxisin rrallimin ofrojnë herë pas here përafrime të rralla të dinamikës në krahasim me rikuperimin e saktë. Për më tepër, këta vlerësues vuajnë nga shumëkolineariteti, p.sh. kushti i papërfaqësueshëm për Lasso. Në këtë punim, ne demonstrojmë se Lasso i shkurtuar për identifikim të fortë të modeleve (TRIM) mund të sigurojë rikuperim të saktë nën zhurmë më të rëndë, të dhëna të fundme dhe shumëkolinearitet në krahasim me E-SINDy. Për më tepër, kostoja llogaritëse e TRIM është asimptotikisht e barabartë me STLS pasi parametri i rrallë i TRIM mund të zgjidhet në mënyrë efikase nga zgjidhës konveks. Ne i krahasojmë këto metodologji për sistemet jolineare sfiduese, veçanërisht sistemin Lorenz 63, oshilatorin Bouc Wen nga standardi i dinamikës jolineare të Noël dhe Schoukens, 2016, dhe një sistem me vonesë kohore që përshkruan dinamikën e prerjes së veglave. Ky studim thekson krahasimet midis STLS, minimizimit të ripeshuar ℓ1 dhe Lasso të shkurtuar në identifikimin në lidhje me problemet me të cilat përballen praktikuesit: problemi i të dhënave të fundme dhe të zhurmshme, performanca e regresionit të rrallë kur biblioteka rritet në dimension (multikolineariteti), dhe metodat automatike për zgjedhjen e parametrave të rregullimit
