Fillimi me Regresionin Logjistik
- Algoritmet e regresionit logjistik shumënomial nëpërmjet gradientit kuadratik(arXiv)
Autor: John Chiang
Abstrakt:Regresioni logjistik multinomial, i njohur edhe me emra të tjerë si regresioni logjistik me shumë klasa dhe regresioni softmax, është një metodë themelore klasifikimi që përgjithëson regresionin logjistik binar në problemet me shumë klasa. Një punë e kohëve të fundit propozoi një gradient më të shpejtë të quajtur gradient kuadratik që mund të përshpejtojë trajnimin e regresionit logjistik binar dhe paraqiti një metodë të përmirësuar të gradientit të përshpejtuar (NAG) të Nesterov për regresionin binar logjistik. Në këtë punim, ne e zgjerojmë këtë punë në regresionin logjistik me shumë klasa dhe propozojmë një Algoritëm të Gradientit Adaptive të zgjeruar (Adagrad) që mund të përshpejtojë metodën origjinale të Adagradit. Ne testojmë metodën e përmirësuar NAG dhe metodën e përmirësuar Adagrad në disa grupe të dhënash me probleme me shumë klasa. Rezultatet eksperimentale tregojnë se të dyja metodat e përmirësuara konvergojnë më shpejt se ato origjinale përkatësisht
2.Madhësia minimale e kampionit për zhvillimin e një modeli parashikimi me shumë variabla duke përdorur regresionin logjistik shumënomial(arXiv)
Autor:"Alexander Pate", "Richard D Riley", "Gary S Collins", "Maarten van Smeden", "Ben Van Calster", "Joie Ensor", "Glen P Martin"
Abstrakt :Modelet e regresionit logjistik shumënomial lejojnë që dikush të parashikojë rrezikun e një rezultati kategorik me më shumë se 2 kategori. Kur zhvillojnë një model të tillë, studiuesit duhet të sigurojnë që numri i pjesëmarrësve (n) të jetë i përshtatshëm në lidhje me numrin e ngjarjeve (E.k) dhe numrin e parametrave parashikues (p.k) për secilën kategori k. Ne propozojmë tre kritere për të përcaktuar minimumin n të kërkuar në dritën e kritereve ekzistuese të zhvilluara për rezultatet binare. Kriteri i parë synon të minimizojë mbipërshtatjen e modelit. E dyta synon të minimizojë diferencën midis R2 Nagelkerke të vëzhguar dhe të rregulluar. Kriteri i tretë synon të sigurojë që rreziku i përgjithshëm të vlerësohet saktësisht. Për kriterin (i), ne tregojmë se madhësia e kampionit duhet të bazohet në Cox-snell R2 të parashikuar të modeleve të dallueshme të regresionit logjistik një-për-një që korrespondojnë me nën-modelet e regresionit logjistik shumënomial, në vend që të bazohet në Cox-snell të përgjithshëm. snell R2 të regresionit logjistik shumënomial. Ne testuam performancën e kritereve të propozuara (i) përmes një studimi simulues dhe zbuluam se rezultoi në nivelin e dëshiruar të mbipërshtatjes. Kriteri (ii) dhe (iii) janë zgjerime natyrore nga kriteret e propozuara më parë për rezultatet binare. Ne ilustrojmë se si të zbatojmë kriteret e madhësisë së kampionit përmes një shembulli të punuar duke marrë parasysh zhvillimin e një modeli të parashikimit të rrezikut multinomial për llojin e tumorit kur paraqitet me një masë ovariane. Kodi është dhënë për shembullin simulues dhe të punuar. Ne do të vendosim kriteret tona të propozuara brenda moduleve të bibliotekës pmsampsize R dhe Stata.
3. Regresioni logjistik i bazuar në korentropi me përcaktim automatik të rëndësisë për dekodim të fuqishëm të aktivitetit të rrallë të trurit(arXiv)
Autor:Yuanhao Li, Badong Chen, Yuxi Shi, Natsue Yoshimura, Yasuharu Koike
Abstrakt:Studimet e fundit kanë përdorur klasifikime të rralla për të parashikuar variabla kategorike nga sinjalet e aktivitetit të trurit me dimensione të larta për të ekspozuar qëllimet dhe gjendjet mendore të njeriut, duke zgjedhur automatikisht veçoritë përkatëse në procesin e trajnimit të modelit. Megjithatë, modelet ekzistuese të klasifikimit të rrallë do të jenë të prirur ndaj degradimit të performancës që shkaktohet nga zhurma e natyrshme në regjistrimet e trurit. Për të adresuar këtë çështje, ne synojmë të propozojmë një algoritëm të ri klasifikimi të fortë dhe të rrallë në këtë studim. Për këtë qëllim, ne prezantojmë kornizën e të mësuarit të korrentropisë në modelin e klasifikimit të rrallë të bazuar në përcaktimin automatik të rëndësisë, duke propozuar një algoritëm të ri të regresionit logjistik të rrallë të bazuar në korrentropi. Për të demonstruar performancën superiore të deshifrimit të aktivitetit të trurit të algoritmit të propozuar, ne e vlerësojmë atë në një grup të dhënash sintetike, një grup të dhënash elektroencefalograme (EEG) dhe një grup të dhënash funksionale të imazhit të rezonancës magnetike (fMRI). Rezultatet e gjera eksperimentale konfirmojnë se jo vetëm metoda e propozuar mund të arrijë saktësi më të lartë klasifikimi në një detyrë klasifikimi të zhurmshme dhe me dimensione të larta, por gjithashtu do të zgjidhte ato veçori më informuese për skenarët e dekodimit. Integrimi i qasjes së të mësuarit të korrenttropisë me teknikën automatike të përcaktimit të rëndësisë do të përmirësojë ndjeshëm qëndrueshmërinë në lidhje me zhurmën, duke çuar në një algoritëm më të fuqishëm të deshifrimit të trurit të rrallë. Ai siguron një qasje më të fuqishme në dekodimin e aktivitetit të trurit në botën reale dhe ndërfaqet tru-kompjuter.
