01·Regresja logistyczna — fundament klasyfikacji

Wprowadzenie

Regresja logistyczna to liniowy klasyfikator probabilistyczny: kombinacja liniowa cech jest przepuszczana przez funkcję sigmoid (lub softmax dla wieloklasowej wersji), produkując prawdopodobieństwo klasy. Ta lekcja rozkłada na czynniki pierwsze: log-odds (logit), funkcję straty cross-entropy, optymalizację gradientową, regularyzację L1/L2, a także interpretację współczynników jako wpływu na log-odds. Mimo nazwy "regresja", to klasyfikator — i wciąż jeden z najczęściej używanych baseline'ów w przemyśle (Hosmer & Lemeshow 2013, scikit-learn LogisticRegression).