Nauč se Python > Kurzy > Datový kurz PyLadies > Strojové učení - Scikit-learn, ML workflow > Implementace úlohy z domácího úkolu

Implementace domácího úkolu - rybí regrese #

In [1]:
import pandas as pd
import numpy as np

np.random.seed(42)
In [2]:
import warnings
from sklearn.exceptions import ConvergenceWarning
warnings.filterwarnings("ignore", category=ConvergenceWarning)
  • Načtěte si data pomocí pandas, vyberte požadované sloupce, které budete používat.
In [3]:
fish_data = pd.read_csv("fish_data.csv", index_col=0)
fish_data = fish_data.drop(columns=["ID"])
fish_data
Out[3]:
Species Weight Length1 Length2 Length3 Height Width
0 Bream 242.0 23.2 25.4 30.0 11.5200 4.0200
1 Bream 290.0 24.0 26.3 31.2 12.4800 4.3056
2 Bream 340.0 23.9 26.5 31.1 12.3778 4.6961
3 Bream 363.0 26.3 29.0 33.5 12.7300 4.4555
4 Bream 430.0 26.5 29.0 34.0 12.4440 5.1340
... ... ... ... ... ... ... ...
153 Smelt 9.8 11.4 12.0 13.2 2.2044 1.1484
154 Smelt 12.2 11.5 12.2 13.4 2.0904 1.3936
155 Smelt 13.4 11.7 12.4 13.5 2.4300 1.2690
156 Smelt 12.2 12.1 13.0 13.8 2.2770 1.2558
158 Smelt 19.9 13.8 15.0 16.2 2.9322 1.8792

123 rows × 7 columns

  • Zvol si sloupec, který budeš používat jako odezvu (Weight). Do proměnné X ulož sloupce, které budeš používat jako příznaky, do proměnné y sloupec s odezvou.

V teorii strojového učení se vstupy modelu (příznaky, vstupní proměnné) typicky označují písmenem X a výstupy písmenem y. Takto se často označují i proměnné v kódu. X představuje matici (neboli tabulku), kde každý řádek odpovídá jednomu datovému vzorku a každý sloupec jednomu příznaku (vstupní proměnné). y je vektor, neboli jeden sloupec s odezvou.

In [4]:
y = fish_data["Weight"]
X = fish_data.drop(columns=["Weight"])
  • Rozděl data na trénovací a testovací. Všimni si, že máme v datech různé druhy ryb, na co si dát pozor?

Metoda train_test_split nám data rozdělí náhodně na trénovací a testovací sadu. Velikost testovací množiny můžeme specifikovat parametrem test_size, jeho přednastavená (default) hodnota je 0.25, t. j. 25%.

In [5]:
from sklearn.model_selection import train_test_split 

X_train_raw, X_test_raw, y_train, y_test = train_test_split(X, y)
X_train_raw, X_test_raw, y_train, y_test = train_test_split(X, y, test_size=0.3, stratify=X["Species"])
  • Překóduj potřebné sloupce pomocí OneHotEncoding.
In [6]:
from sklearn.preprocessing import OneHotEncoder
from sklearn.compose import make_column_transformer

categorical_columns = ["Species"] 

transformer = make_column_transformer(
    (OneHotEncoder(sparse_output=False), ["Species"]),
    remainder="passthrough"
)

X_train_onehot = transformer.fit_transform(X_train_raw)
X_test_onehot = transformer.transform(X_test_raw)

pd.DataFrame(X_train_onehot, columns=transformer.get_feature_names_out())
Out[6]:
onehotencoder__Species_Bream onehotencoder__Species_Parkki onehotencoder__Species_Perch onehotencoder__Species_Pike onehotencoder__Species_Roach onehotencoder__Species_Smelt onehotencoder__Species_Whitefish remainder__Length1 remainder__Length2 remainder__Length3 remainder__Height remainder__Width
0 1.0 0.0 0.0 0.0 0.0 0.0 0.0 28.7 31.0 36.2 14.3714 4.8146
1 0.0 0.0 0.0 0.0 1.0 0.0 0.0 20.5 22.5 25.3 7.0334 3.8203
2 1.0 0.0 0.0 0.0 0.0 0.0 0.0 32.0 35.0 40.6 16.3618 6.0900
3 0.0 0.0 1.0 0.0 0.0 0.0 0.0 20.0 22.0 23.5 5.6400 3.5250
4 0.0 0.0 1.0 0.0 0.0 0.0 0.0 13.8 15.0 16.0 3.8240 2.4320
... ... ... ... ... ... ... ... ... ... ... ... ...
81 0.0 0.0 1.0 0.0 0.0 0.0 0.0 39.0 42.0 44.6 12.8002 6.8684
82 1.0 0.0 0.0 0.0 0.0 0.0 0.0 33.5 37.0 42.6 18.9570 6.6030
83 0.0 0.0 0.0 1.0 0.0 0.0 0.0 32.7 35.0 38.8 5.9364 4.3844
84 0.0 0.0 0.0 0.0 0.0 1.0 0.0 11.4 12.0 13.2 2.2044 1.1484
85 0.0 0.0 1.0 0.0 0.0 0.0 0.0 25.0 26.5 28.0 7.1680 4.1440

86 rows × 12 columns

  • Přeškáluj sloupce pomocí StandardScaler.
In [7]:
from sklearn.preprocessing import StandardScaler

scaler = StandardScaler()
scaler.fit(X_train_onehot)

X_train = scaler.transform(X_train_onehot)
X_test = scaler.transform(X_test_onehot)
  • Vyber si několik regresních modelů a zkus je použít.

Pro dnešek možno zkusit:

  • LinearRegression

  • Lasso

    • hyperparametry:
      • alpha, float, default=1.0
  • SVR

    • hyperparametry:
      • kernel, default rbf, one of ‘linear’, ‘poly’, ‘rbf’, ‘sigmoid’
      • C, float, optional (default=1.0)

Odbočka: co jsou to ty hyper-parametry? #

U příkladů s černými krabičkami v první hodině jsme si (za vašimi zády) několikrát trochu pomohli a krabičce jsme předali na začátku nějaké parametry. Krabička totiž často umožňuje uživateli, aby si ji nakonfiguroval. V terminologii krabiček si můžeme představit, že krabička má na sobě různé páčky, kterými se dá seřídit. Těmito páčkami se nastavují tzv. hyper-parametry modelu. Všechny modely, které najdeš v knihovně Scikit-learn, mají nějaké výchozí nastavení a půjdou použít i bez toho, aby ses nastavením těchto hyper-parametrů zabývala. V případě, že model nedává uspokojivý výsledek, můžeš zkusit tyto parametry upravit, např. vyzkoušet několik různých nastavení a porovnat hodnotu metriky na testovací množině.

U seznamu výše máme některé hyperparametry uvedené. Parametry často souvisejí s regularizací (výše alpha, C). Regularizace znamená, že model kromě toho, že se snaží nafitovat tak, aby odpovídal datům (dával správné odpovědi), zohledňuje nějaké další kriterium. Typicky toto kritérium hlídá, aby výstup modelu moc neosciloval, apod. Podobně jako jsi v příkladu s krajinou říkala, že řešení volíš tak, aby bylo plynulé, hezké, odpovídalo obvyklým krajinám.

Proces výběru modelu včetně jeho parametrů se nazývá model selection, v knihovně Scikit-learn najdeš nástroje, které ti mohou pomoci, pod heslem Model selection.

In [8]:
from sklearn.linear_model import LinearRegression, Lasso
from sklearn.svm import SVR
In [9]:
model_zoo = {
    "linear_regression": LinearRegression(),
    "lasso_var1": Lasso(alpha=1.0),
    "lasso_var2": Lasso(alpha=1e-03),
    "SVR_rbf": SVR(kernel="rbf", C=1e04),
    "SVR_poly": SVR(kernel="poly",C=1e04),
}
  • K trénovaní (fitování) slouží metoda fit, k predikci pro nové vzory metoda predict.
  model.fit(X_train, y_train)
  pred = model.predict(X_test)
  • Metriku nemusíš programovat, k dispozici máš mean_absolute_error, mean_squared_error a r2_score.
  metrika = mean_absolute_error(y_test, pred)
In [10]:
from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score

def fit_and_eval(X_train, y_train, X_test, y_test, model, name):
    """ 1. Natrénuje model na trénovací množině.
        2. Spočte hodnoty metrik na trénovací i testovací množině.
        vrátí slovník ve tvaru {"název metriky": hodnota} 
    """ 
    
    model.fit(X_train, y_train)
    
    y_train_pred = model.predict(X_train)
    y_test_pred = model.predict(X_test)
    
    return {
        "MAE_train": mean_absolute_error(y_train, y_train_pred),
        "MSE_train": mean_squared_error(y_train, y_train_pred),
        "MAE_test": mean_absolute_error(y_test, y_test_pred),
        "MSE_test": mean_squared_error(y_test, y_test_pred)
    }
In [11]:
results = []
for name, model in model_zoo.items(): 
    result = fit_and_eval(X_train, y_train, X_test, y_test, model, name)
    result["model"] = name
    results.append(result)
    
pd.DataFrame(results)
Out[11]:
MAE_train MSE_train MAE_test MSE_test model
0 65.075967 7438.347512 64.076083 7327.508225 linear_regression
1 65.461029 8000.189809 67.699174 7481.774269 lasso_var1
2 65.162065 7730.766645 66.984117 7743.530561 lasso_var2
3 14.885810 1083.558622 29.440300 1983.156024 SVR_rbf
4 15.792914 1263.177350 37.137981 3351.282774 SVR_poly

Naučili jsme několik modelů. Zamysli se teď na chvilku, který by sis vybrala a proč. Označme si jej jako best_model. Můžeš si i zkusit pohrát s hyperparametry a zvolit jiné nastavení.

In [12]:
# doplň jméno modelu, který jsi vybrala

best_model = model_zoo["SVR_rbf"]

A pozor, překvapení ... další testovací množina #

Data jsme si rozdělili na trénovací a testovací. Trénovací jsme použili na učení modelu. Ale pozor! Testovací množinu jsme použili k výběru modelu. Metrika na testovací množině nám tedy nedává nezávislý odhad toho, jak se bude náš model chovat na neznámých datech. Byl totiž vybrán tak, aby dával dobré výsledky na testovací množině.

Testovací množina nám slouží jako odhad generalizačních schopností modelu. Neměla by ale být použita ani při učení, ani při výběru modelu. Část, kterou si oddělíme na "testování" pro účely výběru modelu, nazýváme správně validační množina. Pozor: Pokud jsme ale tuto validační množinu použili k výběru modelu, nesmíme ji používat k samotnému hodnocení generalizačních schopností tohoto modelu.

A proto teď přichází opravdová testovací data, načtěte je ze souboru fish_data_test.csv.

In [13]:
test_data = pd.read_csv("fish_data_test.csv", index_col=0)

test_data.pop("ID")
y_real_test = test_data.pop("Weight")
X_real_test = test_data 

X_real_test_transformed = transformer.transform(X_real_test)
X_real_test_scaled = scaler.transform(X_real_test_transformed)
In [14]:
y_pred_test = best_model.predict(X_real_test_scaled)

print(f"MAE {mean_absolute_error(y_real_test, y_pred_test):.3f}")
print(f"MSE {mean_squared_error(y_real_test, y_pred_test):.3f}")
print(f"R2  {r2_score(y_real_test, y_pred_test):.3f}")
MAE 37.263
MSE 4050.929
R2  0.972
In [15]:
for weight, predicted_weight in zip(y_real_test, y_pred_test):
    print(f"{weight:>10.1f}     {predicted_weight:>10.1f}")
     650.0          523.9
     620.0          616.7
     680.0          635.0
     700.0          698.0
     920.0          897.5
      69.0           66.5
     120.0          110.6
       0.0          120.7
     150.0          112.4
     160.0          140.6
     169.0          194.5
     161.0          166.5
     272.0          294.8
     306.0          336.7
    1000.0          945.0
      90.0           98.0
     150.0          157.9
     140.0          167.7
     500.0          493.0
       5.9           71.0
      32.0           31.4
     100.0           83.5
     115.0          113.1
     110.0          149.5
     170.0          161.2
     188.0          196.0
     180.0          180.8
     250.0          252.3
     300.0          273.6
     320.0          293.0
     700.0          622.9
    1000.0         1240.9
    1000.0         1170.2
     950.0          962.9
    1650.0         1586.2
      19.7           20.8

Visualizace na závěr #

  • Pro představu si zobrazme závislost váhy ryby na délce Length3. Zobrazíme zvlášt pro různé druhy, tedy např. pro Bream a Roach.
In [16]:
is_bream = X_real_test["Species"] == "Bream"
predicted_bream_weights = best_model.predict(X_real_test_scaled[is_bream])

is_roach = X_real_test["Species"] == "Roach"
predicted_roach_weights = best_model.predict(X_real_test_scaled[is_roach])
In [17]:
result_bream = pd.DataFrame()
result_bream["length"] = X_real_test[is_bream]["Length3"]
result_bream["weight"] = y_real_test[is_bream]
result_bream["predicted"] = predicted_bream_weights
result_bream = result_bream.sort_values("length")

result_roach = pd.DataFrame()
result_roach["length"] = X_real_test[is_roach]["Length3"]
result_roach["weight"] = y_real_test[is_roach]
result_roach["predicted"] = predicted_roach_weights
result_roach = result_roach.sort_values("length")
In [18]:
import matplotlib.pyplot as plt 

fig, ax = plt.subplots(1, 2)

ax[0].plot(result_bream["length"], result_bream["weight"], label="true weight", marker="o");
ax[0].plot(result_bream["length"], result_bream["predicted"], label="prediction", marker="o");
ax[0].legend()
ax[0].set_title("Bream")

ax[1].plot(result_roach["length"], result_roach["weight"], label="true weight", marker="o");
ax[1].plot(result_roach["length"], result_roach["predicted"], label="prediction", marker="o");
ax[1].legend()
ax[1].set_title("Roach");
No description has been provided for this image

Toto je stránka lekce z kurzu, který probíhá nebo proběhl naživo s instruktorem.