XGBoost. Extreme Gradient Boosting dla aplikacji górniczych

Opinie czytelników

Obecnie brak opinii czytelników. Ocena opiera się na 3 głosach.

Oryginalny tytuł:

XGBoost. The Extreme Gradient Boosting for Mining Applications

Zawartość książki:

Raport techniczny z roku 2017 z przedmiotu Informatyka - Internet, Nowe Technologie, stopień: 8, język: Angielski, streszczenie: Tree boosting okazał się empirycznie wysoce skutecznym i wszechstronnym podejściem do modelowania opartego na danych. Podstawowym argumentem jest to, że wzmacnianie drzewa może adaptacyjnie określać lokalne sąsiedztwa modelu, biorąc w ten sposób pod uwagę kompromis między odchyleniem a wariancją podczas dopasowywania modelu.

Niedawno metoda wzmacniania drzew znana jako XGBoost zyskała popularność, zapewniając wyższą dokładność. XGBoost wprowadza pewne ulepszenia, które pozwalają mu jeszcze dokładniej radzić sobie z kompromisem stronniczości i wariancji. W niniejszej pracy badawczej proponujemy zademonstrowanie zastosowania procedury adaptacyjnej, tj.

wyuczonej straty (LL), w celu aktualizacji funkcji straty w miarę postępu wzmacniania.

Dokładność proponowanego algorytmu, tj. XGBoost z funkcją wzmacniającą Learned Loss, jest oceniana przy użyciu metody testowania/trenowania, metody walidacji krzyżowej K-fold i metody walidacji krzyżowej Stratified i porównywana z najnowocześniejszymi algorytmami, a mianowicie XGBoost, AdaBoost, AdaBoost-NN, regresją liniową (LR), siecią neuronową (NN), drzewem decyzyjnym (DT), maszyną wektorów nośnych (SVM), algorytmami bagging-DT, bagging-NN i Random Forest.

Oceniane parametry to dokładność, błąd typu 1 i błąd typu 2 (w procentach). W niniejszym badaniu wykorzystano łącznie dziesięcioletnie dane historyczne od stycznia 2007 r. do sierpnia 2017 r.

dotyczące dwóch indeksów giełdowych CNX Nifty i S&P BSE Sensex, które charakteryzują się wysokim wolumenem. Ponadto w tej pracy badawczej zbadamy, w jaki sposób XGBoost różni się od bardziej tradycyjnych technik ensemble. Ponadto omówimy techniki regularyzacji oferowane przez te metody i ich wpływ na modele.

Oprócz tego spróbujemy odpowiedzieć na pytanie, dlaczego XGBoost wydaje się wygrywać tak wiele konkursów. W tym celu przedstawimy kilka argumentów za tym, dlaczego wzmacnianie drzew, a w szczególności XGBoost, wydaje się być tak wysoce skutecznym i wszechstronnym podejściem.