시계열 예측을 위해 XGBoost 및 InluxDB를 사용하는 방법
- 王林앞으로
- 2023-04-04 12:40:071644검색
XGBoost는 다양한 예측 문제를 해결하는 데 사용할 수 있는 인기 있는 오픈 소스 기계 학습 라이브러리입니다. 시계열 예측을 위해 InfluxDB와 함께 사용하는 방법을 이해해야 합니다.
번역기 | Li Rui
리뷰어 | Sun Shujuan
XGBoost는 최적화된 분산 그래디언트 부스팅 알고리즘을 구현하는 오픈 소스 기계 학습 라이브러리입니다. XGBoost는 빠른 성능을 위해 병렬 처리를 사용하고 결측값을 잘 처리하며 작은 데이터 세트에서도 잘 작동하고 과적합을 방지합니다. 이러한 모든 장점으로 인해 XGBoost는 예측과 같은 회귀 문제에 대한 인기 있는 솔루션이 되었습니다.
예측은 예측 분석, 예측 유지 관리, 제품 계획, 예산 책정 등과 같은 다양한 비즈니스 목표에 매우 중요합니다. 많은 예측 또는 예측 문제에는 시계열 데이터가 포함됩니다. 이로 인해 XGBoost는 오픈 소스 시계열 데이터베이스 InfluxDB의 훌륭한 파트너가 되었습니다.
이 튜토리얼에서는 XGBoost의 Python 패키지를 사용하여 InfluxDB 시계열 데이터베이스에서 데이터를 예측하는 방법을 배웁니다. 또한 InfluxDB Python 클라이언트 라이브러리를 사용하여 InfluxDB에서 데이터를 쿼리하고 데이터를 Pandas DataFrame으로 변환하여 예측하기 전에 시계열 데이터로 작업하기가 더 쉬워집니다. 추가적으로, XGBoost의 장점에 대해 좀 더 자세히 논의하겠습니다.
1. 요구 사항
이 튜토리얼은 Homebrew를 통해 Python 3이 설치된 macOS 시스템에서 수행됩니다. Python 및 클라이언트 설치를 단순화하려면 virtualenv, pyenv 또는 conda-env와 같은 추가 도구를 설정하는 것이 좋습니다. 그렇지 않은 경우 모든 요구 사항은 다음과 같습니다.
- influxdb-client = 1.30.0
- pandas = 1.4.3
- xgboost & gt; = 1.7.3
- influxdb-client & gt; pandas & gt; = 1.4.3
- matplotlib>=3.5.2
- sklearn>=1.1.1
- 이 튜토리얼은 또한 무료 계층 InfluxDB 클라우드 계정을 가정하고 버킷과 토큰을 생성했습니다. 버킷을 생각해 보세요. 데이터베이스 또는 InfluxDB의 데이터 구성을 위한 최고 수준 구조입니다. 이 튜토리얼에서는 NOAA라는 버킷이 생성됩니다.
2. 결정 트리, 랜덤 포레스트 및 그래디언트 향상
XGBoost가 무엇인지 이해하려면 결정 트리, 랜덤 포레스트 및 그래디언트 향상을 이해해야 합니다. 의사결정 트리는 일련의 기능 테스트로 구성된 지도 학습 방법입니다. 각 노드는 테스트이며 모든 노드는 순서도 구조로 구성됩니다. 분기는 궁극적으로 입력 데이터에 할당되는 리프 레이블 또는 클래스 레이블을 결정하는 조건을 나타냅니다.
기계 학습의 결정 트리는 내일 비가 올지 여부를 결정하는 데 사용됩니다. 의사결정 트리의 구성요소(잎, 가지, 노드)를 표시하도록 편집되었습니다.
의사결정 트리, 랜덤 포레스트 및 그래디언트 부스팅의 기본 원칙은 여러 "약한 학습기" 또는 분류자가 함께 작동하여 강력한 예측을 한다는 것입니다.
랜덤 포레스트에는 여러 결정 트리가 포함되어 있습니다. 의사결정 트리의 각 노드는 약한 학습기로 간주되며, 랜덤 포레스트의 각 결정 트리는 랜덤 포레스트 모델의 많은 약한 학습기 중 하나로 간주됩니다. 일반적으로 모든 데이터는 무작위로 하위 집합으로 나누어지고 다양한 의사결정 트리를 통해 전달됩니다.
결정 트리와 랜덤 포레스트를 사용한 그래디언트 부스팅은 비슷하지만 구조가 다릅니다. Gradient Boosted Tree에는 의사결정 트리 포리스트도 포함되어 있지만 이러한 의사결정 트리는 추가로 구성되고 모든 데이터는 의사결정 트리의 앙상블을 통해 전달됩니다. 그라디언트 부스팅 트리는 고양이나 개와 같은 이산 값에 대한 분류 트리가 포함된 분류 트리 또는 회귀 트리 세트로 구성될 수 있습니다. 회귀 트리는 연속 값(예: 0~100)에 사용됩니다.
3. XGBoost란?
그라디언트 부스팅은 분류 및 예측을 위한 기계 학습 알고리즘입니다. XGBoost는 극단적인 유형의 그래디언트 부스팅입니다. 극단적인 경우, 병렬 처리 기능을 통해 그라디언트 부스팅을 보다 효율적으로 수행할 수 있습니다. XGBoost 문서의 아래 이미지는 그래디언트 부스팅을 사용하여 누군가가 비디오 게임을 좋아할지 여부를 예측하는 방법을 보여줍니다.
누군가가 비디오 게임을 좋아할지 여부를 결정하는 데 두 가지 결정 트리가 사용됩니다. 두 나무의 리프 점수를 추가하여 누가 비디오 게임을 즐길 가능성이 가장 높은지 결정합니다.
XGBoost의 몇 가지 장점:
상대적으로 이해하기 쉽습니다.- 기능이 거의 없는 작고 구조화된 일반 데이터에 적합합니다.
- XGBoost의 몇 가지 단점:
- 과적합이 쉽고 이상치에 민감합니다. 예측을 위해 XGBoost에서 시계열 데이터의 구체화된 뷰를 사용하는 것이 좋습니다.
- 희소 데이터 또는 비지도 데이터에서는 성능이 저하됩니다.
4. 시계열 예측을 위해 XGBoost를 사용하세요
여기에 사용된 공기 센서 샘플 데이터 세트는 InfluxDB에서 제공됩니다. 이 데이터 세트에는 여러 센서의 온도 데이터가 포함되어 있습니다. 다음과 같은 데이터가 포함된 단일 센서에 대한 온도 예측이 생성됩니다.
다음 Flux 코드를 사용하여 단일 시계열에 대한 데이터 세트 및 필터를 가져옵니다. (Flux는 InfluxDB의 쿼리 언어입니다)
import "join"
import "influxdata/influxdb/sample"
//dataset은 10초 간격의 정규 시계열입니다
data = Sample.data(set: "airSensor " )
|> filter(fn: (r) => r._field == "온도" 및 r.sensor_id == "TLM0100")
랜덤 포레스트 및 그래디언트 부스팅을 시계열 예측에 사용할 수 있습니다. , 그러나 데이터를 지도 학습으로 변환해야 합니다. 이는 시계열 데이터를 지도 학습 세트로 변환하기 위해 슬라이딩 윈도우 접근 방식이나 느린 이동 접근 방식으로 데이터를 앞으로 이동해야 함을 의미합니다. 데이터는 Flux를 사용하여 준비할 수도 있습니다. 이상적으로는 사용할 최상의 방법을 결정하기 위해 일부 자기상관 분석을 먼저 수행해야 합니다. 간결성을 위해 다음 Flux 코드를 사용하여 일정한 간격으로 데이터를 이동합니다.
import "join"
import "influxdata/influxdb/sample"
data = Sample.data(set: "airSensor")
|> filter(fn: (r) => r._field == "온도" 및 r.sensor_id == "TLM0100")
shiftedData = data
|> timeShift(기간: 10s , 열: ["_time"] )
join.time(왼쪽: 데이터, 오른쪽: ShiftedData , as: (l, r) => ({l with data: l._value, shiftedData: r._value}))
|> drop(columns: ["_measurement", "_time", "_value" , "sensor_id", "_field"])
전체 코드를 보려면 왼쪽이나 오른쪽으로 스와이프하세요
모델 입력에 추가 지연 데이터를 추가하려면 대신 다음 Flux 로직을 따를 수 있습니다.
import "실험적"
import "influxdata/influxdb/sample"
data = Sample.data(set: "airSensor")
|> filter(fn: (r) => r._field == "온도" 및 r.sensor_id == "TLM0100")
shiftedData1 = data
|> timeShift(기간: 10s , 열: ["_time"] )
|> " , 값: "1" )
shiftedData2 = data
|> timeShift(기간: 20s , 열: ["_time"] )
|> set(키: "shift" , 값: " 2" )
shiftedData3 = data
|> timeShift(기간: 30s , 열: ["_time"] )
|> set(키: "shift" , 값: "3")
shiftedData4 = data
|> timeShift(기간: 40s , 열: ["_time"] )
|> set(키: "shift" , 값: "4")
union(테이블 : [shiftedData1,shiftedData2,shiftedData3,shiftedData4])
|> "_measurement", "_time", "_value", "sensor_id", "_field"])
// NaN 값 제거
|> 제한(n:360)
|> )
또한 알고리즘을 훈련하려면 순방향 검증을 사용해야 합니다. 여기에는 데이터 세트를 테스트 세트와 훈련 세트로 분할하는 작업이 포함됩니다. 그런 다음 XGB Regressor를 사용하여 XGBoost 모델을 학습하고 피팅 방법을 사용하여 예측합니다. 마지막으로 평균절대오차(MAE)를 사용하여 예측의 정확성을 결정합니다. 10초 지연 동안 계산된 평균 절대 오차(MAE)는 0.035입니다. 이는 예측의 96.5%가 매우 정확하다는 의미로 해석할 수 있습니다. 아래 그림은 XGBoost에서 얻은 예측과 열차/테스트 분할에서 예상된 값을 비교한 것입니다.
아래는 전체 스크립트입니다. 이 코드는 대부분 여기 튜토리얼에서 가져왔습니다.
pandas를 pd로 가져오기
from numpy import asarray
from sklearn.metrics import mean_absolute_error
from xgboost import XGBRegressor
from matplotlib import pyplot
from influxdb_client import InfluxDBClient
from influxdb _client.client.write_api 수입 동기
# Python InfluxDB 클라이언트 라이브러리로 데이터를 쿼리하고 Flux
client = InfluxDBClient(url="https://us-west-2-1.aws.cloud2.influxdata.com")를 사용하여 데이터를 지도 학습 문제로 변환합니다. token="NyP-HzFGkObUBI4Wwg6Rbd-_SdrTMtZzbFK921VkMQWp3bv_e9BhpBi6fCBr_0-6i0ev32_XWZcmkDPsearTWA==", org="0437f6d51b579000")
# write_api = client.write _api(write_optinotallow=SYNCHRONOUS)
query_api = client.query_api()
df = query_api. query_data_frame('import "join"'
'import "influxdata/influxdb/sample"'
'data = Sample.data(set: "airSensor")'
'|> filter(fn: (r) = > r._field == "온도" 및 r.sensor_id == "TLM0100")'
'shiftedData = data'
'|> timeShift(기간: 10s , 열: ["_time"] )'
'join.time(왼쪽: 데이터, 오른쪽: ShiftedData, as: (l, r) => ({l 데이터 포함: l._value, shiftedData: r._value}))'
'|> drop(열: ["_measurement", "_time", "_value", "sensor_id", "_field"])'
'|> Yield(이름: "지도 학습 데이터 세트로 변환됨")'
)
df = df.drop(columns=['table', 'result'])
data = df.to_numpy()
# 일변량 데이터 세트를 기차/테스트 세트로 분할
def train_test_split(data, n_test):
return data[:-n_test:], data[-n_test:]
# xgboost 모델을 맞추고 한 단계 만들기 예측
def xgboost_forecast(train, testX):
# 목록을 배열로 변환
train = asarray(train)
# 입력 및 출력 열로 분할
trainX, trainy = train[:, :-1], train[:, -1]
# 적합 모델
model = XGBRegressor(objective='reg:squarederror', n_estimators=1000)
model.fit(trainX, trainy)
# 1단계 예측 만들기
yhat = model.predict(asarray([testX]))
return yhat[0]
# 일변량 데이터에 대한 순방향 검증
def walk_forward_validation(data, n_test):
예측 = 목록()
# 데이터 세트 분할
train, test = train_test_split(data, n_test)
History = [x for x in train]
# 테스트 세트의 각 시간 단계를 넘어갑니다
for i in range(len( test)):
# 테스트 행을 입력 및 출력 열로 분할
testX, testy = test[i, :-1], test[i, -1]
# 기록에 모델을 맞추고 예측하기
yhat = xgboost_forecast(history, testX)
# 예측 목록에 예측 저장
predictions.append(yhat)
# 다음 루프에 대한 기록에 실제 관찰 추가
history.append(test[i])
# 진행상황 요약
print('>expected=%.1f, Predicted=%.1f' % (testy, yhat))
# 추정 예측 오류
error = 평균_absolute_error(test[:, -1], 예측 )
반환 오류, 테스트[:, -1], 예측
# 평가
mae, y, yhat = walk_forward_validation(data, 100)
print('MAE: %.3f' % mae)
# 플롯 예상 대 예측
pyplot.plot(y, label='Expected')
pyplot.plot(yhat, label='Predicted')
pyplot.legend()
pyplot.show() ㅋㅋㅋ括如何使사용본문描述적정보와InfluxDB来进行预测와执行异常检测的示例。
위 내용은 시계열 예측을 위해 XGBoost 및 InluxDB를 사용하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!