2023년 6월 업데이트

안녕하세요. SQLER의 코난 김대우입니다. 

이번 강좌에서는, Python 머신러닝 강좌 - 14. NumPy와 Pandas를 진행토록 하겠습니다.

예제 노트북 파일 : 14. NumPy와 Pandas

SQLER에서 진행되는 전체 Python / 머신러닝 강좌 목록

코드를 실행하기 위해서는, vscode에서 새로운 파일을 만들고 강좌 내용을 단계별로 copy&paste 해서 실행하시면 됩니다. 또는, Jupyter notebook을 실행하고 단계별로 실행하셔도 됩니다.

예를 들어, 14_numpy.ipynb를 생성하고 vscode에서 실행하면, Jupyter notebook이 실행됩니다.(vscode에서 실행도 가능하며, 웹브라우저에서도 실행 가능합니다.)

또는, github 리포지토리를 clone 하신 후, vscode나 Jupyter notebook에서, 위의 노트북 파일을 열면 됩니다. 
 

상세한 환경 구성이 필요하시다면, 개발자 커뮤니티 SQLER.com - Python 초급 강좌 목차 - 1. Python 개발 환경 구성 문서를 참조해 WSL, vscode, conda, jupyter notebook 설정을 모두 먼저 완료하시길 권장해 드립니다.

TL;DR

numpy array와 pandas DataFrame의 차이점과 상호 변환 방안에 대해 살펴봅니다. numpy array 1차원 배열은 pandas의 series와 유사하며, 2차원 배열은 pandas DataFrame과 유사합니다. numpy array와 pandas 개체 변환을 이용해 각각의 기능을 활용할 수 있습니다. 

Python 머신러닝 강좌 - 14. NumPy와 Pandas

numpy array에서 pandas DataFrames로 데이터 옮기기

지난 notebook에서 머신러닝 모델을 트레이닝하고 실제 label 결과와 predict 된 결과를 비교했습니다.

아마도, 일부 불분명한 부분은 이 작업을 수행했을 때 numpy array와 pandas DataFrame이라는 두 개의 다른 객체로 작업했던 부분일 것입니다.

더 자세히 알아보기 위해 이전 notebook의 코드를 다시 실행해 트레이닝된 모델을 만들고 테스트 데이터에 대한 예측 값을 가져오겠습니다.

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression

# CSV 파일에서 데이터를 로드
delays_df = pd.read_csv('Lots_of_flight_data.csv') 

# null값을 제거 - null값이 있으면 트레이닝 과정에서 문제를 유발할 수 있습니다.
delays_df.dropna(inplace=True)

# Feature column들을 X DataFrame으로 이동
X = delays_df.loc[:,['DISTANCE', 'CRS_ELAPSED_TIME']]

# Label column을 y DataFrame으로 이동
y = delays_df.loc[:,['ARR_DELAY']] 

# 데이터를 트레이닝 데이터셋과 테스트 데이터셋으로 분리 
X_train, X_test, y_train, y_test = train_test_split(
                                                    X, 
                                                    y, 
                                                    test_size=0.3, 
                                                    random_state=42
                                                   )

regressor = LinearRegression()     # scikit learn LinearRegression 개체 생성
regressor.fit(X_train, y_train)    # fit 메서드를 사용해 모델 트레이닝 실행

y_pred = regressor.predict(X_test)

마지막 노트북에서 predict(예측된) 값의 내용을 y_pred에 로드하고, 실제(label) 값을 y_test에 로드할 때 출력이 다르게 표시되는 것을 확인했을 수 있습니다.

y_pred

=== 결과 ===

array([[3.47739078],
       [5.89055919],
       [4.33288464],
       ...,
       [5.84678979],
       [6.05195889],
       [5.66255414]])

y_test

=== 결과 ===

88750 rows × 1 columns

type()을 사용하여 객체의 데이터 유형을 확인할 수 있습니다.

type(y_pred)

=== 결과 ===

numpy.ndarray

type(y_test)

=== 결과 ===

pandas.core.frame.DataFrame

즉, 

• y_pred는 numpy array입니다.
• y_test는 pandas DataFrame입니다.

y_pred에서 head 메서드를 사용하는 경우에도 이 차이를 확인할 수 있습니다.

head는 DataFrame 클래스의 메서드이고, numpy 배열의 메서드가 아니므로 에러가 리턴됩니다.

y_pred.head()

=== 결과 ===
---------------------------------------------------------------------------
AttributeError                            Traceback (most recent call last)
<ipython-input-15-05146ec42336> in <module>
----> 1 y_pred.head()

AttributeError: 'numpy.ndarray' object has no attribute 'head'

1차원 numpy array는 pandas의 series와 유사합니다.

import numpy as np

airports_array = np.array(['Pearson','Changi','Narita'])
print(airports_array)
print(airports_array[2])

=== 결과 ===

['Pearson' 'Changi' 'Narita']

Narita

airports_series = pd.Series(['Pearson','Changi','Narita'])
print(airports_series)
print(airports_series[2])

=== 결과 ===

0    Pearson
1     Changi
2     Narita
dtype: object
Narita

2차원 numpy array는 pandas DataFrame과 유사합니다.

airports_array = np.array([
  ['YYZ','Pearson'],
  ['SIN','Changi'],
  ['NRT','Narita']])
print(airports_array)
print(airports_array[0,0])

=== 결과 ===

[['YYZ' 'Pearson']
 ['SIN' 'Changi']
 ['NRT' 'Narita']]
YYZ

airports_df = pd.DataFrame([['YYZ','Pearson'],['SIN','Changi'],['NRT','Narita']])
print(airports_df)
print(airports_df.iloc[0,0])

=== 결과 ===

     0        1
0  YYZ  Pearson
1  SIN   Changi
2  NRT   Narita
YYZ

DataFrame의 기능이 필요한 경우, 데이터를 numpy 개체에서 pandas 개체로 또는 그 반대로 변환할 수 있습니다.

아래 예제처럼, DataFrame 생성자를 사용하여 numpy 배열 y_pred의 내용을 predicted_df라는 DataFrame으로 로드합니다.

바로 이어서, DataFrame 개체의 함수들을 사용할 수 있습니다.

predicted_df = pd.DataFrame(y_pred)
predicted_df.head()

=== 결과 ===

수고하셨습니다. 다음은 마지막 머신러닝 강좌인 matplotlib을 이용한 시각화를 진행토록 하겠습니다.

파이썬 강좌 책 구매

강좌가 도움이 되셨다면, 책으로 구매 가능합니다. 책 판매 수익금은 전액 코딩 교육 사회공헌 활동에 기부되며, 아래 링크에서 구매하시면 더 많은 금액이 기부됩니다. 

책구매 링크: 챗GPT와 함께하는 파이썬 & 머신러닝 코딩 마스터 

참고자료

개발자 커뮤니티 SQLER.com - Python 무료 강좌 - 기초, 중급, 머신러닝

c9-python-getting-started/even-more-python-for-beginners-data-tools/14 - NumPy vs Pandas at master · CloudBreadPaPa/c9-python-getting-started (github.com)