하파와 데이터

데이터에서 가장 큰 골치거리가 결측지다. 하나만 비어있을때는 전체를 날리지도 못하고, 너무 무의미한 데이터가 많다면, 결측치가 많은 컬럼 자체를 날려야하는 경우도 있다.  즉, 우리의 필요에 따라서 우리는 결측된 데이터들을 제거하거나, 보완하는 방법을 알아야 한다.  우리는 그중에서 우선 간단한 방법인 평균으로 결측을 보완하는 방법과아예 결측치를 제거하는 방법에 대해서 알아본다.  나아가, 유니크한 값을 구하는 다른 방법인 중복값들을 제거하는 방법도 배워본다!  0. 전제우리만의 DataFrame을 만든다. import pandas as pdimport numpy as npdates = pd.date_range('20241129', periods= 6)df = pd.DataFrame(np.random.r..

데이터는 가지런할때, 예쁘다. 멀리서 보아도 그렇다.  우리는 데이터를 여러 측면에서 본다. 처음 주어진 그대로 살펴보기도 하지만, 그 데이터가 가진 방향성, 의미 등을 파악하기 위해서 정렬을 해보기도하고분포도를 보기도 하고 여러 방법을 택한다.  그중에 가장 쉽고 가볍게 해볼 수 있는 정렬을 해보자.  0. 전제(6,4) 임의의 난수를 가진 데이터프레임을 생성하여 활용함. import pandas as pdimport numpy as npdates = pd.date_range('20241129', periods=6)df = pd.DataFrame(np.random.randn(6,4), index = dates, columns = list('ABCD'))df1. 인덱스 정렬1.1. 행 인덱스 정렬예를들어..

지금까지 우리는 수치형 분석, 부분집합 등에 대해서 배웠다.  이제 생각해보자. 그것을 왜 배웠을까? 어디에 써먹으려고?? 아직은 나도 초심자기 때문에 정확하지는 않지만데이터를 가지고 이래저래 전처리를 하는 과정은 분석에 있어서, 모델링에 있어서 매우나 중요하다.  일명 Garbege in, Garbege out이라고, 쓰레기가 들어가면 쓰레기가 나온다. 그렇기 때문에 우리는 모델을 구축하기 전에, 좋은 데이터를 넣을 수 있도록 각고의 노력을 기울여야하는 것이다.  그래서 수치형 데이터를 분석하면서, 무언가를 찾아내고부분집합 등을 활용해서 특정 데이터들을 바꾸거나 수정하거나, 조합하여 새로운 더미변수를 만들거나 하는 과정을 해야하는 것이다.  이에, 이번에는 데이터를 변경하는 과정을 배워보자!!  0. ..

이전에는 컬럼이름 또는 리스트형태의 컬럼이름으로 데이터의 부분집합을 보았다.  그렇다면, 특정 조건을 통해서 데이터를 추출하는것은 가능할까? 예를들면, 100번행부터 150번행까지만 보고싶을때, 또는 'A'컬럼의 값중 양수를 갖는 데이터만을 보고싶을때  이럴때 사용하는 것이 loc, iloc이다.  이 둘은 서로 용법과 방법이 매우 비슷한데, 아주 작은 차이만 가지고 있다. 그래서 이름도 i 하나만 차이가 나지 않은가!  0. 전제jupyter notebook이 실행된 위치에 data라는 폴더가 있고, 그 안에 iris.csv라는 파일이 존재한다.  1. loc을 이용해서 문자 또는 조건으로 데이터를 선택! (라벨 기반 접근)loc는 행 또는 열의 이름을 기반으로 데이터에 접근한다. import pand..