[혼공머신] Chapter 01 나의 첫 머신러닝

한빛미디어에서 모집하는 혼공학습단 활동의 일환으로 혼자 공부하는 머신러닝+딥러닝 책을 공부하고 정리한 글입니다. 책은 제 돈으로 구매했습니다. 원본 코드는 저자 박해선 님의 깃허브에서 보실 수 있습니다.

---

Chapter 01 나의 첫 머신러닝

01-1 인공지능과 머신러닝, 딥러닝

인공지능이란

인공지능(artificial intelligence)은 사람처럼 학습하고 추론할 수 있는 지능을 가진 컴퓨터 시스템을 만드는 기술입니다.

인공지능 태동기

-1943년 워런 매컬러(Warren McCulloch)와 월터 피츠(Walte Pits)가 최초로 뇌의 뉴런 개념을 발표

- 1950년 앨런 튜링(Alan Turing)이 인공지능이 사람과 같은 지능을 가졌는지 테스트하는 튜링 테스트 발표

- 1956년 다트머스 AI 컨퍼런스

인공지능 황금기

- 1957년 프랑크 로젠블라트(FrankRosenblatt)가 퍼셉트론 발표

- 1959년 데이비드 허블(David Hubel)과 토르스텐 비셀(Torsten Wiesel)이 고양이를 사용해 시각 피질에 있는 뉴런 기능을 연구 → 노벨상 수상

인공지능 2번의 겨울

- 1차 AI 겨울: 컴퓨터 성능의 한계로 인해 간단한 문제를 해결하는 것에 그침

- AI 붐: 전문가 시스템 등장

- 2차 AI 겨울: 전문가 시스템 실패

위 시기를 극복한 후 인공지능은 다시 각광을 받기 시작했습니다.

인공지능은 강인공지능과 약인공지능으로 나눌 수 있습니다.

강인공지능(=일반인공지능)

영화 <그녀>의 사만다나 <터미네이터>의 스카이넷처럼 사람과 구분하기 어려운 지능을 가진 컴퓨터 시스템

약인공지능

음성 비서, 자율 주행 자동차, 음악 추천, 기계 번역과 같이 특정 분야에서 사람의 일을 도와주는 보조 역할을 하는 인공지능. 알파고도 약인공지능.

머신러닝이란

머신러닝은 규칙을 일일이 프로그래밍하지 않아도 자동으로 데이터에서 규칙을 학습하는 알고리즘을 연구하는 분야입니다.

통계학에서 발전된 머신러닝

대표적인 오픈소스 통계 소프트웨어인 R에 다양한 머신러닝 알고리즘이 구현되어 있음

컴퓨터 과학의 경험을 바탕으로 발전하는 머신러닝

컴퓨터 과학 분야의 대표적인 머신러닝 라이브러리는 사이킷런(scikit-learn). 파이썬 API 사용.

딥러닝이란

머신러닝 알고리즘 중 인공 신경망을 기반으로 한 방법들을 통칭하여 딥러닝이라고 부릅니다.

딥러닝 관련 주요 사건

- 1998년 얀 르쿤(Yann Lecun)이 신경망 모델 ‘LeNet-5’를 만들어 손글씨 숫자를 인식하는 데 성공. 최초의 합성곱 신경망.

- 2012년 제프리 힌턴(Geoffrey Hinton) 팀이 합성곱 신경망을 사용한 ‘AlexNet’을 사용하여 이미지 분류 대회 ImageNet에서 압도적인 성능으로 우승.

- 2016년 이세돌과 알파고의 대국으로 인해 딥러닝에 관심 크게 증가

위와 같이 인공 신경망이 이전과 다르게 놀라운 성능을 달성하게 된 원동력으로는 아래와 같이 꼽을 수 있습니다.

• 복잡한 알고리즘을 훈련할 수 있는 풍부한 데이터
• 컴퓨터 성능의 향상
• 혁신적인 알고리즘 개발

딥러닝 라이브러리

- 2015년 구글이 텐서플로를 오픈소스로 공개

- 2018년 페이스북이 파이토치를 오픈소스로 발표 - 두 딥러닝 라이브러리 모두 파이썬 API 제공

01-2 코랩과 주피터 노트북

구글 코랩

구글 코랩(Colab)은 구글 계정만 있다면 웹 브라우저에서 무료로 파이썬 프로그램을 테스트하고 저장할 수 있는 서비스 입니다. 머신러닝 프로그램도 만들고 실습할 수 있습니다.

텍스트 셀

셀은 코랩에서 실행할 수 있는 최소 단위입니다. 텍스트 셀에서 코드에 대한 설명을 작성할 수 있습니다. HTML과 마크다운을 혼용하여 사용할 수 있습니다.

코드 셀

코드 셀에서 코드를 작성하고 실행할 수 있습니다.

노트북

코랩은 구글이 대화식 프로그래밍 환경인 주피터(Jupyter)를 커스터마이징한 것입니다. 파이썬 지원으로 시작한 주피터 프로젝트는 최근에는 다른 언어도 지원합니다. 주피터 프로젝트의 대표 제품인 노트북Notebook을 주피터 노트북이라고 부르며, 코랩에서는 프로그램 작성 단위로 코랩 노트북을 사용합니다.

01-3 마켓과 머신러닝

생선 분류 문제

한빛 마켓에서 살아 있는 생선을 판매하기 시작했습니다. ‘도미’, ‘곤들메기’, 농어’, ‘강꼬치고기’, ‘로치’, ‘빙어’, ‘송어’를 분류하는 프로그램을 만들어봅시다. 생선 데이터는 캐글에 공개된 데이터를 사용했습니다.

도미 데이터 준비하기

bream_length = [25.4, 26.3, 26.5, 29.0, 29.0, 29.7, 29.7, 30.0, 30.0, 30.7, 31.0, 31.0, 31.5, 32.0, 32.0, 32.0, 33.0, 33.0, 33.5, 33.5, 34.0, 34.0, 34.5, 35.0, 35.0, 35.0, 35.0, 36.0, 36.0, 37.0, 38.5, 38.5, 39.5, 41.0, 41.0]
bream_weight = [242.0, 290.0, 340.0, 363.0, 430.0, 450.0, 500.0, 390.0, 450.0, 500.0, 475.0, 500.0, 500.0, 340.0, 600.0, 600.0, 700.0, 700.0, 610.0, 650.0, 575.0, 685.0, 620.0, 680.0, 700.0, 725.0, 720.0, 714.0, 850.0, 1000.0, 920.0, 955.0, 925.0, 975.0, 950.0]

import matplotlib.pyplot as plt

plt.scatter(bream_length, bream_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

빙어 데이터 준비하기

smelt_length = [9.8, 10.5, 10.6, 11.0, 11.2, 11.3, 11.8, 11.8, 12.0, 12.2, 12.4, 13.0, 14.3, 15.0]
smelt_weight = [6.7, 7.5, 7.0, 9.7, 9.8, 8.7, 10.0, 9.9, 9.8, 12.2, 13.4, 12.2, 19.7, 19.9]

plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

첫 번째 머신러닝 프로그램, 도미와 빙어 분류

length = bream_length+smelt_length
weight = bream_weight+smelt_weight

fish_data = [[l, w] for l, w in zip(length, weight)]

print(fish_data)

[[25.4, 242.0], [26.3, 290.0], [26.5, 340.0], [29.0, 363.0], [29.0, 430.0], [29.7, 450.0], [29.7, 500.0], [30.0, 390.0], [30.0, 450.0], [30.7, 500.0], [31.0, 475.0], [31.0, 500.0], [31.5, 500.0], [32.0, 340.0], [32.0, 600.0], [32.0, 600.0], [33.0, 700.0], [33.0, 700.0], [33.5, 610.0], [33.5, 650.0], [34.0, 575.0], [34.0, 685.0], [34.5, 620.0], [35.0, 680.0], [35.0, 700.0], [35.0, 725.0], [35.0, 720.0], [36.0, 714.0], [36.0, 850.0], [37.0, 1000.0], [38.5, 920.0], [38.5, 955.0], [39.5, 925.0], [41.0, 975.0], [41.0, 950.0], [9.8, 6.7], [10.5, 7.5], [10.6, 7.0], [11.0, 9.7], [11.2, 9.8], [11.3, 8.7], [11.8, 10.0], [11.8, 9.9], [12.0, 9.8], [12.2, 12.2], [12.4, 13.4], [13.0, 12.2], [14.3, 19.7], [15.0, 19.9]]

fish_target = [1]*35 + [0]*14
print(fish_target)

[1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]

from sklearn.neighbors import KNeighborsClassifier

kn = KNeighborsClassifier()
kn.fit(fish_data, fish_target)

kn.score(fish_data, fish_target)

1.0

k-최근접 이웃 알고리즘

plt.scatter(bream_length, bream_weight)
plt.scatter(smelt_length, smelt_weight)
plt.scatter(30, 600, marker='^')
plt.xlabel('length')
plt.ylabel('weight')
plt.show()

kn.predict([[30, 600]])

array([1])

print(kn._fit_X)

[[ 25.4 242. ]
[ 26.3 290. ]
[ 26.5 340. ]
[ 29. 363. ]
[ 29. 430. ]
[ 29.7 450. ]
[ 29.7 500. ]
[ 30. 390. ]
[ 30. 450. ]
[ 30.7 500. ]
[ 31. 475. ]
[ 31. 500. ]
[ 31.5 500. ]
[ 32. 340. ]
[ 32. 600. ]
[ 32. 600. ]
[ 33. 700. ]
[ 33. 700. ]
[ 33.5 610. ]
[ 33.5 650. ]
[ 34. 575. ]
[ 34. 685. ]
[ 34.5 620. ]
[ 35. 680. ]
[ 35. 700. ]
[ 35. 725. ]
[ 35. 720. ]
[ 36. 714. ]
[ 36. 850. ]
[ 37. 1000. ]
[ 38.5 920. ]
[ 38.5 955. ]
[ 39.5 925. ]
[ 41. 975. ]
[ 41. 950. ]
[ 9.8 6.7]
[ 10.5 7.5]
[ 10.6 7. ]
[ 11. 9.7]
[ 11.2 9.8]
[ 11.3 8.7]
[ 11.8 10. ]
[ 11.8 9.9]
[ 12. 9.8]
[ 12.2 12.2]
[ 12.4 13.4]
[ 13. 12.2]
[ 14.3 19.7]
[ 15. 19.9]]

print(kn._y)

[1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0
0 0 0 0 0 0 0 0 0 0 0 0]

kn49 = KNeighborsClassifier(n_neighbors=49)

kn49.fit(fish_data, fish_target)
kn49.score(fish_data, fish_target)

0.7142857142857143

print(35/49)

0.7142857142857143