[Data Science from Scratch] ch.7, 8 additional note - Gradient Descent without FrameWork!

2022. 7. 20. 17:09·공부정리/Data Science
728x90
반응형

 

참고 서적

도서명: Data Science from Scratch
(밑바닥부터 시작하는 데이터 과학)
저자 : Joel Grus
출판 : 프로그래밍 인사이트

Ch 8. Gredient Decente - Linear Regression

직접 경사하강법 구현해보기

 

본 코드는 프레임워크(Scikit-Learn, Tensorflow...etc) 없이 구현한 코드입니다.

 

구현 순서

  1. sample data 수집
  2. data 정제하기 (회귀, 분류 등 문제 확인)
  3. 하이퍼파라미터 설정
  4. Optimizer & Loss Function Select
  5. Evaluation 
  6. Visualizing

 

해당 코드는 Sample Data를 수집하지 않고, 임의의 데이터를 사용한 것입니다.

1. Sample Data 수집

2. 데이터 정제 (SKIP)

임의의 데이터를 사용하였으므로 해당 단계는 건너뛴 것이라고 봐도 무방합니다.

3. 하이퍼파라미터 설정

4. Optimizer & Loss Function Select

 

5. Evaluation 

6. Visualizing

epoch=10000, 기울기(weight) =7.3000, 절편(bias) =31.5000

 

Colclusion

- 에폭값이 커질 수록 비용함수의 값이 특정한 값에 수렴한다는 것을 알 수 있습니다.

- 평가지표에 사용할 함수를 고르고 해당 함수를 미분하여 경사하강법에 구현해서 파라미터(W1,W0)을 업데이트 합니다. 

728x90
반응형

'공부정리 > Data Science' 카테고리의 다른 글

[Data Science from Scratch] ch.11 additional note  (0) 2022.07.25
[Data Science from Scratch] Chapter 11. machine learning  (0) 2022.07.21
[Data Science from Scratch] Ch 4, 5, 6 additional note  (0) 2022.07.13
[Data Science from Scratch] ch 4. Linear Algebra - (1) Vector  (0) 2022.07.07
[Data Science from Scratch] Chepter 1,2,3 Additional note  (0) 2022.07.01
'공부정리/Data Science' 카테고리의 다른 글
  • [Data Science from Scratch] ch.11 additional note
  • [Data Science from Scratch] Chapter 11. machine learning
  • [Data Science from Scratch] Ch 4, 5, 6 additional note
  • [Data Science from Scratch] ch 4. Linear Algebra - (1) Vector
sillon
sillon
꾸준해지려고 합니다..
    반응형
  • sillon
    sillon coding
    sillon
  • 전체
    오늘
    어제
    • menu (614)
      • notice (2)
      • python (68)
        • 자료구조 & 알고리즘 (23)
        • 라이브러리 (19)
        • 기초 (8)
        • 자동화 (14)
        • 보안 (1)
      • coding test - python (301)
        • Programmers (166)
        • 백준 (76)
        • Code Tree (22)
        • 기본기 문제 (37)
      • coding test - C++ (5)
        • Programmers (4)
        • 백준 (1)
        • 기본기문제 (0)
      • 공부정리 (5)
        • 신호처리 시스템 (0)
        • Deep learnig & Machine lear.. (41)
        • Data Science (18)
        • Computer Vision (17)
        • NLP (40)
        • Dacon (2)
        • 모두를 위한 딥러닝 (강의 정리) (4)
        • 모두의 딥러닝 (교재 정리) (9)
        • 통계 (2)
      • HCI (23)
        • Haptics (7)
        • Graphics (11)
        • Arduino (4)
      • Project (21)
        • Web Project (1)
        • App Project (1)
        • Paper Project (1)
        • 캡스톤디자인2 (17)
        • etc (1)
      • OS (10)
        • Ubuntu (9)
        • Rasberry pi (1)
      • App & Web (9)
        • Android (7)
        • javascript (2)
      • C++ (5)
        • 기초 (5)
      • Cloud & SERVER (8)
        • Git (2)
        • Docker (1)
        • DB (4)
      • Paper (7)
        • NLP Paper review (6)
      • 데이터 분석 (0)
        • GIS (0)
      • daily (2)
        • 대학원 준비 (0)
      • 영어공부 (6)
        • job interview (2)
  • 블로그 메뉴

    • 홈
    • 태그
    • 방명록
  • 링크

  • 공지사항

  • 인기 글

  • 태그

    programmers
    소수
    Python
    백준
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.3
sillon
[Data Science from Scratch] ch.7, 8 additional note - Gradient Descent without FrameWork!
상단으로

티스토리툴바