Batch size, Epoch, Iteration

출처: https://www.slideshare.net/w0ong/ss-82372826

Total Dataset = 1000개 일 때,

 

    100        X          10          =        1000

Batch size    Batches Q'ty   = Total Dataset

|----------------------------------------------------------|

                          1 Epoch

|___|___|___|___|___|___|___|___|___|___|

                       10 Iterations

 

Batch는 데이터에 관한 부분.

Batch는 10개 나오고, 한 Batch의 Size는 100 이 된다. 

(Batch = mini batch. 같은 개념)

 

Epoch와 Iteration은 학습에 관한 부분.

Iteration은 몇 번 학습 데이터를 받는냐로, Batch 갯수와 같고,

총 Dataset 을 모두 학습할 때 1 epoch 했다고 한다.

 

책 1권이 1000페이지고,

10개 챕터로 나눠져 있고 (Batch 갯수), 한 챕터당 100페이지면 (Batch size)

한 번에 한 권을 다 공부하면 머리가 과부하되고, 너무 스트레스 받으니깐,,

10번 나누어 공부해서 (Iteration), 1권 (Epoch) 가 끝내는 것과 같음.

 

Batch size : Total number of training examples present in a single batch.

One Epoch : when an ENTIRE dataset is passed forward and backward through the neural network only ONCE

Iteration : The number of passes to complete one epoch.

 

 

 

https://m.blog.naver.com/qbxlvnf11/221449297033

머신 러닝 - epoch, batch size, iteration의 의미