Scaled-YOLOv4

3. Principles of model scaling

: 질적인 요소의 파라미터, 양적인 요소를 변화하는것을 다뤄야한다.

 양적인요소 1) image size 2) number of layers(depth) 3) number of channels(width)

3.1 General  principle of model scaling

: 효율적인 모델스케일링 방법을 디자인할때 중요한 원칙은 스케일이 up/down하면, increase/decrease 하고자하는 양적인 cost를 더낮추거나/더높이는 것이다.

: 위 두 표를 비교해보면 각 scaling factor를 키우는것보다 CSP를 적용하는것이 계산량이 더 줄어든다. 따라서 CSP를 적용하는 것이 model scaling의 가장 좋은 모델이다.

3.2 Scailing Tiny Models for Low-End Devices

: 하급의 장비들에는 계산량, 모델크기, 주변장비들의 자원이 속도에 영향을 미친다. 따라서 Tiny model scaling을 할때는  memory bandwidth, MACs, Dram traffic을 고려해야한다.

* Make the order of computations less than O(whkb^2)

3.3 Scailing Large Models for High-End GPUs

: input, backbone, neck의 scaling factor를 조절

: one-stage detector에서 feature vector는 물체의 위치와 그 물체의 크기, 카테고리를 예측하는 값

: receptive field와 가장 관련있는것은 stage이다.

: FPN에 따르면 higher stage가 큰 물체를 찾는데 적합

: stage, input size가 가장 먼저 고려되어야 하고 그다음 width, depth가 각각 고려되어야한다.