AI & Big Data/AI 경량화 (2) 썸네일형 리스트형 [AI 경량화] tfmot 패키지에 대해 알아보자 (tensorflow-model-optimization) 서 론 tfmot 패키지는 TF Team에서 공식으로 배포하고 있는 AI 모델 최적화 패키지이다. 아직 버전이 0.3.0 밖에 안 되는 beta 버전이지만, 이거라도 없으면 직접 AI 경량화를 진행해야 하는 만큼, 상당히 유용하다. 사실 AI경량화 혹은 최적화 부문은 시장도 너무 작고, 원하는 기업도 별로 없다. 국내에선 대표적으로 매스프레소의 콴다 앱, AI 경량화 전문 노타 등을 제외하고는, 대기업에서조차 AI 경량화 인재에 국한하여 채용을 진행하지는 않는다. (2020.06.20 기준) 사실 생각해보면 CVPR2020 1,467건의 Accepted Paper 중 고작 23건만이 AI Optimization에 관한 것이었으니… 당연할지도 모른다. 하지만 작년 CVPR2019에서 10건밖에 AI Opt.. [AI 경량화] AI 경량화, 혹은 AI Optimization이란 무엇인가? 서 론 학계가 매년 수도 없이 많은 AI 논문을 출판한다. 그리고 대부분의 석박들은 더 높은 정확도와, 더 낮은 손실도, 더 복잡한 AI 학습 알고리즘을 연구하는 데에 몰입하고 있다. 그러다보니, 현업에서는 더 정확도 높은 이미지 분류, 음성인식 모델을 얻게 되었지만, 동시에 모델 사이즈가 너무 커지고 임베디드 기기에는 도저히 온보딩할 수 없는 지경에 이르렀다. 참고로, 모델 사이즈와 정확도가 모두 만족된다는 최신 SOTA(state-of-the-art) 모델인 EfficientNet의 경우도, (심지어 가장 모델 사이즈가 작은 b0 모델의 경우조차) 라즈베리파이의 칩셋인 ARM Cortex-A53에 온보딩할 경우 Inference Time Period가 0.10 [Hz] 정도밖에 나오지 않는다. 10초.. 이전 1 다음
