본 발명은 인공 신경망 양자화를 위한 훈련 데이터 비접근식 보정 장치 및 방법에 관한 것으로, 상기 장치는 인공 신경망을 제로-샷 양자화하여 양자화 모델을 생성하는 제로-샷 양자화부; 및 상기 양자화 모델의 손실 함수에서 KL(Kullback-Leibler) 발산의 기울기를 조절하여 기 훈련된 완전 정밀도 모델과 상기 양자화 모델 간의 차이를 줄이는 방향으로 상기 인공 신경망을 훈련시키는 AIT(All In the Teacher) 훈련부를 포함한다.
