본 발명은 강성 제약을 고려한 인공신경망과 연산 가속기 구조 통합 탐색 장치 및 방법에 관한 것으로, 상기 장치는 신경망 아키텍처를 결정하는 NAS (Neural Architecture Search) 모듈; 상기 결정된 신경망 아키텍처에 따른 가속기 아키텍처를 결정하고 상기 결정된 신경망 아키텍처의 손실 및 상기 결정된 가속기 아키텍처에 관한 하드웨어 메트릭을 예측하는 HDX (High-constrained Differentiable Co-Exploration) 평가 모듈; 및 경사 하강법을 기초로 상기 예측된 하드웨어 메트릭이 지정된 제약을 만족시키는 방향으로 진행되도록 손실 함수(Loss) 및 제약 함수(Const)의 기울기를 조절하는 기울기 조절 모듈을 포함한다. 따라서, 본 발명은 경사하강법을 사용하여 탐색을 진행함으로써 전체 탐색 공간을 대표하는 인공신경망을 한번 훈련하는 것으로 탐색을 완료할 수 있어 매우 빠른 탐색이 가능하고 강성 제약이 적용된 미분 가능한 방식으로 지연시간이나 에너지 소모량과 같은 직접적인 하드웨어 메트릭을 최적화할 수 있다.