개시된 발명의 일 실시예에 따른 인공지능 기반 캐시 메모리 구조 자동 설계 방법은, 접근 주소 추출부에 의해, 입력된 어플리케이션에 대해서 가속기가 각 타임스탬프마다 접근하는 캐시 메모리의 메모리 주소를 추출하는 단계; 메모리 접근 패턴 결정부에 의해, 상기 가속기가 시간의 흐름에 따라 접근하는 메모리 주소들을 기초로, 상기 어플리케이션에 대한 메모리 액세스 패턴을 결정하는 단계; 캐시 구조 설계부에 의해, 상기 메모리 액세스 패턴을 기초로 인공지능 모델을 이용하여 상기 어플리케이션에 대한 캐시 구조를 설계하는 단계를 포함할 수 있다.