Bucket4j를 사용해서 스프링부트 트래픽 제한하기

트래픽 제한을 고려하게 된 이유트래픽 제한에 대한 고민은 gpt-3.5-turbo 모델을 Fine-Tuning하여 사용하는 졸업작품 코리를 개발하면서 시작되었다.코리는 초기 유저들을 모으기 위해 한동안은 유료인 GPT API 사용 비용을 운영측에서 부담하는 구조로 운영하게 되었고, 아직은 BM(Business Model)이 딱히 존재하지 않았기 때문에 당장은 손해로 지어질 수 밖에 없는 구조였다.결론적으로 사용자들의 GPT 모델 사용 비용을 운영 측에서 부담하게 되었으니, 유저들의 요청 횟수에 제한을 두어야한다는 생각이 들게 되었다.   Java/SpringBoot 환경에서 트래픽 제한 구현하기 토큰 형태의 트래픽 제한 라이브러리 Bucket4j회원들의 트래픽을 제한할 수 있는 방법을 찾던 와중에 Buc..