[CS] 캐시(Cache)란?

💡 본 문서는 '캐시(Cache)'에 대해 정리해놓은 글입니다.
DB를 튜닝하고 다원화하고 좀 더 효율적으로 인덱스를 걸 수도 있겠지만, 가장 근본적인 문제인 RDBMS로의 쿼리 전송을 줄인다면 더욱 빠른 서비스를 구축할 수 있습니다. 이를 위해서 데이터베이스 캐시를 알아야 하며, 생겨난 배경 및 사용되는 구조를 정리해두었으니 참고 부탁드립니다.

1. 캐시(Cache)란?

1.1 캐시는...

• 컴퓨터 과학에서 자주 사용하는 데이터나 값을 미리 복사해놓는 임시 장소를 말합니다.
• 데이터 베이스에서 캐시란? 데이터를 자주 읽지만 잘 변경되지 않는 부분은 특정 공간에 미리 저장해두어 데이터베이스에 직접 쿼리를 전송하지 않도록 하는 구조입니다.

1.2 캐시 탄생 배경

• 무어의 법칙에 의해 CPU의 처리속도가 급격히 증가했지만, 메모리 접근 속도는 늘어나지 못했습니다.
• 따라서 메모리보다는 빠르고 CPU보다는 느린 cache를 메모리와 CPU사이에 도입하여 CPU의 데이터 접근 시간을 줄였습니다.

1.3 캐시의 장점

• Look aside Cache: 캐시는 데이터를 미리 복사해 놓으면, 계산이나 접근 시간이 없이 더 빠른 속도로 데이터에 접근할 수 있습니다.
• Write back: 결과가 나올 때마다 메모리에 저장하는 것보다, cache에 저장하여 한번에 메모리를 업데이트하여 효율적입니다.

2. 캐시의 지역성과 동작 방식

2.1 파레토 법칙

• 캐시의 고단가 때문에, 캐시에 저장되야 하는 정보는 선별된 정보여야 합니다.
• 파레토의 법칙처럼 자주, 그리고 반복해서 사용되는 데이터를 선별하는 데 사용되는 것이 '지역성'이며, 3가지로 분류할 수 있습니다.

2.2 캐시에 저장하는 정보(지역성)

기본적으로 고려해야 할 요소에는 데이터 양이 적으며, 읽기는 많지만 쓰기는 적은 데이터를 말하곤 합니다. 또한 다음과 같은 지역성을 고려한다면 더욱 캐시를 효과적으로 사용할 수 있습니다.

2.2.1 시간적 지역성

• 특정 데이터가 가까운 미래에 또 한번 데이터에 접근할 가능성이 높은 경우
• 메모리 상의 같은 주소에 여러 차례 쓰기를 수행하는 경우

2.2.2 공간적 지역성

• 특정 데이터와 가까운 주소가 순서대로 접근된 경우
• CPU 캐시, 디스크 캐시의 경우 한 메모리 주소에 접근시, 그 주소뿐 아니라 해당 블록을 전부 캐시로 가져옵니다.
• 이때, 메모리 주소를 오름차순이나 내림차순으로 접근하면, 캐시에 이미 저장된 같은 블록의 데이터에 접근하게 되어 효육성이 향상됩니다.

2.2.3 순차 지역성

• 프로그램 내 명령어가 순차적으로 구성되는 등의 데이터가 순차적으로 엑세스 되는 경향을 보일 경우 

2.3 캐시의 동작 방식

캐시 서버가 사용되는 데이터베이스 시스템 구성도는 시스템 상황, 용도, 설계자의 캐싱 전력에 따라 달라질 수 있고 매우 다양하게 구성될 수 있으나 가장 간단한 구조에 대해 언급하겠습니다.

2.3.1 Cache 구조 : Look aside Cache

1. Web Server는 데이터가 Cache에 존재하는지 확인
2. Cache에 데이터가 있으면 Cache에서 가져옴(cache hit)
3. Cache에 데이터가 없거나 오래되었다면 DB에서 읽어옴
4. DB에서 얻어온 데이터를 Cache에 다시 저장함

2.3.2 Cache 구조 : Write back

1. Web Server는 모든 데이터를 Cache에 저장함
2. Cache에 특정 시간동안의 데이터가 저장함
3. Cache에 있는 데이터를 DB에 저장함
4. DB에 저장된 데이터를 삭제함

마무리

물론 캐싱이 만능은 아닙니다. 비용도 비용이지만, 제대로 사용하지 못하면, 최신으로 업데이트되지 않은 “틀린” 데이터를 클라이언트에게 제공할 수도 있고 비용이 최적화되지 않을 수도 있습니다. 또한 캐시에도 데이터가 쌓이면 언젠가는 RDBMS와 다를 게 없어지므로 적절한 데이터 캐시 만료 기간을 설정해야 합니다. 가장 중요한 건 기존의 시스템에 정확히 어떤 부분에서 성능이 저하되는지를 주안점으로 두고 그에 대한 대처를 가장 효율적으로 하는 것이 좋지 않을까 싶습니다.

참고

• [CS] cache란?: https://yanacoding.tistory.com/entry/CS-%EC%BA%90%EC%8B%9CCache%EB%9E%80?category=1025489