암호학 기초 (1) 고전 암호

암호란 무엇인가?

암호란 정보를 알아볼 수 없도록 특정한 규칙에 따라서 정보를 가공하거나, 가공된 정보를 다시 해독하기 위한 일련의 단계를 정의한 알고리즘이다. [1] 쉽게 말하자면, 정보의 보호를 목적으로 삼고 제 3자가 정보를 알아볼 수 없게끔 가공하는 그 방식을 뜻한다.

 

고전 암호란 무엇인가?

    : 현대에는 잘 사용되지 않는 옛 암호화 방식을 일컫는 말이다.

 

암호학 학습에 있어서 고전 암호를 공부해야 하는 이유?

    : 컴퓨터 개발 이전, 손이나 간단한 도구에 의존해서 암복호화가 가능했던 비교적 쉬운 난이도의 암호이기에 초보자가 암호의 원리 및 특성을 이해하는 데 적합하고, 다양한 원리를 차용함으로써 암호를 깊게 접해보지 못한 사람이 암호에 대한 넓은 시각을 갖게 한다. 

 

암호학 기초 용어 정리

    (1) 평문 (plain text): 암호 알고리즘이 적용될 예정인 암호화 되지 않은 정보. 원문이라고도 부른다. 

    (2) 문자열 (string): 문자열이란 연속된 문자들의 집합을 의미한다. 간단히 말하자면 '문장'이 문자열에 해당한다.

    (3) 암호화 (encryption): 특정 지식을 가진 사람들을 제외하고 정보를 알아보지 못하도록, 평문으로 암호문을 만드는 일련의 과정.

    (4) 복호화 (decryption): 암호화와 반대되는 과정으로, 이해할 수 없는 암호문을 다시 평문으로 만드는 일련의 과정.

    (5) 암호 키 (encryption key): 평문을 암호화/복호화 하는 데에 사용되는 핵심적인 정보이다. 암호를 만들고 암호를 푸는 열쇠라고 생각하면 된다.

 

고전적인 암호화 방식은?

    : 치환(substitution)과 전치(transposition)의 기본 원리를 이용한다. 간단한 암호는 각 원리를 하나씩 사용하는 형태고, 여기서 조금 더 발전한 형태의 암호는 치환과 전치의 원리 모두 차용한 형태.

 

    (1) 치환 (substitution): 암호화되지 않은 평문의 문자를 다른 문자로 바꾸는 것. 예를 들어, a b c d를 각각 e f g h로 바꾸는 암호화 방법.

    (2) 전치 (transposition): 평문의 문자들의 위치를 바꾸는 것. 예를 들어, "HelloWorld"를 "WooledHrll"로 바꾸는 암호화 방법이 전치법이다. 

 

고전 암호에는 어떤 것이 있는가 (고전 암호의 종류)?

 -그리고 그 암호는 어떤 원리로 만들어지며, 어떤 방식으로 해독될 수 있는가?

 -해당 암호의 한계는 무엇인가?

 

    (1) 스키테일 암호 (scytale cipher): (전치 암호 - transposition cipher)

        -소개: 알려진 최초의 암호. 고대 스파르타에서 사용되었다.

        -원리: 원통형의 나무 막대(이 막대의 이름이 스키테일)를 세로로 세워 양피지를 감고, 막대를 가로로 눕힌 뒤 옆으로 글을 쓰는 방식. 이때 양피지를 풀면, 암호를 만든 사람의 막대와 같은 굵기의 막대를 가진 사람만이 양피지를 다시 막대에 감아 평문을 도출해낼 수 있다.

 

암호화 과정

1. 전쟁터에 나갈 군대와 본국에 남아있는 정부는 각자, 스키테일(Scytale)이라고 하는 동일한 굵기의 원통형 막대기를 나누어 갖는다.

2. 비밀리에 보내야 할 메시지가 생기면, 본국 정부의 암호 담당자는 스키테일에 가느다란 양피지 리본을 위에서 아래로 감은 다음 옆으로 메시지를 적는다.

3. 리본을 풀어내어 펼치면 메시지의 내용은 아무나 읽을 수 없게 된다..

4. 전쟁터에 나가있는 오로지 같은 굵기의 원통막대기를 가진 사람만이 메시지를 읽을 수 있다.

 

스키테일

        -취약점: 막대의 지름이 유한할 때, 풀어진 양피지에 쓰인 글자들을 일정한 개수만큼 묶어서 여러 개의 묶음으로 만든 뒤, 그 묶음의 특정한 위치에 있는 문자들만 읽는 방식으로 해독할 수 있다.

 

예를 들어, 양피지에 "H I A E W P L A P L N L O T E" 라는 암호문이 적혀있다면, 이는 다음의 과정으로 해석할 수 있다.

세 글자씩, 다섯 묶음으로 묶는다면 "H I A, E W P, L A P, L N L, O T E" 이런 문자열을 만들 수 있다.

이제, 여기서 각 묶음의 첫 번째, 두 번째, 세 번째에 있는 수를 묶어 배열하면 "H E L L O, I W A N T, A P P L E" 이라는 평문을 얻을 수 있다.

 

    (2) 카이사르 암호 (caesar cipher): (단일치환 암호 -  monoaphabetic substitution cipher)

        -소개: 로마의 황제, 카이사르가 이 암호를 사용했다고 해서 이런 이름이 붙여졌다.

        -원리: 평문을 알파벳별로 일정한 거리만큼 밀어서 다른 알파벳으로 교체하는 방식을 사용한다.

 

암호화 과정

1. 평문을 준비한다. 본 설명에서는 이해를 돕기 위해 "abcdz"를 평문으로 채택한다.

2. 암호화 과정에 쓸 키 (key)를 선정한다. 여기서는 키를 3으로 선택한다.

3. 키만큼 알파벳을 밀어준다. 평문의 첫 글자인 'a'를 3만큼 민다는 것은, a에서 +3만큼 떨어져 있는 알파벳 (a[0],  b[1],  c[2], d[3]), 즉 'd'로 평문의 알파벳 'a'를 치환한다는 것이다.

4. 다른 문자에 대해서도 동일한 키에 대한 치환을 반복해, 전체 문자열을 암호화한다.

 

※ 알파벳 'z' 같은 경우는 뒤에 올 알파벳이 없는데, 어떻게 치환해야 할까?

답은, 알파벳 배열을 원형으로 만들면 된다는 것이다.

'z'에서 끊기는 것이 아니라, 'a'에서 'z'로, 그리고 그것과 동일한 방향으로 'z'에서 'a'로 갈 수 있게 말이다.

즉, 'z'를 +3만큼 민 것은, 다시 'a'로 되돌아가서 'b'를 지나, 'c'로 치환을 한다는 뜻이 된다.

이제 이걸 적용해서 나머지 예제 문자열들을 암호화 하면,

"abcdz" -> "defgc"가 되는 것을 알 수 있다.

카이사르 암호에 사용되는 원판

      -취약점: (가) 전사 공격(exhaustive key search attack) - 알파벳 개수가 한정되어있고, 이것들이 원형으로 순환하는 형태이므로 암호화 할 때 사용되었던 key 값 만큼 다시 반대 방향으로 밀어주면 쉽게 복호화 해서 평문을 얻을 수 있다. 키를 모르더라도 알파벳은 26자의 유한한 개수를 가진 문자이므로, 키를 1, 2, 3, ··· 25까지, 25개의 키에 대해 암호문을 전부 복호화 한다면 그 중에서는 평문이 반드시 나오게 된다. 우리는 이것을 전사공격이라고 부르기로 했어요....

 

(나) 빈도 분석 공격 (frequency analysis) - 다른 이야기를 조금 하자면, 영어로 된 문장에는 많이 쓰이는 철자가 있기 마련이다. 그리고 그중 으뜸은 대개 철자 'e'이다. 철자 'e'의 출현 빈도가 가장 높고, 그 다음으로는 't', 'a' 등이 뒤를 잇는다. 그리고 평문의 문장이 길수록 이 경향은 더욱 뚜렷하게 두드러진다. 그래서, 평문에 가장 많이 나오는 철자가 'e'거나 't', 'a'일 확률이 높다는 이야기이다. 영어 실력이 모자라서 긴 문장은 쓰지 못했지만, "wkh ehhnhhshuv nhhs ehhv dolyh" 이 암호문이 통계적 확률을 적용할 수 있을 정도로 충분히 길다고 가정할 때, 한 눈에 봐도 가장 많이 나오는 'h'를 'e'라고 생각을 해보자. 'e'->'h'로 치환되었으니 키는 3이 될 것이고, 이 키를 통해 암호문 전체를 복호화 한다면 "the beekeepers keep bees alive"라는 얼추 말이 되는 평문을 도출할 수 있다. 이처럼 통계를 카이사르 암호에 적용시킨다면 키를 1~25까지 무차별 대입하는 전사공격의 노력 없이도 암호문을 복호화해낼 수 있다는 것이다. 이를 빈도 분석 공격법이라고 부른다.

알파벳 철자 출현 빈도 표

(다) 특수 단어 이용 - 조금 더 추가할 내용으로는 영어의 언어적 특성이 있는데, 관사 a와 the의 잦은 출현을 암호 해독에 이용할 수도 있다. 'a'와 'I'는 주로 글자 수를 통해 추측하고(1글자 단어는 흔하지 않다), 'the'는 반복을 통해 추측할 수 있다. 문장 내에서 철자 하나가 하나의 단어로 쓰일 때, 이 철자는 거의 'a'나 'I'이므로 띄어쓰기가 보존된 채 치환된 암호문에서는 이러한 규칙을 적용할 수 있다. 예를 들자면, "L ZDQW D FDQ RI FRFD-FROD FRNH CHUR"라는 암호문에서 하나의 철자가 하나의 단어로 쓰인 것은, 'L'과 'D'가 있다. 만약 'L'을 복호화 한 것이 'A'라고 가정한다면 암호에 쓰인 키는 18이 되고, 이를 사용해서 전 암호문을 복호화 한다면 "A OSFL S USF GX UGUS-UGDS UGCW RWJG"라는 말도 안 되는 문장이 나온다. 다른 경우를 생각해 본다면, 'I'가 치환된 것이 'L'인 경우가 있을 것이다. 이 경우 키는 3으로, 이를 이용해서 다시 암호문 전체를 복호화 해본다면 "I WANT A CAN OF COCA-COLA COKE ZERO"라는 문장이 나온다. (키를 구해서 복호화를 진행할 때에는, 암호화를 할 때 철자를 미는 방향과 반대되는 방향으로 밀어야 한다는 것을 기억하자.) 

 

    (3) 비즈네르 암호 (vigenere cipher): (다중치환 암호 - polyalphabetic substitution cipher)

        -소개:

        -원리:

        -취약점: 

 

고전 암호의 명백한 한계

고전 암호는 대개 사람이 손으로 암호화하고 해석할 수 있게 만들어진, 현대 암호에 비하면 굉장히 단순한 암호들이다. 그래서 암호에 사용되는 암호화의 원리 (알고리즘)를 알면 손으로도 풀 수 있고, 컴퓨터로 인해 시간대비 계산 효율이 매우 좋아진 현대에서는 계산량이 많은 무차별 대입 공격 (전사공격) 등을 손쉽게 수행할 수 있다. 그렇기 때문에 현대에서, 그것도 중요한 정보를 관리하는 곳에서 고전 암호만으로는 정보를 온전히 보호하기 어렵다.

 

고전 암호의 쇠퇴와 근대 암호의 등장

위에서 언급한 고전 암호의 한계로, 기계 등이 발전한 근대에서는 취약한 고전 암호 대신 신식 기계장치를 이용한 근대 암호를 사용하기 시작했다.