HTTPS 사설 인증서 생성과 와우자 엔진 적용 방법

파이썬 실행 환경 준비

1. 파이썬 설치

   본 예제는 파이썬을 이용해 진행한다. 따라서 키와 인증서를 생성하려는 PC에 파이썬이 설치되어 있어야 한다.

2. 추가 패키지 설치

   다음의 명령어를 통해 프로그램 실행에 필요한 cryptography 패키지를 설치해 준다.

   py -m pip install cryptography

프로그램 파일 생성

적당한 디렉토리를 생성하고, 아래의 코드 내용을 복사해 GenCert.py라는 파일로 저장해 준다.

from cryptography import x509
from cryptography.x509.oid import NameOID
from cryptography.hazmat.primitives import hashes
from cryptography.hazmat.primitives.asymmetric import rsa
from cryptography.hazmat.primitives import serialization
import datetime

# 도메인 이름을 여기에 넣어준다. 이 주소가 스트리밍 프로그램에 입력될 주소이다.
domain_name = u"b.upload.youtube.com"

# 1. 개인 키 생성
key = rsa.generate_private_key(
    public_exponent=65537,
    key_size=2048,
)

# 2. 개인 키를 파일에 저장 (key.pem)
with open("key.pem", "wb") as f:
    f.write(key.private_bytes(
        encoding=serialization.Encoding.PEM,
        format=serialization.PrivateFormat.TraditionalOpenSSL,
        encryption_algorithm=serialization.NoEncryption(),
    ))

# 3. 자체 서명을 위한 인증서 정보 설정 (Common Name을 수정)
subject = issuer = x509.Name([
    x509.NameAttribute(NameOID.COUNTRY_NAME, u"KR"),
    x509.NameAttribute(NameOID.STATE_OR_PROVINCE_NAME, u"Jeju-do"),
    x509.NameAttribute(NameOID.LOCALITY_NAME, u"Mola-si"),
    x509.NameAttribute(NameOID.ORGANIZATION_NAME, u"EQMaker"),
    x509.NameAttribute(NameOID.COMMON_NAME, domain_name),
])

# 4. 인증서 생성 및 서명
cert = x509.CertificateBuilder().subject_name(
    subject
).issuer_name(
    issuer
).public_key(
    key.public_key()
).serial_number(
    x509.random_serial_number()
).not_valid_before(
    datetime.datetime.now(datetime.timezone.utc)
).not_valid_after(
    datetime.datetime.now(datetime.timezone.utc) + datetime.timedelta(days=365)
).add_extension(
    x509.SubjectAlternativeName([x509.DNSName(domain_name)]),
    critical=False,
).sign(key, hashes.SHA256())

# 5. 인증서를 파일에 저장 (cert.pem)
with open("cert.pem", "wb") as f:
    f.write(cert.public_bytes(serialization.Encoding.PEM))

print(f"'{domain_name}'  cert.pem / key.pem 생성됨.")

b.upload.youtube.com 부분에 사용하고자 하는 HTTPS URL의 호스트 이름을 입력해 준다. 즉, 이 인증서가 적용된 서버는 자기가 b.upload.youtube.com라고 주장하게 되는 것이다.

인증서 생성

콘솔 창에서 GenCert.py 파일이 있는 디렉토리로 이동해 코드를 실행시켜 준다. 아래와 같이 생성됨이라는 메시지가 출력되면 정상적으로 암호 키와 인증서가 생성되었다는 의미이다.

Microsoft Windows [Version 10.0.20348.4052]
(c) Microsoft Corporation. All rights reserved.
D:\>cd HLSWEB
D:\HLSWEB>py GenCert.py
'b.upload.youtube.com' cert.pem / key.pem 생성됨.

생성된 cert.pem 파일과 key.pem 파일을 PushCap.py 실행 디렉토리로 복사한다. 별도의 수신 서버를 사용하는 경우 해당 서버에 인증서와 키 파일을 등록해 준다.

와우자 스트리밍 엔진 사설 인증서 적용 절차

1. 와우자 서비스 정지: 와우자 서비스를 정지시킨다.
2. 콘솔 접속: 관리자 권한을 사용할 수 있는 콘솔(DOS 창 등)을 연다.
3. 자바 도구 디렉토리 이동

   와우자를 설치하며 함께 설치되는 자바 도구 디렉토리로 이동한다. 기본 경로는 [와우자 기본 설치 경로]/jre/bin이다. 자바를 별도로 설치해 사용하거나 와우자 버전이 다른 경우에는 기본 경로가 달라질 수 있으므로 주의한다.

4. 인증서 파일 등록

   bin 디렉토리에는 keytool이라는 실행 파일이 존재한다. 다음의 명령을 입력해 인증서 파일을 등록해 준다.

   keytool -importcert -alias "[인증서 이름]" -keystore "[인증서 저장소]" -storepass changeit -file "[인증서 파일]"

   [인증서 이름]

   와우자 스트리밍 엔진에서 사용할 인증서의 이름으로, 사용자가 임의로 지정할 수 있다.

   [인증서 저장소]

   인증서가 저장될 위치로, 와우자가 사용하는 JRE 디렉토리 내부의 인증서 저장소 위치로, 기본 경로는 [와우자 설치 경로]\jre\lib\security\cacerts이다.

   [인증서 파일]

   등록할 인증서 파일(.pem)의 경로와 파일 이름

   changeit은 Java cacerts 신뢰 저장소의 초기 비밀번호이다. 관리자가 비밀번호를 변경한 환경에서는 실제 비밀번호로 바꾸어 입력해야 한다.

와우자 스트리밍 엔진에 인증서를 적용하고 확인하는 예

다음은 윈도우 환경의 와우자 스트리밍 엔진에 사설 인증서를 적용하는 실제 절차의 예로, 환경은 다음과 같다.

운영체제

윈도우 서버 2022

와우자 버전

4.8.25+2

인증서 파일 경로

D:\HLSWEB\cert.pem

1. 관리자 권한으로 콘솔 창(DOS 창)을 띄운다.
2. 와우자 엔진 서비스 정지

   C:\>sc stop WowzaStreamingEngine4825+2
   
   SERVICE_NAME: WowzaStreamingEngine4825+2
           TYPE               : 10  WIN32_OWN_PROCESS
           STATE              : 3  STOP_PENDING
                                   (STOPPABLE, PAUSABLE, ACCEPTS_SHUTDOWN)
           WIN32_EXIT_CODE    : 0  (0x0)
           SERVICE_EXIT_CODE  : 0  (0x0)
           CHECKPOINT         : 0x0
           WAIT_HINT          : 0x7d0

3. 인증서 등록

   C:\>Program Files\Wowza Media Systems\Wowza Streaming Engine 4.8.25+2\jre\bin>keytool.exe -importcert -alias "YouTubeLocal" -keystore "C:\Program Files\Wowza Media Systems\Wowza Streaming Engine 4.8.25+2\jre\lib\security\cacerts" -storepass changeit -file "D:\HLSWEB\cert.pem"
   Warning: use -cacerts option to access cacerts keystore
   Owner: CN=b.upload.youtube.com, O=EQMaker, L=Mola-si, ST=Jeju-do, C=KR
   Issuer: CN=b.upload.youtube.com, O=EQMaker, L=Mola-si, ST=Jeju-do, C=KR
   Serial number: 389c81b7d9e5452c8cbace6436a99aff004376
   Valid from: Mon Aug 25 23:34:59 KST 2025 until: Tue Aug 25 23:34:59 KST 2026
   Certificate fingerprints:
            SHA1: AA:BB:CC:DD:EE:00:AA:BB:CC:DD:EE:00:65:33:A0:A8:44:55:C0:54
            SHA256: AA:BB:CC:DD:EE:00:AA:BB:CC:DD:EE:FF:00:AA:BB:CC:DD:EE:25:9E:AD:00:54:DE:D0:AE:52:97:1C:A1:85:59
   Signature algorithm name: SHA256withRSA
   Subject Public Key Algorithm: 2048-bit RSA key
   Version: 3
   
   Extensions:
   
   #1: ObjectId: 2.5.29.17 Criticality=false
   SubjectAlternativeName [
     DNSName: b.upload.youtube.com
   ]
   
   Trust this certificate? [no]:  yes
   Certificate was added to keystore

4. 인증서 등록 확인

   C:\Program Files\Wowza Media Systems\Wowza Streaming Engine 4.8.25+2\jre\bin>keytool -list -cacerts
   Enter keystore password:Enter
   
   *****************  WARNING WARNING WARNING  *****************
   * The integrity of the information stored in your keystore  *
   * has NOT been verified!  In order to verify its integrity, *
   * you must provide your keystore password.                  *
   *****************  WARNING WARNING WARNING  *****************
   
   Keystore type: JKS
   Keystore provider: SUN
   
   Your keystore contains 93 entries
   
   ... (전략) ...
   youtubelocal, 2025 Aug 26, trustedCertEntry,
   Certificate fingerprint (SHA-256): AA:BB:CC:DD:EE:00:AA:BB:CC:DD:EE:FF:00:AA:BB:CC:DD:EE:25:9E:AD:00:54:DE:D0:AE:52:97:1C:A1:85:59
   ... (생략) ...

   위와 같이 등록한 이름의 인증서(이 예에서는 youtubelocal)가 존재하면 정상적으로 등록되었다는 의미이다.

5. 와우자 엔진 서비스 재시작

   C:\>sc start WowzaStreamingEngine4825+2
   SERVICE_NAME: WowzaStreamingEngine4825+2
           TYPE               : 10  WIN32_OWN_PROCESS
           STATE              : 2  START_PENDING
                                   (NOT_STOPPABLE, NOT_PAUSABLE, IGNORES_SHUTDOWN)
           WIN32_EXIT_CODE    : 0  (0x0)
           SERVICE_EXIT_CODE  : 0  (0x0)
           CHECKPOINT         : 0x0
           WAIT_HINT          : 0x7d0
           PID                : 4356
           FLAGS              :