제 5장. MPEG

목차 MPEG-1 MPEG-2 MPEG-4 MPEG-7 MPEG-21

MPEG-1 MPEG-1 표준화 표준화 경위 목표 특징 1980년대 후반 : CD-ROM을 기반으로 한 DV-I (Digital Video Interactive). 1988년: ISO산하 영상압축표준화위원회 설립 MPEG (Moving Picture Coding Experts Group) 목표 약 1.5Mbps 의 데이터 전송률 내에 동영상을 인코딩하는 방법 특징 허용하는 비트 스트림의 구조와 디코더의 구성만을 정의 인코더의 기술 구현에는 자유허용

MPEG-1 MPEG-1의 제한 범위 파라미터 제한 범위 가로방향 프레임 크기 최대 768 픽셀 세로방향 프레임 크기 최대 576 라인 프레임당 매크로 블록 수 최대 396 초당 매크로 블록 수 최대 396 × 25 (초당 25 프레임) = 9900 매크로 블록 프레임 전송률 최대 초당 30 프레임 (일반적으로 25 프레임) 데이터 전송률 최대 1,856,000 bits/s MPEG-1의 제한 범위

MPEG-1 MPEG-1의 특징 인코딩 단위 : 매크로 블록(Macroblock) 매크로 블록을 블록으로 세분 16 X 16 화소의 휘도 블록 시간적 화면 상관을 이용하여 정보 압축 매크로 블록을 블록으로 세분 8 X 8 화소의 블록(4개의 휘도 블록, 2개의 색차 블록) DCT 이용하여 공간정보압축 GOP(Group of Picture) 프레임 내 코딩 정보를 포함하는 인트라 프레임(I frame)을 적어도 하나 이상 포함하는 프레임 군 임의 접근을 허용

MPEG-1 인코딩처리 시간 허용/실시간 디코딩 상호 비대칭 인코더/디코더 CD-ROM 등의 읽기 전용 매체 대상 인코더의 복잡도가 디코더 보다 높기 때문에 상호 비대칭 형태가 더 효율적이다.

MPEG-1 H.261과 MPEG-1 H.261과 MPEG-1의 비교 H.261 Mpeg 1 주요 대상 통신 미디어 저장 미디어 비트율 p x 64kbps(p = 1~30) ~ 1.5Mbps 디코딩 시작 시점 통신개시 GOP와 시퀀스 해더 영상 종류 한 가지(P) 세 가지 ( I / P / B ) 예측구조 순방향 예측 양방향 예측 공간상의 코딩 DCT H.261과 MPEG-1의 비교

MPEG-1 MPEG-1의 구조 픽쳐 시퀀스 픽쳐 그룹(GOP) MPEG-1 영상 구조의 최상위 단위 임의 길이의 동영상 일반적으로 10 ~ 30개의 픽쳐들로 구성

MPEG-1 픽쳐 인코딩된 개별 이미지

MPEG-1 MPEG-1에서 영상의 전체 이미지인 프레임은 프레임 전체를 인코딩한 픽쳐로 구성된다. MPEG-1은 비월(interlace) 개념을 포함하고 있지 않다. 인트라 프레임 vs 비-인트라 프레임 인트라 프레임(intra: within, inside): 해당 프레임 내의 정보만으로 인코딩되어 있는 프레임 I-프레임 비-인트라 프레임: 해당 프레임이외의 다른 프레임의 정보를 함께 참조 하여 인코딩되어 있는 프레임 P-프레임, B-프레임

MPEG-1 슬라이스 매크로 블록 블록 연속된 매크로 블록들 독립된 인코딩/디코딩 단위 한 슬라이스 내의 임의 데이터의 손상이 있을 경우, 해당 슬라이스는 디코딩되지 못한다. 매크로 블록 16 X 16 구역의 픽셀 정보에 해당하는 구조 블록 매크로 블록 내의 8 X 8 정보에 해당하는 구조 DCT 변환의 대상

MPEG-1 프레임 인트라 프레임 비-인트라 프레임 I-프레임: 프레임 내 인코딩 영상 GOP의 독립성 확보 동영상의 프레임 순서로 인코딩 영상 이미지 내의 모든 정보로 구성 비-인트라 프레임 P(Predictive)-프레임: 프레임간(inter) 순방향 예측 인코딩 영상 I, P-프레임으로부터 예측 수행에 의해 생성 영상 이미지 내의 정보와 순방향 예측 정보로 구성

MPEG-1 B(Bidirectionally predictive)-프레임: 양방향 예측 인코딩 영상 I, P-프레임을 처리한 후 동영상의 프레임 순서로 그 사이의 B-프레임을 인코딩 영상 이미지 내의 정보, 순방향 예측 정보, 그리고 역방향 예측정보 및 양방향 예측 정보(interpolative)로 인코딩

MPEG-1 픽쳐 그룹(GOP: Group Of Pictures) 원 영상 순서 별 GOP

MPEG-1 코딩 순서 별 GOP

MPEG-1 매크로 블록

MPEG-1 16 X 16 구역의 휘도 정보와 색상 정보로 구성 Y:Cb:Cr (4:2:0 색 비율 포맷) 휘도 정보에 비해 ½만큼 샘플링

MPEG-1 DCT (Discrete Cosine Transform) 8 X 8 블록 대상 영상 인코딩 과정 영상 디코딩 과정 변환된 계수들을 양자화 스텝(Quantization step)으로 나눈다.- 양자화 영상 디코딩 과정 8 X 8 계수 블록의 각 값에 양자화 스텝을 곱한다.- 역양자화 각 블록마다 IDCT (Inverse DCT)를 수행한다.

MPEG-1 양자화 기본 양자화표: (a) 인트라 코딩의 경우, (b) 인터 코딩의 경우 정보의 값을 특정 수로 나누어 작은 수로 표현하는 것 DCT 변환 계수의 양자화 값은 정수로 표현 양자화를 통해 0값을 갖게 된 계수들은 이후 압축 코딩 된다. 기본 양자화표: (a) 인트라 코딩의 경우, (b) 인터 코딩의 경우

MPEG-1 MPEG-1 코덱 MPEG-1 인코더

MPEG-1 MPEG-1 디코더

MPEG-2 MPEG-2의 표준화 표준화 경위 목표 1991년 MPEG-1 표준화 완료 1993년 MPEG-2 발표 5~10 Mbps정도로 현행 TV품질 실현 HDTV품질 실현을 위한 Mpeg 3의 전 작업으로 시작 최종적으로 Mpeg 3 탈락(Mpeg 2 스펙에 포함) 1993년 미국의 차세대 TV 방송 방식으로 채택

MPEG-2 특징 저장 미디어 뿐만 아니라 방송 미디어의 적용 고려 HDTV 품질까지 확장 가능 점진적 주사 및 비월 주사 영상 취급 가능 확장 적응성(Scalability, 스케일러빌러티) 지원 공간해상도의 일부 비트열을 가지고 작은 해상도의 display를 가능하게 한다. 역방향 호환성(backward compatibility)을 갖는다. MPEG-2 디코더는 MPEG-1 영상의 디코딩도 가능하다.

MPEG-2 MPEG-2 목표 상호 운용성(Interoperability) 확장 적응성(Scalability) 통신, 방송, 저장 기기 등 다른 미디어사의의 호환성 및 정보 교환 가능 확장 적응성(Scalability) 코딩된 일부의 비트열을 통해 하위 해상도의 영상 재생 가능 확장성(Extensibility) 어떤 비트율로 전송되는 영상에 부가 정보만을 추가하여 전체 해상도를 쉽게 높일 수 있다. 5Mbps (일반 TV 품질) + 10Mbps (부가 정보) = 15Mbps (HDTV 품질)

MPEG-2 MPEG-2의 분야별 응용 분야 응용 방송 CATV, 위성방송, 일반 전파를 이용한 디지털영상 통신 통신망을 통한 고품질 디지털 영상 예) 영상회의, 영상전화, 감시 시스템 등 컴퓨터 디지털 저장 매체 (CD-ROM, HDD)를 이용한 고화질 디지털 영상 예) 영화, 멀티미디어 시스템, 가요반주기 등 MPEG-2의 분야별 응용

MPEG-2 MPEG-1과 MPEG-2 색 공간(color space) 슬라이스 구조 양자화 4:2:0 및 4:2:2, 4:4:4 코딩 지원 슬라이스 구조 연속된 매크로 블록의 모임 독립된 코딩 단위 MPEG-2에서 슬라이스의 최대 크기는 영상의 한 행 크기이다. 양자화 MPEG-1 DC계수의 양자화 정밀도: 8-bit MPEG-2: 픽쳐별 8, 9, 10-bit 양자화 정밀도 허용

MPEG-2 은닉 움직임 벡터 데이터 손실 상황에 대비해 I-프레임에 자신의 프레임을 참조 대상으로 하는 움직임 벡터를 부여하는 것 데이터 손실 발생시 참조 대상인 주변 블록으로부터 해당 정보를 대체 픽쳐 구조 프레임 구성 MPEG-1: 프레임 픽쳐로만 구성 MPEG-2: 프레임 픽쳐 또는 필드 픽쳐로 구성 유연성 인코더와 디코더의 다양한 응용및 호환을 가능하게 함 프로화일(profile) : 기능상의 분류 레벨(level): 데이터 양의 분류

MPEG-2 색 공간 MPEG-2의 색 비율과 그에 따른 코딩순서 및 샘플링

MPEG-2 비월 주사(interlaced scan) 기술 점진적 주사(progressive scan)

MPEG-2 픽쳐 구조 프레임 픽쳐 필드 픽쳐 전체 프레임이 하나의 픽쳐로 구성 전체 프레임이 여러 개의 필드 픽쳐들로 구성 상위(upper) 필드와 하위(lower) 필드로 각각 이루어진 픽쳐가 하나의 프레임을 구성

MPEG-2 프레임 DCT 매크로 블록은 8 X 8 크기의 블록으로 나뉘어 순서대로 DCT 변환된다.

MPEG-2 필드 DCT 상위/하위 필드의 8개 라인을 취하여 DCT의 대상이 되는 8 X 8 크기의 상위/하위 블록을 구성

MPEG-2 DCT 계수의 스캔 패턴(pattern) DCT 계수 스캔 45o 지그재그 스캔 프레임 픽쳐 구조에 적합

MPEG-2 67.5o 지그재그 스캔 MPEG-2에서 소개된 스캔방법 필드 픽쳐 구조에 적합

MPEG-2 확장 적응성(scalability, 스케일러빌러티) 데이터 스트림의 계층 구조 공간적 스케일러빌러티 기본 계층(basic layer) 데이터 스트림 내 반드시 디코딩되어야 하는 계층 향상 계층(enhancement layer) 필요에 따라 추가적으로 디코딩되어 영상을 향상시키기 위한 계층 공간적 스케일러빌러티 저해상도의 기본 계층과 고해상도 구성을 위한 추가 정보를 가진 향상 계층으로 구성

MPEG-2 시간적 스케일러빌러티 SNR (Signal to Noise Ratio) 스케일러빌러티 동일한 해상도의 영상에 대해 서로 다른 데이터 전송량을 지원 기본 계층보다 초당 프레임 수가 높은 향상 계층 구성 예) 30Hz 와 60Hz의 점진적 주사 영상을 단일 데이터 스트림에서 함께 구성 SNR (Signal to Noise Ratio) 스케일러빌러티 신호 대 잡음비(SNR)가 클 경우에 대한 고화질 영상과 반대의 경우에 대한 저화질 영상을 향상 계층 과 기본 계층으로 함께 구성

MPEG-2 레벨과 프로화일 MMPEG-2의 다양한 기술들간의 상호 호환성을 위한 분류 기준 프로화일: 툴과 구성 요소 등의 기능별 분류 단순, 메인, SNR, Spatial, 하이, 4:2:2 레벨 : 각 profile 분류에 대해 비트 스트림내의 데이터 양을 기준으로 분류 하이, 하이1440, 메인, 로우 표기법 프로화일@레벨 예) 메인 프로화일의 메인 레벨: MP@ML

MPEG-2 레벨 프로화일 단순 메인 SNR Spatial 하이 4:2:2 하이1440 로우 향상계층 기본계층 1920H 1152V 60 Hz 60Hz 960H 576V 30 Hz 하이1440 1440H 720H 756V 352H 288V 512/608V 로우

MPEG-4 MPEG-4 표준화 1993년 MPEG-4 표준화 시작 목표 특징 MPEG-3 표준안 취소: MPEG-2에 포함 초기 낮은 데이터 전송률 환경에도 적합한 동영상 인코딩 방법의 목표에서 다양한 환경에서의 멀티미디어 데이터를 위한 범용 코딩 표준으로 확장 특징 다양한 데이터 전송률 환경에서의 비디오 및 음성 코딩 성능 향상 목표 64 kbps 이하 64 kbps ~ 384 kbps 384 kbps ~ 4 Mbps

MPEG-4 객체 개념 도입 비디오 객체와 오디오 객체가 개별적 혹은 복합적으로 인코딩되고 전송되어 최종 장면(scene)을 구성할 수 있다. 디코더 단말 측에서 장면 구성을 위한 다양한 조작이 가능 구성 텍스쳐(texture) 정보와 형태(shape) 정보

MPEG-4 MPEG-4 시스템

MPEG-4 MPEG-4 시스템의 동영상 처리 과정

MPEG-4 MPEG-4의 동영상 구조 객체 VOP (Video Object Plane) 비디오 객체: 시간에 따라 변하는 동영상 내 일반 객체 정지 텍스트 객체: 시간과 무관하게 변하지 않는 객체 구성 텍스쳐 정보 휘도 및 색차 정보 형태 정보: 알파 데이터 객체의 형태를 나타내는 정보 객체가 차지하는 부분과 나머지 여백 부분에 서로 다른 이진 값을 대응시킨, 객체를 포함하는 사각형으로 표현 VOP (Video Object Plane) 해당 객체에 대해 일정한 시간 간격으로 샘플링된 일련의 정보들 인트라 코딩 또는 인터 코딩 적용

MPEG-4 GOV (Group Of VOPs) VOL (Video Object Layer) GOP와 유사한 개념으로 VOP들의 그룹 GOV 단위로 임의 접근 가능 GOV의 구조는 선택 사항 VOL (Video Object Layer) 스케일러빌러티를 제공하기 위한 구조 기본 계층과 향상 계층으로 구성

MPEG-4 MPEG의 영상 처리 과정 MPEG-1, MPEG-2 MPEG-4

MPEG-4 MPEG-4의 기능 영상의 해상도 및 주사(scan) 방법 전송률에 따른 다양한 객체별 코딩 방법 제공 sub-QCIF (128 X 96) 에서 초고해상도 (4k X 4k) 정도까지로 매우 광범위 점진적 주사 및 비월 주사 전송률에 따른 다양한 객체별 코딩 방법 제공 형태 코딩, 텍스쳐 코딩, 메시 코딩 및 애니메이션 변수 코딩 등 내용 기반(content-based) 코딩 임의 형태(arbitrary shape) 코딩 비디오 객체 단위로 독립적 인코딩 및 디코딩 가능

MPEG-4 확장 적응성(scalability, 스케일러빌러티) 고장 감내성 애니메이션 공간적으로 최대 11단계 지원 시간적으로 최대 3단계 지원 FGS (Fine Grain Scalability) 프로화일 응용 시스템의 컴퓨팅 파워와 전송 대역폭이 매우 급변해서 예측이 불가능한 스트리밍에 적합한 스케일러빌러티를 정의 고장 감내성 오류 발생이 빈번하거나 데이터 전송률이 매우 낮은(64kbps 이하) 환경에 사용 가능한 코딩 알고리즘 제공 애니메이션 인조 합성 객체 구성 및 코딩에 대한 기능 제공 얼굴과 몸 애니메이션

MPEG-4 MPEG-4 코딩 형태 코딩 텍스쳐 코딩 이진 알파(binary alpha) 데이터 0과 1로 형태 표현 그레이 형태 마스크(gray shape mask) 그레이 값을 통해 객체 이미지의 투명 정도를 세밀하게 표현 픽셀당 8-bit 정규화 값 256 단계: 0(객체 밖) ~ 255(불투명 객체 내) 텍스쳐 코딩 인트라 코딩 및 인터 코딩 I, B, P-VOP 경계 사각형(boundary rectangle)을 매크로 블록으로 분할

MPEG-4 경계선 코딩 임의 형태 객체에서 경계 사각형 내의 객체 밖 픽셀 정보는 비효율적인 DCT 변환의 요인 패딩(padding)을 통한 효율적인 코딩 기법 제공

MPEG-4 스프라이트 (sprite) 코딩

MPEG-4 MPEG-4의 확장 적응성 객체 수준의 시간 및 공간 스케일러빌러티 제공 공간 스케일러빌러티 인코더

MPEG-4 MPEG-4 프로화일 자연 영상 프로화일 단순(simple) 영상 프로화일 단순 스케일러빌러티 영상 프로화일 모바일 네트워크 응용, 강한 고장 감내성 단순 스케일러빌러티 영상 프로화일 객체의 시공간적 스케일러빌러티를 지원 인터넷 등의 가변 전송률 환경에 적합 코어(core) 영상 프로화일 단순 스케일러빌러티 영상 프로화일에 임의 형태 객체 지원 내용의 상호작용이 필요한 인터넷 멀티미디어 응용 시스템에 적합

MPEG-4 인조 합성 및 자연/인조 합성 혼합 영상 프로화일 메인(main) 영상 프로화일 N-비트 영상 프로화일 코어 영상 프로화일에 비월 주사, 스프라이트 객체 및 반투명 기술(그레이 형태 마스크)을 추가 DVD 응용 시스템에 적합 N-비트 영상 프로화일 코어 영상 프로화일에서 픽셀 정보의 다양한 깊이 지원 4 ~ 12 bits (MPEG-2에서는 8 bits만 사용) 감시 시스템 등에 적합 인조 합성 및 자연/인조 합성 혼합 영상 프로화일 단순 얼굴 애니메이션 영상 프로화일 AV 프리젠케이션 시스템 등에 적합한 얼굴 모델 애니메이션 관련 프로화일

MPEG-4 스케일러블 텍스쳐 영상 프로화일 기본(basic) 2차원 애니메이션 영상 프로화일 정지 텍스쳐 객체의 공간 스케일러빌러티 지원 고해상도 디지털 카메라나 게임 메시 객체의 텍스쳐 매핑 등의 응용에 적합 기본(basic) 2차원 애니메이션 영상 프로화일 공간, SNR 스케일러빌러티 및 정지 영상에 대한 메시 기반 애니메이션과 단순 얼굴 객체 애니메이션 지원 혼합(hybrid) 영상 프로화일 자연 영상 비디오 객체 및 인조 합성 영상 객체의 혼합 디코딩 지원 다양한 멀티미디어 응용시스템에 적합

MPEG-7 MPEG-7의 소개 일반 멀티미디어 내용 디스크립션 표준 2002년부터 2004년(현재)에 걸쳐 표준 발표 Why 7? (not 5, 6) MPEG-1, MPEG-2, MPEG-4, MPEG-7 MPEG-7은 멀티미디어 메타데이터에 대한 구문법 (syntax)을 정의 MPEG-7의 영역 표준 디스크립션 특징 추출 검색 엔진

MPEG-7 예) 비디오 영상 검색 시스템

MPEG-7 MPEG-7의 구조 기본 개념 피쳐(feature) 디스크립터(descriptor) 멀티미디어 데이터의 특징적 요소 디스크립션의 대상 디스크립터(descriptor) 피쳐의 표현 구문법(syntax)과 의미(semantics)를 포함 예) 피쳐: 제목 디스크립터: 문자열 디스크립터 값: “멀티미디어”

MPEG-7 MPEG-7 표준 파트 디스크립션 스킴(scheme) 메타데이터의 구조 디스크립션 정의 언어로 기술 디스크립션 정의 언어(DDL: Description Definition Language) XML 포맷으로 정의 MPEG-7 표준 파트 시스템 / 디스크립션 정의 언어 / 비주얼 / 오디오 / 멀티미디어 디스크립션 스킴 / 참조 소프트웨어 / 적합성 테스트 / 디스크립션 추출 및 사용 정보

MPEG-21 MPEG-21의 소개 멀티미디어 전달과 사용을 위한 기본 체계에 대한 표준 Why 21? 21세기 멀티미디어 사용의 확장을 대상으로 하는 의미 2000년 표준화 시작 이후 2004년까지 MPEG-21의 많은 부분이 표준으로 발표 목표 네트워크의 다양성과 디바이스간의 차이와 무관하게 멀티미디어 데이터를 배포 사용할 수 있는 체계 구성

MPEG-21 기본 개념 주요 파트(2004년 11월 현재) 디지털 아이템 사용자 멀티미디어 데이터 + 메타데이터 사용자 데이터의 생성, 소비, 관리, 및 배포 역할을 수행하는 모든 대상 주요 파트(2004년 11월 현재) Vision, Technology and Strategy MPEG-21의 목표 및 기술 전략 멀티미디어 프레임워크와 구성요소 및 스펙

MPEG-21 Digital Item Declaration Digital Item Identification 디지털 아이템 정의를 위한 추상화 도구 및 스키마의 표준 Digital Item Identification 모든 형태의 디지털 아이템 표현을 위한 체계 기술 Intellectual Property Management and Protection Components 지적 재산권 Rights Expression Language (REL) 권리 및 승인 정보를 기술하기 위한 기계 처리 언어 Rights Data Dictionary REL을 구성하기 위해 필요한 용어(term) 정의

MPEG-21 Digital Item Adaptation Reference Software File Format 멀티미디어 환경에서 다양한 데이터 포맷 및 코덱 사이의 호환 기술 Reference Software MPEG-21의 내용을 실제 구현한 응용 소프트웨어들 File Format 각 디지털 아이템들이 코딩된 파일 포맷들에 대한 분류 및 처리 방법 Event Reporting 모든 이벤트 발생 처리에 대한 인터페이스와 표준 체계

요약 1980년대 후반부터 디지털 데이터의 코딩연구 진행 MPEG-1 MPEG-2 MPEG 표준의 등장 CD-오디오의 데이터 전송률에 적합한 영상 및 오디오 압축 기술을 통해 CD-ROM에 동영상 저장을 목표 MPEG-2 5 ~ 10 Mbps 정도에서 TV 품질 실현을 목표 HDTV 기술을 포함하면서 통신, 가전, 컴퓨터 및 방송에 이르는 광범위 분야에 적합한 표준으로 발전

요약 MPEG-4 MPEG-7 MPEG-21 개인용 휴대기기 등의 매우 낮은 데이터 전송률 환경 지원을 목표로 표준화 시작 객체 개념 도입을 통해 자연 영상 뿐만 아니라 인조 합성 영상과 오디오까지 다루는 인터넷 시대의 멀티미디어 코딩의 표준으로 발전 MPEG-7 멀티미디어의 검색 및 관리를 위한 내용 기술 MPEG-21 멀티미디어 데이터의 배포 및 사용에 관한 표준

요약 디지털 기술의 발전과 더불어 변화되는 사용자들의 요구에 발맞추어 MPEG 표준은 지속적으로 변화할 것이다.

참고 문헌 Poynton, C., Digital Video and HDTV, John Wiley & Sons, 2001 Mitchell, J., Pennebaker, W., Fogg, C., and LeGall, D., MPEG Video Compression Standard, Chapman & Hall, 1997 Multifunctional Ad hoc Group, "Core experiments Description", ISO/IEC JTC1/SC29/WG11 N1266, March 1996 Symes, P., Video Compression Demystified, McGraw-Hill, 2001 후지와라 히로시, 정제창 역, 그림으로 보는 최신 MPEG, 교보문고, 1995 미키 스케이치, 고성제 역, MPEG-4의 세계, 영풍문고, 1999 Richardson, Iain E. G., “H.264 and MPEG-4”, John Wiley&Sons Ltd., 2003

참고문헌 Manjunath, B. S., Salembier, P, and Sikora, T., Introduction to MPEG-7: Multimedia Content Description Interface, John Wiley & Sons, 2002 Koenen, R., “Overview of the MPEG-4 Standard”, ISO/IEC JTC1/SC29/WG11 N1909, Oct 1997 Liu, P., “MPEG-7: The Generic Multimedia Content Description Standard, part 1”, IEEE, 2002 Burnett, I., Walle, R., Hill, K., Bormans, J., and Pereira, F., “MPEG-21: Goals and Achievements”, IEEE, 2003 Watkinson, John, “The MPEG Handbook”, Focal Press, 2004 “ISO MPEG standard”, http://www.iso.ch/iso/en/prods-services/popstds/mpeg.html “MPEG Pointers and Resources”, http://www.mpeg.org/MPEG/index.html