애프터이펙트 마스크 완벽 가이드

Variable Feather·와이프 트랜지션·Mocha AE

많은 작업자가 마스크를 ‘불필요한 부분을 잘라내는 가위’ 정도로만 취급합니다. 하지만 마스크는 단순한 영역 설정 도구를 넘어 강력한 애니메이션 생성기이자 이펙트 제어기입니다. 마스크를 지배하는 자가 곧 애프터이펙트를 지배합니다.



1. 마스크의 본질과 초보자 필수 주의사항

셰이프 레이어 vs 마스크 — 가장 흔한 실수

⚠️ 타겟 레이어를 반드시 먼저 선택하세요! 레이어를 선택하지 않은 상태에서 펜 툴 또는 셰이프 툴로 그리면 마스크가 아닌 새로운 셰이프 레이어(Shape Layer)가 생성됩니다.

마스크 모드(Mode) 전략

모드동작실무 권장
Add (기본값)마스크 내부 영역만 표시일반 누끼·영역 지정
Subtract마스크 내부에 ‘구멍’ 생성반전이 필요할 때 — Invert 대신 사용
Intersect두 마스크의 교집합 영역만 표시복합 Shape 제어

⚠️ Invert 체크박스를 피하세요: 마스크가 3~4개 중첩될 때 Invert는 연산 오류와 구조 혼란을 일으킵니다. 반전이 필요하면 처음부터 Subtract 모드를 사용하세요.

실무 꿀팁: 마스크 라인 가시성

  • 마스크 라인이 배경색과 겹칠 때: 타임라인 마스크 옆 색상 상자를 클릭해 형광색으로 변경
  • 마스크 라인이 보이지 않을 때: Ctrl + Shift + H → 마스크 오버레이 가시성 토글

2. 마스크 디테일을 결정짓는 3대 속성

MM 단축키(M 두 번)로 마스크의 모든 속성을 펼치세요.

속성역할실무 활용
Mask Feather (F)경계선을 부드럽게 블러 처리합성 티 없애기 — 수치 높일수록 안팎으로 블러 확산
Mask Expansion패스 위치 유지 + 마스크 영역 확대(+)/축소(-)페더로 깎인 피사체 경계 복구(+) · 크로마키 스필 제거(-)
Mask Opacity마스크 영역만 선택적으로 투명도 조절유리 반사 합성, 그림자 농도 제어

Variable Mask Feather (가변 마스크 페더)

머리카락은 부드럽게, 가죽 재킷 어깨선은 날카롭게 — 같은 마스크 안에서 부위별로 다른 페더를 주고 싶을 때:

펜 툴(G) 길게 누르기 → Variable Mask Feather 도구 선택 → 마스크 패스 위 원하는 지점 클릭 후 드래그 → 해당 부분만 개별적인 페더 값 적용


3. 와이프 트랜지션: 역순 키프레임 기법

역순 키프레임 (완성→시작 순서)

처음부터 0프레임에서 시작하면 비율 맞추기가 까다롭습니다. 결과에서 시작해 거꾸로 작업하세요:

  1. 완성 상태 (예: 1초 지점): 마스크가 화면을 완전히 덮은 상태에서 Mask Path 키프레임 고정
  2. 시작 상태 (0프레임): 마스크 점들을 더블클릭 → Free Transform 박스로 화면 밖으로 완전히 밀어냄

💡 와이프 직선 유지: 마스크 버텍스 드래그 시 Shift를 누르면 수평/수직 축으로 잠금 → 삐뚤어진 와이프 방지

텐션 부여 (Graph Editor)

키프레임 선택 → F9 (Easy Ease) → 그래프 에디터 → 속도 그래프 Influence 약 85% 설정 → 빠르게 확 들어왔다가 끝에서 부드럽게 안착하는 고급 모션 텐션 완성

마스크 패스 꼬임 방지

모션 중 마스크가 종이 구겨지듯 꼬인다면:
기준점 선택 → 우클릭 → Mask and Shape Path > Set First Vertex → 즉시 정돈된 경로로 수정


4. 렌더링 파이프라인의 절대 법칙

AE 내부 연산 순서

Masks → Effects → Transform

마스크로 별 모양을 오린 뒤 Glow 효과를 주면 빛이 마스크 경계에서 칼같이 잘립니다. 이유: 마스크를 먼저 자르고, 그다음 이펙트를 적용하기 때문에 잘려나간 공간에는 픽셀이 없습니다.

해결책: 마스크 작업 완료 후 → Ctrl + Shift + C Pre-compose → 새 컴포지션 레이어에 Glow 적용 → 경계를 넘어 빛이 아름답게 퍼짐

⚠️ Scale 100% 원칙: Scale이 100%가 아닌 레이어에 마스크를 그리면 좌표계 왜곡 발생. 마스크 작업 전 반드시 Pre-compose (Move all attributes) 실행으로 소스를 초기화하세요.


5. 스마트한 이펙트 적용: Compositing Options

특정 인물 얼굴에만 블러를 줄 때 레이어 복사(Ctrl+D) → 마스크 → 이펙트 순서 대신:

  1. 원본 레이어에 마스크를 대략 그림
  2. Fast Box Blur 등 이펙트 적용
  3. 이펙트 컨트롤 패널 하단 → Compositing Options → ‘+’ 클릭 → 방금 만든 마스크 연결

→ 레이어 원본은 잘리지 않은 채 오직 마스크 영역 안에만 이펙트 적용 — 타임라인을 깔끔하게 유지하는 고급 테크닉


6. Mocha AE: 로토스코핑 노동에서 해방

움직이는 피사체를 프레임마다 수작업으로 따는 로토스코핑은 영상 제작에서 가장 피하고 싶은 중노동입니다. Effect > Boris FX Mocha > Mocha AE가 해답입니다.

Mocha AE 작업 흐름

단계내용
1. 진입Effect > Boris FX Mocha > Mocha AE 적용 → 큰 버튼 클릭으로 인터페이스 열기
2. 마스크 그리기피사체(스마트폰 화면, 자동차 번호판 등)에 X-Spline 마스크를 대략 그림
3. 트래킹트래킹 버튼 → 원근감·회전·크기 변화까지 포함한 플래너 트래킹(Planar Tracking) 자동 실행
4. AE로 내보내기Create AE Masks 버튼 → 완벽한 키프레임이 박힌 AE 마스크로 즉시 변환

몇 시간 걸릴 노가다가 5분 만에 끝납니다.

필수 단축키 요약

단축키기능
MMask Path 표시
MM마스크 모든 속성 펼치기
Ctrl + T마스크 Free Transform 박스 활성화
Alt + Click (점)곡선 ↔ 직선 핸들 즉시 전환
Ctrl + Shift + H마스크 오버레이 가시성 토글

마스크는 단순한 오려내기 도구가 아닙니다. Variable Feather·역순 키프레임·Pre-compose·Mocha AE까지 완전히 습득하면 작업 속도와 결과물의 퀄리티가 이전과 완전히 달라질 것입니다.

댓글 남기기