Unity URP 커스텀 렌더 피처 VRAM 누수 및 프레임 드롭 트러블슈팅: RenderTargetIdentifier 라이프사이클 관리

🌐 English Abstract

This article provides an in-depth technical analysis and troubleshooting guide for GPU Video RAM (VRAM) leaks and frame rate drops caused by mismanaged RenderTargetIdentifier and RTHandle lifecycles in Unity Universal Render Pipeline (URP) Custom Render Features. We explore the inner execution flow of ScriptableRenderPass, pinpoint common memory allocation mistakes made inside rendering loops, and demonstrate best-practice code patterns for optimal GPU memory lifecycle management.

유니티(Unity)의 URP(Universal Render Pipeline)는 가볍고 유연한 렌더링 파이프라인을 제공하여 다양한 플랫폼에서 고성능 그래픽을 구현할 수 있게 돕습니다. 특히 커스텀 렌더 피처(Custom Render Feature)와 스크립터블 렌더 패스(ScriptableRenderPass)를 활용하면 파이프라인 내부 렌더링 순서에 직접 개입하여 커스텀 포스트 프로세싱(Post-Processing), 외곽선 효과(Outline Effects), 깊이 기반 스크린 공간 효과 등을 손쉽게 구현할 수 있습니다.

그러나 많은 개발자들이 URP 커스텀 렌더 패스를 개발하는 과정에서 렌더 타겟 식별자(RenderTargetIdentifier) 및 RTHandle의 라이프사이클(Lifecycle)을 명확하게 이해하지 못해 심각한 GPU 비디오 램 누수(VRAM Leak)와 지속적인 프레임 드롭(Frame Drop) 현상을 겪곤 합니다. 이 글에서는 이러한 성능 저하의 근본적인 원인을 기술적으로 분석하고, 유니티 프로파일러(Unity Profiler)를 활용한 트러블슈팅 과정과 이를 해결하기 위한 최적의 코드 작성 패러다임을 상세히 다룹니다.

1. 문제의 근본 원인: RenderTargetIdentifier와 GPU 메모리 라이프사이클의 오해

URP 커스텀 렌더 패스 작성 시 가장 흔하게 발생하는 실수는 매 프레임마다 임시 렌더 타겟(Temporary Render Target)을 할당하면서, 해당 타겟의 해제(Release) 시점을 누락하거나 매칭시키지 못하는 것입니다.

RenderTargetIdentifier는 참조용 구조체일 뿐이다

많은 개발자가 착각하는 개념 중 하나는 RenderTargetIdentifier 자체가 실제 메모리를 점유하는 객체라고 생각하는 것입니다. 하지만 RenderTargetIdentifier는 C#의 구조체(struct)로, GPU의 실제 렌더 타겟 텍스처(RenderTexture) 버퍼나 렌더 버퍼 식별용 ID(인수 값 또는 네임드 ID)를 가리키는 '핸들(Handle)' 역할만 수행합니다.

진짜 문제는 커맨드 버퍼(CommandBuffer)를 통해 GetTemporaryRT 명령을 실행하거나, RTHandles.Alloc을 호출하여 GPU VRAM 상에 실제 물리적 메모리를 할당할 때 발생합니다. 이 할당 과정이 렌더링 루프 내부에서 올바르게 해제되지 않으면 다음과 같은 치명적인 그래픽스 이슈가 발생합니다.

• 지속적인 VRAM 메가바이트(MB) 누수: 매 프레임 새로운 GPU 메모리 블록이 할당되어 비디오 메모리 사용량이 계속 상승합니다.
• GPU 드라이버 및 오버헤드 폭증: GPU 메모리 관리를 위해 OS 및 그래픽스 드라이버 레벨에서 빈번한 메모리 할당/해제 요청이 발생하면서 CPU-GPU 간 동기화 병목이 발생합니다.
• 가비지 컬렉션(GC) 스파이크 및 프레임 드롭: 렌더링 루프(Execute) 내에서 C# 메모리 할당(Allocations)이 수반될 경우 GC Spike로 인한 화면 멈춤 현상이 나타납니다.

ScriptableRenderPass의 내부 실행 주기(Execution Flow)

URP에서 렌더 패스가 실행될 때 호출되는 주요 메서드의 라이프사이클 순서를 이해하는 것이 최적화의 첫걸음입니다.

1. ScriptableRendererFeature.Create(): 렌더 피처가 초기화될 때 호출됩니다. 영구 자원 생성에 적합합니다.
2. ScriptableRendererFeature.AddRenderPasses(): 매 프레임 카메라마다 패스를 렌더러 큐에 추가할 때 호출됩니다.
3. ScriptableRenderPass.OnCameraSetup(): 카메라가 렌더링을 시작하기 직전 호출됩니다. 렌더 타겟의 크기(Resolution)를 카메라 디스크립터(RenderTextureDescriptor)에 맞추어 임시 타겟을 생성하기 가장 좋은 위치입니다.
4. ScriptableRenderPass.Execute(): 실제 GPU 커맨드 버퍼(CommandBuffer) 명령을 기록하고 제출하는 핵심 루프입니다. 여기서 매 프레임 자원을 동적 신규 할당하는 것은 금물입니다.
5. ScriptableRenderPass.OnCameraCleanup(): 카메라 렌더링이 완료된 후 호출됩니다. OnCameraSetup에서 할당한 임시 렌더 타겟을 반드시 해제(Release)해야 합니다.
6. ScriptableRendererFeature.Dispose(): 렌더 피처가 파괴되거나 비활성화될 때 호출되며, 전역적으로 할당된 RTHandle 메모리를 최종 해제합니다.

2. 트러블슈팅 및 프로파일링(Troubleshooting & Profiling) 과정

VRAM 누수와 프레임 드롭 현상을 구체적으로 진단하기 위해 유니티 내부 도구를 활용하는 실무 트러블슈팅 절차를 살펴봅니다.

단계 1: Unity Profiler의 GPU Memory 및 Detail 분석

유니티 프로파일러의 Memory Profiler 탭 또는 Profiler - GPU 모듈을 엽니다.

• 가상 메모리 추이 확인: 게임을 실행하고 수분 동안 관찰했을 때 RenderTexture 항목의 Total Used Memory와 Count가 계속해서 우상향하며 늘어나는지 확인합니다.
• Take Sample 분석: 렌더링 도중 캡처(Take Sample)를 실행하여 Objects 목록에서 이름이 없는 RenderTexture(예: _TemporaryBuffer)가 수백, 수천 개 누적되어 있는지 확인합니다.

단계 2: Frame Debugger를 통한 Render Target Bind 횟수 추적

Frame Debugger (Window > Analysis > Frame Debugger)를 활성화합니다.

• 커스텀 렌더 패스가 실행되는 단계를 선택합니다.
• SetRenderTarget 및 DrawMesh / Blit 이벤트가 매 프레임 비정상적으로 새로운 RT ID를 지칭하며 스위칭되는지 관찰합니다.
• 동일한 타겟을 재사용하지 못하고 매번 새 메모리를 참조하는 경우, GetTemporaryRT의 해제 누락이나 RTHandle 동적 생성 코드 문제를 의심해야 합니다.

3. 문제 코드 분석 vs 최적화된 해결 방안

가장 흔히 범하는 안티 패턴(Anti-Pattern) 코드와, URP 12 및 이후 버전(URP 14/17 포함)에서 권장되는 표준 RTHandle 시스템 기반 최적화 코드를 비교해 보겠습니다.

❌ 문제 코드 (안티 패턴: VRAM 누수 및 GC 스파이크 유발)

아래 코드는 Execute() 실행 시마다 GetTemporaryRT를 호출하면서, 렌더 타겟을 해제하는 ReleaseTemporaryRT를 누락하거나 잘못된 스코프에서 처리하는 대표적인 예시입니다.

// [ 잘못된 예시 ] 매 프레임 Execute에서 할당 및 해제 미흡
public class BadCustomRenderPass : ScriptableRenderPass
{
    private RenderTargetIdentifier source;
    private int tempTextureID = Shader.PropertyToID("_TempFrameBuffer");

    public override void Execute(ScriptableRenderContext context, ref RenderingData renderingData)
    {
        CommandBuffer cmd = CommandBufferPool.Get("BadPass");
        
        // 문제 1: 매 프레임 Execute 안에서 임시 RT 디스크립터 계산 및 할당
        RenderTextureDescriptor descriptor = renderingData.cameraData.cameraTargetDescriptor;
        cmd.GetTemporaryRT(tempTextureID, descriptor); // VRAM 할당 발생!

        RenderTargetIdentifier tempTarget = new RenderTargetIdentifier(tempTextureID);

        // Blit 작업 수행
        Blit(cmd, renderingData.cameraData.renderer.cameraColorTargetHandle, tempTarget);
        Blit(cmd, tempTarget, renderingData.cameraData.renderer.cameraColorTargetHandle);

        context.ExecuteCommandBuffer(cmd);
        CommandBufferPool.Release(cmd);

        // 문제 2: cmd.ReleaseTemporaryRT(tempTextureID)가 누락됨!
        // 결과: VRAM이 지속적으로 누수되고 GPU 메모리가 가득 참.
    }
}

✅ 해결 코드 (최신 URP RTHandle API 기반 최적화 패턴)

URP 최신 버전에서는 단순 RenderTargetIdentifier 대신 RTHandle 시스템을 사용하여 안전한 라이프사이클 관리를 보장합니다. OnCameraSetup과 OnCameraCleanup을 올바르게 쌍(Pair)으로 구현하거나 ScriptableRendererFeature.Dispose를 통해 메모리를 관리합니다.

using UnityEngine;
using UnityEngine.Rendering;
using UnityEngine.Rendering.Universal;

public class OptimizedCustomRenderPass : ScriptableRenderPass
{
    private RTHandle tempRTHandle;
    private readonly Material customMaterial;
    private const string ProfilerTag = "OptimizedCustomPass";

    public OptimizedCustomRenderPass(Material material)
    {
        this.customMaterial = material;
        renderPassEvent = RenderPassEvent.AfterRenderingTransparents;
    }

    public override void OnCameraSetup(ScriptableRenderContext context, ref RenderingData renderingData)
    {
        // 1. 카메라 디스크립터 가져오기
        RenderTextureDescriptor descriptor = renderingData.cameraData.cameraTargetDescriptor;
        descriptor.depthBufferBits = 0; // 필요한 경우에만 깊이 버퍼 사용

        // 2. RTHandle 할당 또는 재할당 (해당 패스 실행 전 안전하게 준비)
        RenderingUtils.ReAllocateIfNeeded(
            ref tempRTHandle, 
            descriptor, 
            FilterMode.Bilinear, 
            TextureWrapMode.Clamp, 
            name: "_CustomTempTexture"
        );
    }

    public override void Execute(ScriptableRenderContext context, ref RenderingData renderingData)
    {
        if (customMaterial == null) return;

        CommandBuffer cmd = CommandBufferPool.Get(ProfilerTag);

        using (new ProfilingScope(cmd, new ProfilingSampler(ProfilerTag)))
        {
            // 현재 카메라의 컬러 타겟 가져오기 (URP 최신 RTHandle 방식)
            RTHandle cameraColorTarget = renderingData.cameraData.renderer.cameraColorTargetHandle;

            // Blit 처리: Source -> Temp -> Source
            Blit(cmd, cameraColorTarget, tempRTHandle, customMaterial, 0);
            Blit(cmd, tempRTHandle, cameraColorTarget);
        }

        // 명령어 제출
        context.ExecuteCommandBuffer(cmd);
        CommandBufferPool.Release(cmd);
    }

    public override void OnCameraCleanup(CommandBuffer cmd)
    {
        // FrameCleanup 시점에 필요에 따라 정리를 수행할 수 있음.
        // ReAllocateIfNeeded를 사용할 경우 카메라 해상도 변경 시 자동 대응됨.
    }

    public void Dispose()
    {
        // 3. RenderFeature가 파괴될 때 RTHandle 최종 해제 (VRAM 누수 방지 핵심)
        tempRTHandle?.Release();
        tempRTHandle = null;
    }
}

4. 엣지 케이스(Edge Cases) 대응 및 추가 성능 최적화 팁

실무 환경에서는 단순 단일 카메라 렌더링 외에도 해상도 변경, XR(VR/AR) 멀티패스 렌더링, 씬 변경 등 다양한 변수가 존재합니다. 자원 관리 시 고려해야 할 중요 엣지 케이스는 다음과 같습니다.

1) 동적 해상도 및 윈도우 리사이즈(Dynamic Resolution & Window Resizing)

사용자가 창 모드 크기를 변경하거나 모바일 디바이스에서 동적 해상도가 적용되면, cameraTargetDescriptor의 폭(Width)과 높이(Height)가 변경됩니다.

• 기존 GetTemporaryRT 방식은 스펙 변경 시 이전 크기의 버퍼가 VRAM에 남는 문제가 있었습니다.
• 유니티 RenderingUtils.ReAllocateIfNeeded API를 사용하면 텍스처 파라미터(Width, Height, Format 등)가 변경되었을 때만 기존 GPU 버퍼를 해제하고 새로 할당하므로 VRAM 오버헤드를 대폭 줄일 수 있습니다.

2) XR/VR 싱글 패스 인스턴싱(Single-Pass Instanced Rendering)

VR 환경에서는 좌우 양안 렌더링을 위해 텍스처 어레이(Texture2DArray) 형태의 렌더 타겟이 사용됩니다.

• 임시 RT를 만달 때 descriptor.msaaSamples = 1; 및 descriptor.vrUsage 속성을 기본 카메라 설정과 일치시켜야 원인 모를 렌더링 깨짐 현상과 불필요한 VRAM 재할당을 막을 수 있습니다.

3) GC Alloc 최소화를 위한 CommandBufferPool 활용

Execute() 내부에서 new CommandBuffer()를 직렬로 생성하는 행위는 C# 힙(Heap) 메모리 할당을 유발하여 주파수 높은 가비지 컬렉션을 발생시킵니다. 반드시 CommandBufferPool.Get()과 CommandBufferPool.Release()를 사용해 커맨드 버퍼 객체를 재사용해야 프레임 드롭을 완벽히 방지할 수 있습니다.

5. 결론: 체크리스트를 통한 관리

유니티 URP 커스텀 렌더 피처 개발 과정에서 GPU VRAM 누수와 프레임 드롭을 예방하기 위해서는 다음 체크리스트를 준수해야 합니다.

점검 항목	권장 사항 및 해결책
Execute() 내 신규 할당	매 프레임 GetTemporaryRT 또는 new 키워드 호출을 철저히 금지할 것.
RTHandle 사용	RenderTargetIdentifier 단독 사용을 지양하고, URP 최신 RTHandle 및 ReAllocateIfNeeded 활용.
자원 해제(Dispose)	ScriptableRendererFeature.Dispose() 및 패스의 해제 메서드에서 RTHandle.Release()를 반드시 호출.
프로파일링 검증	Frame Debugger와 Memory Profiler로 RenderTexture 개수 상한선 유지 여부 검증.

올바른 라이프사이클 관리를 적용하는 것만으로도 GPU VRAM 누수 위험을 완전히 제거하고, 모바일 및 저사양 기기에서도 안정적인 60FPS 이상의 프레임 타임을 유지할 수 있습니다. 렌더 파이프라인의 구조적 특성을 이해하고 코드를 작성하는 습관이 고성능 게임 그래픽 구현의 출발점입니다.