Unity URP 커스텀 HLSL 셰이더의 SRP Batcher 호환성 파괴 원인과 CBUFFER 메모리 레이아웃 최적화 가이드

🌐 English Abstract

This article explores the technical root causes of draw call spikes when custom HLSL shaders break Scriptable Render Pipeline (SRP) Batcher compatibility in Unity Universal Render Pipeline (URP). It provides an in-depth troubleshooting guide for diagnosing incompatible materials via Frame Debugger and refactoring Constant Buffers (CBUFFER). Furthermore, it covers exact 16-byte memory layout alignment rules in HLSL to optimize GPU memory access and ensure maximum rendering efficiency.

유니티(Unity)의 Universal Render Pipeline(URP) 환경에서 프로젝트를 진행할 때, 그래픽스 성능 최적화의 핵심은 단연 SRP Batcher(Scriptable Render Pipeline Batcher)입니다. SRP Batcher는 동일한 셰이더 변형(Shader Variant)을 사용하는 서로 다른 머티리얼(Material) 간의 바인딩 오버헤드를 극적으로 줄여 CPU 렌더링 병목을 해결해 줍니다.

하지만 셰이더 그래프(Shader Graph) 대신 커스텀 HLSL 셰이더 코드를 직접 작성하여 적용하는 순간, 정체불명의 드로우 콜(Draw Call / Batch Count) 급증 현상을 겪는 경우가 빈번하게 발생합니다. 이는 작성한 HLSL 코드 내의 **CBUFFER(Constant Buffer)** 구조나 변수 선언이 SRP Batcher 호환성 조건에 어긋나 배칭이 일시에 해제되었기 때문입니다.

본 포스팅에서는 커스텀 HLSL 연동 시 SRP Batcher 호환성이 파괴되는 원인을 다각도로 분석하고, 프레임 디버거(Frame Debugger)를 통한 문제 진단 및 CBUFFER 메모리 레이아웃 정렬(Memory Layout Alignment) 최적화 기법을 실무 트러블슈팅 관점에서 깊이 있게 다룹니다.

1. SRP Batcher 작동 원리와 호환성 필수 조건

문제 해결에 앞서 SRP Batcher가 내부적으로 어떻게 드로우 콜을 줄이는지 이해해야 합니다. 기존의 렌더링 방식은 오브젝트마다 머티리얼 데이터가 바뀔 때마다 CPU가 GPU 명령 버퍼(Command Buffer)에 GPU 상태 변경(State Change)을 기록하고 Constant Buffer를 재바인딩했습니다. 이는 극심한 CPU 바운드(CPU-bound) 병목을 유발합니다.

SRP Batcher는 머티리얼 데이터가 변경되더라도 GPU 메모리 영역(CBUFFER)에 미리 데이터를 올려두고, 드로우 콜 호출 시 전송하는 데이터 버퍼 위치 변경 명령어만 빠르게 전송합니다. 이를 가능하게 하려면 커스텀 HLSL 셰이더가 다음 두 가지 필수 조건을 완벽하게 충족해야 합니다.

• UnityPerMaterial 상수 버퍼 블록 사용: 머티리얼의 모든 노출 속성(Properties)은 반드시 CBUFFER_START(UnityPerMaterial)과 CBUFFER_END 매크로 블록 내부에 선언되어야 합니다.
• UnityPerDraw 상수 버퍼 유지: 변환 행렬(Matrix) 등 오브젝트 단위의 데이터는 Engine 표준 UnityPerDraw 버퍼 내에 정의되어야 하며, 이는 URP 표준 라이브러리 헤더(Core.hlsl) 포함을 통해 자동으로 처리됩니다.

만약 셰이더 코드 내에서 단 하나의 머티리얼 변수라도 UnityPerMaterial CBUFFER 외부에 개별 선언되거나, 변수 데이터 타입 크기 및 정렬 순서가 어긋나면 유니티 엔진은 즉시 해당 머티리얼의 SRP Batcher 호환성을 "Not Compatible"로 판정하고 배칭 대상에서 제외합니다.

2. SRP Batcher 파괴 진단 및 트러블슈팅 단계

프로젝트에서 드로우 콜이 급증했을 때, 셰이더 호환성을 빠르게 진단하고 원인을 파악하는 단계적 트러블슈팅 방법입니다.

Step 1: Material Inspector에서 호환성 상태 확인

문제가 의심되는 머티리얼을 선택하고 인스펙터(Inspector) 창 상단의 Shader 디버그 영역을 확인합니다. 인스펙터 우측 상단의 무기 모양 아이콘을 눌러 Inspector를 Debug 모드로 전환하거나, 셰이더 소스 코드를 선택했을 때 나타나는 속성창에서 호환성 여부를 볼 수 있습니다.

• SRP Batcher: Compatible → 정상 작동 중
• SRP Batcher: Not Compatible → CBUFFER 구조 미비 또는 비호환 구문 존재

Step 2: Frame Debugger(프레임 디버거)를 통한 렌더링 배치 분석

Window > Analysis > Frame Debugger를 열고 프레임을 캡처(Capture)합니다. 렌더 트리 영역에서 드로우 콜 목록을 확인할 때 RenderLoopDevice.DrawSRPBatcher 항목으로 묶이지 않고 Draw Mesh (Instanced)나 수많은 단일 Draw Dynamic으로 파편화되어 있다면, 원인은 셰이더에 있습니다.

🚨 실무 엣지 케이스 (Edge Case Warning):
스크립트 상에서 MaterialPropertyBlock(MPB)을 사용하여 런타임에 머티리얼 속성을 변경하면, 해당 인스턴스는 SRP Batcher의 CBUFFER 메모리 연속성을 파괴하므로 SRP Batcher에서 강제로 탈락됩니다. MPB 대신 GPU Instancing을 적용하거나, 머티리얼 인스턴스 배열 관리 방식을 사용해야 합니다.

3. HLSL CBUFFER 메모리 레이아웃 정렬 최적화 (Deep-Dive)

SRP Batcher가 호환되더라도, HLSL의 CBUFFER 내부 메모리 패킹(Memory Packing) 규칙을 이해하지 못하면 GPU 메모리 엑세스 효율성이 크게 저하됩니다. DirectX 및 Vulkan 등 현대 GPU 그래픽스 API는 CBUFFER 내의 데이터를 16바이트(4 components × 4 bytes) 경계로 패킹합니다.

HLSL 16바이트 패킹 규칙 (16-byte Alignment Rule)

HLSL 레지스터(Register)는 4개의 float(x, y, z, w) 패키지로 메모리를割り当て(할당)합니다. 하나의 변수가 16바이트 경계를 걸쳐서 배치되는 것은 허용되지 않습니다. 경계를 넘어가게 되면 GPU 컴파일러는 자동으로 패딩(Padding) 메모리를 삽입하여 오프셋을 조절합니다.

변수 타입 (Data Type)	크기 (Size)	정렬 단위 (Alignment)
float / int / uint / bool	4 Bytes	4-byte Boundary
float2	8 Bytes	8-byte Boundary
float3	12 Bytes	16-byte Boundary
float4 / float4x4	16 Bytes (Matrix는 64 Bytes)	16-byte Boundary

잘못된 비효율적 CBUFFER 배치 예시

아래는 변수 배치 순서가 엉망이어서 불필요한 패딩 바이트가 늘어나고 GPU 렌더링 성능을 저하시키는 구조입니다.

// BAD: 메모리 파편화 및 불필요한 패딩 발생
CBUFFER_START(UnityPerMaterial)
    float _Alpha;          // 4 Bytes (Offset: 0) -> 레지스터 0 (x)
    float3 _BaseColor;     // 12 Bytes (Offset: 16) -> 레지스터 0의 yzw에 못 들어감! 16바이트 경계 넘어감에 따라 레지스터 1로 이동 (y,z,w 12바이트 불필요한 낭비 발생)
    float2 _UVOffset;      // 8 Bytes (Offset: 32) -> 레지스터 2 (xy)
    float _Metallic;       // 4 Bytes (Offset: 40) -> 레지스터 2 (z)
CBUFFER_END

최적화된 정렬 CBUFFER 구조

크기가 큰 변수(16바이트 단위인 float4, float4x4)를 상단에 배치하고, float3, float2, float 단일 변수들을 결합하여 16바이트 레지스터 크기를 완벽하게 충전하도록 재배치합니다.

// GOOD: 16바이트 단위 완벽 정렬 (SRP Batcher 및 GPU 메모리 Access 최적화)
CBUFFER_START(UnityPerMaterial)
    float4 _BaseColor;     // 16 Bytes (Register 0: x, y, z, w)
    float2 _UVOffset;      // 8 Bytes  (Register 1: x, y)
    float  _Metallic;      // 4 Bytes  (Register 1: z)
    float  _Alpha;         // 4 Bytes  (Register 1: w) -> 레지스터 1 완벽 충전(16 Bytes)
CBUFFER_END

4. 올바른 HLSL 커스텀 셰이더 리팩토링 실전 코드

실제 URP 프로젝트에서 SRP Batcher 호환성을 유지하면서 작성하는 커스텀 HLSL 패스(Pass)의 표준 템플릿 코드 구조입니다.

Shader "Custom/URP_SRPBatcher_Optimized"
{
    Properties
    {
        _BaseColor("Base Color", Color) = (1, 1, 1, 1)
        _BaseMap("Base Map", 2D) = "white" {}
        _Smoothness("Smoothness", Range(0, 1)) = 0.5
        _Metallic("Metallic", Range(0, 1)) = 0.0
    }

    SubShader
    {
        Tags 
        { 
            "RenderType" = "Opaque" 
            "RenderPipeline" = "UniversalPipeline" 
            "Queue" = "Geometry"
        }

        Pass
        {
            Name "ForwardLit"
            Tags { "LightMode" = "UniversalForward" }

            HLSLPROGRAM
            #pragma vertex vert
            #pragma fragment frag

            // URP 표준 라이브러리 (UnityPerDraw CBUFFER 포함)
            #include "Packages/com.unity.render-pipelines.universal/ShaderLibrary/Core.hlsl"

            // 텍스처 및 샘플러는 CBUFFER 바깥에 선언
            TEXTURE2D(_BaseMap);
            SAMPLER(sampler_BaseMap);

            // SRP Batcher 핵심: Properties에 선언된 모든 변수를 UnityPerMaterial CBUFFER 내에 수록
            // 메모리 정렬 순서: float4 -> float2 -> float
            CBUFFER_START(UnityPerMaterial)
                float4 _BaseColor;
                float4 _BaseMap_ST; // UV Scale & Tiling
                float _Smoothness;
                float _Metallic;
            CBUFFER_END

            struct Attributes
            {
                float4 positionOS   : POSITION;
                float2 uv           : TEXCOORD0;
            };

            struct Varyings
            {
                float4 positionCS   : SV_POSITION;
                float2 uv           : TEXCOORD0;
            };

            Varyings vert(Attributes input)
            {
                Varyings output;
                // TransformObjectToHClip은 Core.hlsl 내 UnityPerDraw CBUFFER 데이터를 사용
                VertexPositionInputs positionInputs = GetVertexPositionInputs(input.positionOS.xyz);
                output.positionCS = positionInputs.positionCS;
                output.uv = TRANSFORM_TEX(input.uv, _BaseMap);
                return output;
            }

            half4 frag(Varyings input) : SV_Target
            {
                half4 texColor = SAMPLE_TEXTURE2D(_BaseMap, sampler_BaseMap, input.uv);
                return texColor * _BaseColor;
            }
            ENDHLSL
        }
    }
}

5. 체크리스트 및 최종 요약

HLSL 커스텀 셰이더 연동 후 드로우 콜 이슈를 예방하고 최상의 그래픽스 성능을 유지하기 위해 배포 전 다음 항목을 반드시 검증하세요.

1. Properties와 CBUFFER 일치 여부: 셰이더의 Properties 블록에 정의한 모든 단일 변수(텍스처 핸들 제외)가 CBUFFER_START(UnityPerMaterial) 내부에 일치하는 이름과 타입으로 포함되어 있는지 확인합니다.
2. 텍스처 및 샘플러 위치: TEXTURE2D, SAMPLER 구문은 CBUFFER 내부에 넣지 않고 외부에 선언했는지 확인합니다.
3. 16바이트 정렬 규칙 적용: CBUFFER 내부 변수들을 float4 → float3/float1 → float2 순서 등으로 배치하여 메모리 홀(Memory Hole) 및 불필요한 패딩을 제거했는지 확인합니다.
4. Frame Debugger 검증: 렌더링 루프 실행 시 RenderLoopDevice.DrawSRPBatcher 배치 그룹에 인스턴스들이 문제없이 병합(Batching)되는지 확인합니다.

URP 환경에서 커스텀 HLSL을 다룰 때 SRP Batcher 규격을 준수하고 CBUFFER 레이아웃을 정교하게 다듬는 작업은 CPU와 GPU 양쪽의 병목을 없애는 가장 확실한 길입니다. 위 트러블슈팅 규칙과 최적화 패턴을 실무 코드베이스에 반영하여 쾌적한 프레임 레이트를 확보해 보시기 바랍니다.