Unity C# Job System과 Burst Compiler 적용 시 NativeArray 메모리 누수 및 Job Safety System 예외 원인과 해결 방법

🌐 English Abstract

This article provides an in-depth troubleshooting guide for unmanaged memory leaks and Job Safety System exceptions encountered when using Unity's C# Job System and Burst Compiler. It covers the lifecycle management of NativeArray, proper usage of different Allocator types, and techniques to resolve concurrent access conflicts. By implementing dependency chaining with JobHandle and leveraging automated memory leak detection tools, developers can build robust, highly optimized multi-threaded data pipelines in Unity.

유니티(Unity)에서 멀티쓰레딩 기반의 고성능 연산을 구현할 때 C# Job System과 Burst Compiler는 선택이 아닌 필수 기술로 자리 잡았습니다. 데이터 지향 기술 스택(Data-Oriented Technology Stack, DOTS)의 핵심 축을 이루는 이 기술들은 C#의 가비지 컬렉션(Garbage Collection, GC) 부하를 완전히 우회하여 C++ 수준의 압도적인 실행 속도를 제공합니다.

하지만 이러한 성능 이점의 이면에는 엄격한 메모리 관리 책임을 개발자가 직접 전적으로 짊어져야 한다는 위험 요소가 존재합니다. 특히 비관리형 메모리(Unmanaged Memory) 구조체인 NativeArray<T>의 수명주기(Lifecycle)를 잘못 관리하면 엔진 레이어에서의 메모리 누수(Memory Leak)가 발생하며, 스레드 간 데이터 접근 경동 조건(Race Condition)이 일어날 경우 Unity의 잡 세이프티 시스템(Job Safety System)이 치명적인 예외(Exception)를 발생시킵니다.

본 포스팅에서는 현업 프로젝트에서 자주 직면하는 NativeArray 관련 메모리 누수 메커니즘과 Job Safety System 예외의 원인을 깊이 있게 분석하고, 이를 완벽히 해결할 수 있는 실무 트러블슈팅 가이드를 공유합니다.

1. Unmanaged 메모리 누수의 원인과 NativeArray 수명주기

C#의 일반적인 배열(Array)이나 List<T>는 Managed Heap에 할당되어 Mono/IL2CPP의 GC가 자동으로 수거합니다. 그러나 C# Job System과 Burst Compiler가 접근하는 NativeContainer 계열(NativeArray, NativeList, NativeHashMap 등)은 Unmanaged C++ Heap 영역에 메모리를 직접 할당합니다.

1.1 할당자(Allocator) 유형과 특징

NativeArray 생성 시 전달하는 Allocator 유형은 메모리가 할당되는 위치와 기대 수명을 결정합니다.

• Allocator.Temp: 가장 빠른 할당 방식을 사용하며, 1프레임 이하의 짧은 수명을 가집니다. 메소드 종료 전 반드시 해제되어야 하며, Job으로 전달할 수 없습니다.
• Allocator.TempJob: 프레임 단위(최대 4프레임)로 유지되는 할당 방식입니다. Job에 인수로 전달하기에 적합하며, 작업 완료 후 수동으로 해제하지 않으면 경고가 발생합니다.
• Allocator.Persistent: C++의 malloc과 동일하게 장기 보관용 힙 메모리에 할당됩니다. 개발자가 직접 Dispose()를 호출하기 전까지 영구히 유지됩니다.

1.2 메모리 누수 발생 엣지 케이스 (Edge Cases)

실무에서 메모리 누수가 발생하는 대표적인 상황은 다음과 같습니다.

1. 예외 발생으로 인한 구문 건너뜀: 잡을 스케줄링하거나 데이터를 가공하는 도중 C# 예외가 발생하여 하단의 .Dispose() 코드가 실행되지 않는 경우.
2. 조기 반환(Early Return): 조건문에 의해 메소드가 중간에 return될 때, 메모리 해제 로직을 누락하는 경우.
3. 비동기 흐름 파편화: Job의 실행 완료 시점(JobHandle)과 메인 스레드의 해제 시점이 동기화되지 않아 참조가 상실(Dangling Reference)되는 경우.

1.3 누수 탐지: Native Leak Detection 활성화

메모리 누수를 정밀 추적하기 위해 에디터 및 개발 빌드에서 추적 모드를 강화할 수 있습니다. 스크립트 진입점이나 초기화 로직에 아래 코드를 추가합니다.

// 스택 트레이스(Stack Trace)를 포함한 강력한 메모리 누수 감지 활성화
UnsafeUtility.SetLeakDetectionMode(NativeLeakDetectionMode.EnabledWithStackTrace);

이 옵션이 활성화되면 해제되지 않은 NativeArray가 존재할 때 콘솔창에 해당 메모리가 어느 파일, 몇 번째 줄에서 할당되었는지 정확한 스택 트레이스를 출력합니다.

2. Job Safety System 예외의 원인 분석

Unity의 Job Safety System(JSS)은 멀티스레드 환경에서 발생할 수 있는 데이터 경동(Data Race)을 방지하는 방화벽 역할을 합니다. 메인 스레드와 잡 스레드가 동일한 메모리 영역을 동시에 읽고 쓰려고 할 때, JSS는 런타임 예외를 발생시켜 데이터 오염을 차단합니다.

주요 발생 예외 패턴

패턴 A: Unscheduled / Uncompleted Access Exception

InvalidOperationException: The NativeArray is object of a job that is currently scheduled. 
You must call JobHandle.Complete() before accessing the buffer.

스케줄링된 잡(Job)이 내부적으로 NativeArray를 사용하고 있는 동안, 메인 스레드에서 해당 배열에 접근(Read/Write)하거나 Dispose()를 즉시 호출하려 할 때 발생합니다.

패턴 B: Concurrent Write Access Exception

InvalidOperationException: The previously scheduled job 'ProcessJob' writes to the NativeArray... 
You must pass this JobHandle as a dependency.

서로 다른 두 개 이상의 잡이 동일한 NativeArray 버퍼에 대해 쓰기 권한을 가지고 동시에 스케줄링되었을 때 발생합니다. JSS는 어떤 잡이 먼저 실행될지 보장할 수 없기 때문에 이를 엄격히 금지합니다.

3. 심화 트러블슈팅 및 버스트 완벽 호환 패턴

메모리 누수를 완전히 방지하고 Job Safety System과의 충돌을 해결하기 위한 실무 패턴 및 코드 예시입니다.

패턴 1: DisposeSentinel과 JobHandle을 통한 지연 해제 (Dispose Dependency)

메인 스레드에서 JobHandle.Complete()를 호출하여 블로킹(Blocking)을 일으키는 것은 프레임 드랍의 원인이 됩니다. 잡이 완료된 직후 스레드 세이프하게 메모리를 해제하려면 Dispose(JobHandle) 오버로드를 사용해야 합니다.

using Unity.Burst;
using Unity.Collections;
using Unity.Jobs;
using UnityEngine;

public class SafeNativeArrayPipeline : MonoBehaviour
{
    [BurstCompile]
    private struct ComputeTaskJob : IJobParallelFor
    {     
        [ReadOnly] public NativeArray<float> inputBuffer;
        public NativeArray<float> outputBuffer;

        public void Execute(int index)
        {
            outputBuffer[index] = inputBuffer[index] * 2.5f;
        }
    }

    private void Update()
    {
        int dataSize = 10000;
        
        // 1. Unmanaged 메모리 할당
        var inputData = new NativeArray<float>(dataSize, Allocator.TempJob);
        var outputData = new NativeArray<float>(dataSize, Allocator.TempJob);

        // 데이터 초기화 (생략)

        // 2. Job 구조체 생성 및 데이터 바인딩
        var job = new ComputeTaskJob
        {
            inputBuffer = inputData,
            outputBuffer = outputData
        };

        // 3. Job 스케줄링 (ParallelFor)
        JobHandle jobHandle = job.Schedule(dataSize, 64);

        // 4. [중요] Job이 끝난 후 자동으로 NativeArray가 해제되도록 의존성 주입 해제 처리
        // 메인 스레드를 블로킹하지 않고, 안전하게 Unmanaged 메모리 누수를 방지함
        JobHandle inputDisposeHandle = inputData.Dispose(jobHandle);
        JobHandle outputDisposeHandle = outputData.Dispose(jobHandle);

        // 5. 의존성이 결합된 최종 핸들 관리 (필요 시)
        JobHandle finalHandle = JobHandle.CombineDependencies(inputDisposeHandle, outputDisposeHandle);
        
        // 주의: finalHandle을 차후 프레임에서 수동으로 Complete() 해주거나 다음 잡의 의존성으로 넘겨야 함
    }
}

패턴 2: [ReadOnly] 및 [WriteOnly] 특성(Attribute)의 올바른 지정

Burst Compiler와 Job Safety System에 데이터 접근 의도를 명확히 알리면, 세이프티 체크 예외를 회피함과 동시에 극적인 컴파일 최적화(Auto-vectorization)를 이끌어낼 수 있습니다.

• [ReadOnly]: 여러 잡이 동일한 NativeArray를 동시에 읽는 것은 안전합니다. 이 특성을 붙이면 JSS는 다중 병렬 읽기 작업을 허용합니다.
• [WriteOnly]: 데이터 쓰기 전용 버퍼임을 명시하여 불필요한 캐시 동기화 비용을 줄입니다.
• [NativeDisableParallelForRestriction]: IJobParallelFor 내에서 인덱스(Index) 이외의 요소에 접근해야 할 때 발생 안전 검사를 비활성화합니다. (단, 사용 시 경동 조건이 발생하지 않음을 개발자가 보장해야 합니다.)

패턴 3: JobHandle 체이닝(Chaining)을 이용한 Race Condition 해결

이전 잡의 출력 결과를 다음 잡의 입력 결과로 연결할 때, JobHandle을 의존 관계(Dependency)로 명시적으로 전달해야 합니다.

JobHandle handleDataPrep = prepJob.Schedule();

// handleDataPrep이 완료된 이후에만 processJob이 실행되도록 의존성 체이닝
JobHandle handleProcess = processJob.Schedule(handleDataPrep);

// 완료 보장 후 접근
handleProcess.Complete();

4. 실무 성능 최적화 및 엣지 케이스 체크리스트

실제 프로덕션 환경에서 Unmanaged 메모리 관리 및 C# Job System을 적용할 때 반드시 확인해야 할 체크리스트입니다.

항목	점검 사항	권장 솔루션
할당자 선택	프레임 내 일회성 연산에 Persistent 할당 사용 여부	Allocator.Temp 또는 TempJob으로 전환하여 힙 파편화 방지
Dispose 누락	클래스 멤버 변수로 선언된 NativeArray의 해제 여부	OnDestroy() 또는 Dispose() 구현 패턴(IDisposable) 적용
Main Thread Blocking	Update() 마다 JobHandle.Complete() 호출로 스레드 대기 발생	Complete() 시점을 LateUpdate()로 미루거나 Dispose(JobHandle) 활용
Burst 컴파일 오류	NativeArray 내부에 참조 형식(Reference Type) 포함 여부	구조체(struct) 내에는 값 형식(Value Type) 또는 NativeContainer만 포함

결론: 안전하고 강건한 고성능 멀티스레딩 데이터 파이프라인 구축

Unity의 C# Job System과 Burst Compiler는 Garbage Collection 프레임 드랍에서 벗어나 하드웨어 한계까지 성능을 끌어올릴 수 있는 강력한 무기입니다. 하지만 이를 안정적으로 다루기 위해서는 Unmanaged 메모리의 명확한 수명주기 관리와 Job Safety System의 데이터 접근 규약을 엄격히 준수해야 합니다.

정확한 Allocator 선택, Dispose(JobHandle)를 활용한 비동기 지연 해제, 그리고 [ReadOnly] 특성을 활용한 데이터 통제 방식을 표준화한다면, 메모리 누수 없는 고성능 멀티스레드 시스템을 성공적으로 구현할 수 있을 것입니다.