똑똑한 적 NPC 만들기: 비헤이비어 트리(Behavior Tree) 설계

FSM의 한계와 비헤이비어 트리(BT)의 등장

전통적인 게임 AI 설계 방식인 유한 상태 머신(FSM, Finite State Machine)은 직관적이지만, 상태가 많아질수록 복잡도가 기하급수적으로 증가하는 '상태 폭발' 문제를 겪게 됩니다. 예를 들어, 공격 중에 플레이어가 시야에서 사라지거나, 체력이 낮아져 도망가야 하는 상황이 얽히면 전이(Transition) 화살표가 거미줄처럼 엉키게 됩니다.

비헤이비어 트리(Behavior Tree)는 이러한 복잡한 로직을 '계층적 트리 구조'로 해결합니다. 각 동작을 독립적인 노드로 분리하고, 이들을 조합하여 복잡한 행동 양식을 만듭니다. 이는 코드의 재사용성을 높여줄 뿐만 아니라, 기획자가 AI 로직을 이해하고 수정하기에도 훨씬 유리한 구조입니다.

비헤이비어 트리의 핵심 노드 이해하기

비헤이비어 트리는 크게 세 가지 종류의 노드로 구성됩니다.

• Composite Node: 자식 노드들의 실행 순서를 제어합니다. (Selector, Sequence)
• Decorator Node: 자식 노드의 실행 결과에 조건을 걸거나 변형을 줍니다. (Inverter, Repeater)
• Leaf Node: 실제 행동(Action)을 하거나 상태를 체크(Condition)하는 노드입니다.

특히 Selector는 자식 중 하나라도 성공하면 즉시 성공을 반환(OR 로직)하고, Sequence는 모든 자식이 성공해야 성공을 반환(AND 로직)하는 핵심적인 흐름 제어 도구입니다.

C#으로 구현하는 기초 BT 노드 구조

유니티 프로젝트에서 사용할 수 있는 기본적인 노드 추상 클래스와 Sequence 노드의 구현 예시입니다.

public enum NodeState { RUNNING, SUCCESS, FAILURE }

public abstract class Node
{
protected NodeState state;
public abstract NodeState Evaluate();
}

public class Sequence : Node
{
protected List<Node> children = new List<Node>();

public Sequence(List<Node> nodes) => children = nodes;

public override NodeState Evaluate()
{
bool anyChildRunning = false;
foreach (var node in children)
{
switch (node.Evaluate())
{
    case NodeState.FAILURE:
        state = NodeState.FAILURE;
        return state;
    case NodeState.SUCCESS:
        continue;
    case NodeState.RUNNING:
        anyChildRunning = true;
        continue;
    default:
        state = NodeState.SUCCESS;
        return state;
}
}
state = anyChildRunning ? NodeState.RUNNING : NodeState.SUCCESS;
return state;
}
}

실전 응용: 적 NPC의 의사결정 트리

실제 게임의 적 AI는 다음과 같은 트리 구조를 가질 수 있습니다.

1. Selector (Root)
   • Sequence (Attack Cycle)
     • Condition: 플레이어가 사거리 안에 있는가?
     • Action: 플레이어를 공격하라.
   • Sequence (Chase)
     • Condition: 플레이어가 시야 안에 있는가?
     • Action: 플레이어 방향으로 이동하라.
   • Action (Patrol): 정해진 경로를 순찰하라.

이 구조에서 적은 매 프레임마다 루트 노드부터 평가를 시작합니다. 만약 공격 조건이 맞지 않으면 체이스 노드를 확인하고, 그마저도 아니면 마지막 수단으로 순찰을 수행하게 됩니다. 조건 하나만 바꾸면 공격보다 도망을 우선시하는 겁쟁이 AI도 쉽게 만들 수 있습니다.

AI 설계의 시각화와 디버깅

비헤이비어 트리의 가장 큰 장점은 시각화입니다. 많은 상용 엔진(Unreal, Unity NodeCanvas 등)이 전용 에디터를 제공합니다. 직접 구현하더라도 현재 실행 중인 노드를 색깔별로 기즈모(Gizmos)를 통해 표시해주는 것만으로도 디버깅 효율이 비약적으로 상승합니다. AI가 왜 저런 행동을 하는지 눈으로 직접 확인할 수 있기 때문입니다.

마치며: 더 생동감 있는 게임을 위해

단순히 플레이어를 따라오는 적은 지루합니다. 비헤이비어 트리를 이용해 주변 환경을 체크하고, 동료와 협력하거나, 위기 상황에서 전술적인 판단을 내리는 AI를 만들어보세요. 작은 지능의 차이가 유저에게는 훨씬 더 몰입감 있는 게임 경험으로 다가갈 것입니다.

심화 분석: 기술적 도전과 해결책

프로젝트의 성공은 기술력뿐만 아니라 팀 내 원활한 커뮤니케이션과 체계적인 파이프라인 구축에 달려 있습니다. 자동화된 빌드 시스템과 코드 리뷰 프로세스는 개발 속도를 비약적으로 높여줍니다. 1인 개발일지라도 스스로의 작업 규칙을 명확히 하는 것이 중요합니다.

기술적 구현의 디테일

저는 이번 개발 과정에서 모든 기능을 모듈화하여 독립적으로 테스트할 수 있는 환경을 구축했습니다. 이는 추후 기능 확장이나 버그 수정 시 발생할 수 있는 사이드 이펙트를 최소화하는 데 큰 역할을 했습니다. 또한 문서화를 병행하여 기술 부채가 쌓이는 것을 방지했습니다.

성능 벤치마크 및 최적화 지표

협업 툴 및 자동화 시스템 도입 이후 작업 히스토리 추적 시간이 50% 단축되었으며, 휴먼 에러로 인한 빌드 실패율이 눈에 띄게 줄어들었습니다. 이는 전체적인 개발 사이클을 20% 이상 단축시키는 결과를 가져왔습니다.

실무 적용 시 주의사항

완벽한 설계를 추구하기보다 빠르게 프로토타입을 만들고 피드백을 수용하는 애자일(Agile)한 자세가 특히 중요합니다. 기술에 매몰되기보다 유저가 실제로 느끼는 가치에 집중하는 균형 잡힌 시각을 유지하세요.

LYSC Studio

1인 게임 개발과 웹 기술에 관심이 많은 개발자입니다. 경험을 통해 배운 것을 공유하고, 함께 성장하는 것을 즐깁니다.