C++ Windows Multithreading

우선 순위가 있는 최적의 작업 실행을 위한 스레드 풀 설계

오늘날 소프트웨어 환경에서는 다양한 우선 순위를 가진 임의의 작업을 효율적으로 실행할 수 있는 강력한 스레드 풀을 만드는 것이 중요하지만 중대한 도전과제입니다. 이러한 설계는 처리량 극대화 및 자원 활용 최적화에 필수적이며, 특히 작업이 CPU 바운드와 IO 바운드 모두에 해당할 수 있는 환경에서 더욱 중요합니다.

도전 과제

스레드 풀은 효과적이기 위해 여러 가지 목표를 달성해야 합니다:

  • 다양한 길이의 작업 실행: 작업은 짧은 작업(1초 미만)부터 매우 긴 작업(몇 시간 또는 며칠이 걸릴 수 있음)에 이르기까지 다양할 수 있습니다.

  • 동적 도착 처리: 새로운 작업이 다른 작업이 처리되는 동안 도착할 수 있으므로 스레드 풀은 이를 효율적으로 관리해야 합니다.

  • 우선 순위 관리: 각 작업은 중요성을 나타내는 우선 순위를 가지고 있으며, 작업 실행 계획을 수립할 때 이를 존중해야 합니다.

  • 자원 최적화: 스레드 풀은 CPU 바운드 작업과 IO 바운드 작업의 차이를 특히 고려하여 활성 스레드 수를 사용 가능한 처리 능력과 균형을 맞춰야 합니다.

주요 요구 사항

  • 작업 우선 순위 지정: 작업은 1(매우 낮음)에서 5(매우 높음)까지의 우선 순위를 할당받습니다. 높은 우선 순위의 작업은 낮은 우선 순위의 작업을 선점해야 하며, 더 높은 CPU 우선 순위를 가져야 합니다.

  • 작업 동시성 제한: 각 유형의 작업은 동시에 실행할 수 있는 인스턴스 수에 특정 한도가 있어야 하며, 자원 제약이 존중되어야 합니다.

  • 플랫폼 호환성: 구현은 Windows XP, Server 2003, Vista 및 Server 2008과 호환되어야 합니다.

솔루션 설계

이러한 요구 사항을 충족하는 스레드 풀을 만들기 위해서는 견고한 기초를 수립해야 합니다. Windows에서 사용할 수 있는 두 가지 유망한 빌딩 블록은 **I/O 완성 포트(IOCP)**와 **비동기 절차 호출(APC)**입니다.

IOCP와 APC 선택하기

  • I/O 완성 포트(IOCP):

    • 장점: 불필요한 컨텍스트 스위칭을 최소화하여 처리량 개선에 뛰어납니다. IOCP는 여러 스레드가 명시적 스레드 관리 없이 완료 알림을 처리할 수 있게 하여 IO 바운드 작업을 효율적으로 큐잉 및 처리합니다.
    • 단점: 주로 CPU 바운드 작업에 대해 구현하기가 약간 복잡합니다.

  • 비동기 절차 호출(APC):

    • 장점: 명시적 잠금 메커니즘 없이 작업 큐를 관리하는 간단함을 제공합니다. OS 수준에서 FIFO 동작을 자연스럽게 제공합니다.
    • 단점: 동시성 문제 발생 가능성이 있습니다. APC가 대기 함수(예: SleepEx 또는 WaitForXxxObjectEx)를 호출하면 이미 배치된 APC의 처리를 중단할 수 있어 원치 않는 동작이나 스택 오버플로우 위험을 초래할 수 있습니다.

구현 개요

스레드 풀 구조는 다음과 같이 설정할 수 있습니다:

C++ 인터페이스 예시

namespace ThreadPool
{
    class Task
    {
    public:
        Task();     
        void run();
    };

    class ThreadPool
    {    
    public:
        ThreadPool();
        ~ThreadPool();

        void run(Task *inst);
        void stop();
    };
}

작동 방식

  1. 작업 생성: Task 클래스를 사용하여 다양한 작업 유형을 정의합니다. 각 작업에는 할당된 작업을 실행하고 우선 순위를 확인하는 메서드가 포함될 수 있습니다.

  2. 스레드 풀 관리: ThreadPool 클래스는 스레드 관리를 담당하며, 우선 순위에 따라 작업을 큐에 넣고 실행 프로세스를 시작합니다.

  3. 우선 순위 로직: 작업의 우선 순위에 따라 실행 우선 순위를 조정하는 로직을 구현합니다. 스레드 우선 순위 함수를 사용하여 높은 우선 순위의 작업이 필요한 경우 더 많은 CPU 시간을 확보하도록 합니다.

  4. 동시성 처리: Windows API의 내장 메커니즘을 사용하여 동시성을 처리하고, IO와 CPU 바운드 작업이 혼합된 부하가 작동할 때 잠금 문제를 피합니다.

결론

다양한 길이와 우선 순위를 가진 작업을 효율적으로 처리하는 스레드 풀을 만드는 것은 쉬운 일이 아니지만 고성능 애플리케이션에 필수적입니다. IOCP 또는 APC를 활용함으로써 개발자는 자원 사용을 최적화하고 처리량을 개선하는 강력한 솔루션을 설계할 수 있습니다. 각 접근 방식의 상반된 특성을 이해하는 것이 특정 애플리케이션 요구 사항을 충족하도록 구현을 맞춤화하는 데 핵심이 될 것입니다.

이러한 구조적인 접근 방식을 통해 현대 소프트웨어 개발의 요구를 충족하는 고기능의 스레드 풀 구현 및 설계를 자신 있게 진행할 수 있습니다.