[FastAPI] Uvicorn, wrokers, GIL, 비동기, event loop, Background Task

1. Uvicorn이란?

- python으로 작성된 ASGI(Asynchronous Server Gateway Interface) 웹 서버

- workers (프로세스) 지원

 

2. ASGI(Asynchronous Server Gateway Interface) 란?

- 비동기 서버 게이트웨이 인터페이스, python으로 만든 웹 애플리케이션과 웹 서버가 소통하는 방식

 

3. WSGI란(Web Server Gateway Interface)?

- python 웹 서버와 웹 애플리케이션 사이의 통신을 위한 표준 인터페이스

 

4. Gateway Interface란?

- 웹 서버와 웹 애플리케이션 사이를 연결하는 표준 인터페이스, 이 표준 덕분에 다양한 서버와 프레임워크가 호환이 가능하다

- 예: WSGI, ASGI

 

5. 웹서버란?

- 인터넷에서 웹사이트를 보여주는 컴퓨터 프로그램. HTTP 요청을 받아 정적 파일을 직접 전달하거나, 웹 애플리케이션 서버(WAS)으로 요청을 전달하는 소프르웨어.(예: Nginx, Apache)

 

6. 웹 애플리케이션 서버란?

- 웹 애플리케이션을 실행하고, 비즈니스 로직을 처리하는 중간 계층 서버

- 사용자의 요청을 받아 웹앱을 통해 DB나 다른 리소스를 처리한 뒤, 결과를 반환

- 예: Uvicorn, Gunicorn, Apach Tomcat

 

7. 웹 애플리케이션이란?

- 웹사이트의 실제 기능을 담당하는 프로그램. (예: FastAPI로 구현된 App)

[클라이언트 브라우저]
        │
        ▼
     [Nginx]  ← 웹서버 (정적 파일 제공, 리버스 프록시 역할)
        │
        ▼
    [Uvicorn] ← 웹애플리케이션서버(WAS, FastAPI 실행기, 웹 애플리케이션을 실행해주는 엔진)
        │
        ▼
   [FastAPI App] ← 웹애플리케이션 (API, 로직, DB 처리 등, 실제 구현된 서비스 프로그램)
        │
        ▼
       [DB]     ← 데이터 저장소

 

8. Gunicorn이란?

- python의 WSGI 기반 웹 서버로, Django, Flask와 같은 동기 웹 프레임워크를 실행하기 위해 사용됨

- 여러 worker 프로세스를 사용해 멀티프로세싱 처리를 지원

 

9. workers란?

- WAS 또는 서버에서 요청을 처리하는 실행 단위 프로세스

- 자체 메모리 공간과 리소스를 가짐

- 하나의 worker가 충돌해도 다른 worker는 계속 작동

- I/O작업이 혼합된 보통의 작업은 코어수*2+1개로 설정, CPU가 많이 소모되는 작업은 코어수에 맞게 설정

 

10. GIL(Global Interpreter Lock)이란?

- CPython에서 하나의 스레드만 파이썬 바이트코드를 실행할 수 있도록 제한하는 락

- 멀티 프로세싱으로 회피 가능

- GC(Garbage Collection)은 더 이상 사용되지 않는 메모리(객체)를 자동으로 해제하는 메모리 관리 기법인데, python의 경우 객체가 사용되면 +1, 사용이 끝나면 -1을 하는 레퍼런스 카운팅 기반 GC를 사용한다. 이때 참조 카운트는 전역 상태이기 때문에 동시에 접근하면 충돌이 생겨 이를 방지하기 위해 GIL을 선택했다.

* C의 경우, 개발자가 직접 락을 관리하기 때문에, GIL이 없다. 다른 언어들도 병렬처리와 멀티코어 활용을 고려한 설계로 GIL이 없으나, Python의 경우 단순한 자동화에서 출발한 언어로 멀티스레드 고성능이 초기 목표가 아니었기 때문에 간단하고 안전한 GIL을 선택했다.

 

11. 스레딩, 멀티스레딩, 프로세싱, 멀티프로세싱

* 참고 자료: https://www.youtube.com/watch?v=DmZnOg5Ced8

* 그림 출처: https://hooni-playground.com/1547/

- 스레딩: 하나의 프로세스 내부에서 여러 작업 흐름(스레드)를 생성

- 멀티스레딩: 여러 스레드를 동시에 실행(병렬처리, GIL로 인해 병렬성 제한)

- 프로세싱: 메모리를 독립적으로 사용하는 실행 단위(완전한 독립)

- 멀티프로세싱: 여러 프로세스를 동시에 실행(병렬성 확보, GIL 회피)

 

12. 비동기

- 작업이 완료될 때가지 기다리지 않고, 다른 작업을 먼저 처리하는 방식

 

13. 이벤트루프

- 비동기 작업을 관리하는 중앙 제어 구조

- 이벤트(작업 요청)을 감지하고, 대기 중인 작업들을 스케줄링해 실행

+--------------------------+
|      이벤트 루프         |
|  (Event Loop - asyncio)  |
+--------------------------+
             │
             ▼
   +--------------------+
   |     태스크 큐      |   ← 실행 준비된 코루틴들이 들어옴
   |  (Task Queue)      |
   +--------------------+
             │
             ▼
   +--------------------+
   |  실행 중인 코루틴   |  ← 하나씩 꺼내어 실행
   +--------------------+
             │
    ┌────────┴────────┐
    ▼                 ▼
 I/O 대기 중       완료된 작업
  (await)           (callback 등록)
    │                 │
    ▼                 ▼
 (이벤트 발생)  ← 타이머, 네트워크 응답 등
    │
    ▼
  이벤트 루프가 감지하고,
  다시 태스크 큐에 등록

 

14. uvloop

- asyncio의 기본 이벤트 루프보다 훨씬 빠르고 고성능의 이벤트 루프 구현체

- uvicorn --loop uvloop 옵션으로 활성화 가능

 

15. Background Task

- 클라이언트 요청을 즉시 처리하고, 서버는 뒤에서 추가 작업을 계속 진행

- 예: 이메일 전송, 로그 저장, 푸시 알림 전송, 대용량 파일 삭제, DB 백업 등 비필수 후처리 작업

- 예외가 나도 클라이언트에 영향이 없다(로그도 따로 잡아야 한다.) 

- 여러 작업을 add_task()로 등록하면 순서대로 실행됨

- 별도 스레드가 아니고, 일반적으로 이벤트 루프에서 순차 실행됨

- 비동기/동기 함수 모두 지원

[클라이언트 요청]
        │
        ▼
+------------------------+
|  FastAPI 엔드포인트    |
|  (요청 본체 처리)      |
+------------------------+
        │
        ├──> 응답 데이터 생성
        │
        ▼
+------------------------+
|  BackgroundTasks 등록 |
|  background_tasks.add_task(func, args) |
+------------------------+
        │
        ├────▶ 응답 먼저 클라이언트에 전송
        │
        ▼
+-----------------------------+
|   이벤트 루프 / 태스크 큐   |
|   (등록된 작업 실행 시작)   |
+-----------------------------+
        │
        ▼
+--------------------+
|   백그라운드 작업  |
|   예: 로그 저장, 이메일 전송 등 |
+--------------------+

from fastapi import FastAPI, BackgroundTasks

app = FastAPI()

def write_log(message: str):
    with open("log.txt", mode="a") as file:
        file.write(f"{message}\n")

@app.get("/send/")
async def send_notification(background_tasks: BackgroundTasks):
    background_tasks.add_task(write_log, "User requested /send")
    return {"message": "Request received"}
    
    
# 클라이언트는 {"message": "Request received"} 응답을 즉시 받고,
# write_log("User requested /send")는 응답 이후에 백그라운드에서 실행됩니다.