[MLOps] Thread, I/O 바운드, BMT, 웹소켓

1. Thread란?

- 프로그램이 동시에 여러 작업을 처리할 수 있도록 하는 작은 실행 단위

→  예시: 인터넷 브라우저에서 스레드가 있다면, 한 스레드는 웹 페이지를 로드하고, 다른 스레드는 동영상 재생을 처리하고, 또 다른 스레드는 버튼 클릭 응답을 처리

 

2. I/O 바운드

- 프로그램이 입출력 (Input/Output) 작업 때문에 실행 속도가 제한되는 상황

- I/O : 컴퓨터가 데이터를 주고 받는 작업

→ 예시: 하드디스크에서 파일을 읽거나 쓰는 작업, 인터넷에서 데이터를 다운로드하거나 서버와 통신하는 작업

- 바운드: 제한/제약, 작업의 성능이나 처리 속도를 결정하는 요소가 무엇인지 설명할 때 사용

- I/O 바운드:  I/O 작업이 성능의 병목이 되는 상황, 프로그램의 속도가 CPU의 연산 능력이 아니라 입출력 작업에 의해 제한되는 것

 

3. BMT

- Benchmark Test의 약자로, 시스템, 소프트웨어, 하드웨어 또는 애플리케이션의 성능을 측정하고 평가하는 테스트

- 새로운 시스템이나 소프트웨어를 도입할때, 실제로 우리 환경에서 잘 작동하는지 확인

 

4.웹소켓

- 웹 브라우저와 서버 간에 양방향 통신을 할 수 있게 해주는 기술

- 클라이언트와 서버가 한 번 연결되면 실시간으로 데이터를 주고 받을 수 있는 통로를 만들어 준다.

특징	HTTP	WebSocket
통신 방식	요청-응답 (클라이언트가 요청, 서버가 응답)	양방향 (서버와 클라이언트가 자유롭게 데이터를 주고 받음)
연결 유지	요청마다 연결 새로 만듦	한 번 연결 후 지속 유지
실시간성	낮음	높음
데이터 효율성	요청마다 헤더를 포함	가벼운 프로토콜 사용
언제 사용?	간헐적 요청/ 응답 (뉴스 읽기, 이미지 로드 등 요청 후 응답만 받으면 되는 경우)	실시간 채팅, 주식 거래 시스템(실시간 주가 변동), 멀티 플레이어 게임 등