[AI 서비스 개발] Intent와 Slot, 가드레일

1. Intent(의도)란?

- AI가 사용자의 의도를 이해하는 과정

- 사용자가 챗봇이나 AI 시스템과 상호작용할 때 전달하려는 목적이나 의미를 말한다.

- 예: 날씨 알려줘 → 날씨 조회, 맥주 추천해줘 → 맥주 추천, 오늘 할 일 추가해줘 → 일정 추가

 

2. Slot(슬롯)이란?

- Intent를 수행하는데 필요한 추가적인 정보(속성)

- 예: 내일 서울 날씨 알려줘 → Intent: 날씨 조회, Slot: 서울(위치), 내일(날짜)

 

3. 가드레일이란?

- AI가 의도와 관계없이 안전하고 적절한 응답을 보장하는 과정

- 가드레일은 ai 서비스에서 비정상적이거나 원하지 않는 응답을 방지하는 기법(안정장치)

- 예: 부적절한 응답 차단(욕설, 혐오 등), 비즈니스 정책 준수, 잘못된 정보 방지(신뢰할 수 없는 정보 제공 제한), 프롬프트

- 예: 카페 추천 → 부적절한 카페 이름 필터링, 특정 브랜드만 추천하는 편향 방지, 위치 정보가 필요할 때 사용자 동의 요청

인젝션 방어

1) 입력 필터링: 사용자 입력에서 금지된 단어 또는 특정 패턴을 감지하여 차단

2) 출력 검증: AI가 생성한 응답이 정책을 위반하는지 확인

3) 컨텍스트 제한: 특정 주제나 기능에 대한 대화를 제한

4) 사용자 피드백 반영: 잘못된 응답이 발생하면 신고 기능을 제공하여 개선