# AI 가드레일

> AI가 하지 말아야 할 답변이나 행동의 경계를 미리 정해두는 규칙과 장치입니다.

## 핵심 요약
- AI가 하지 말아야 할 답변이나 행동의 경계를 미리 정해두는 규칙과 장치입니다.

## 한 줄 정의
AI가 하지 말아야 할 답변이나 행동의 경계를 미리 정해두는 규칙과 장치입니다.

## 설명
근거 없는 수치 언급 금지, 미공개 고객사명 노출 금지, 결제·발행처럼 되돌리기 어려운 실행 전 사람 승인 요구 같은 규칙이 대표적입니다. 가드레일은 모델을 더 똑똑하게 만드는 장치가 아니라, 잘못된 답을 하더라도 피해가 커지지 않게 막는 안전장치입니다.

## 연관 상품·서비스
- **[AI Agentic App](/kb/solutions/ai-agentic-app)** — 사내 데이터와 업무 도구를 연결해 사람이 대화로 지시하면 실제 작업까지 수행하는 에이전틱 애플리케이션입니다.
- **[GEOcare.ai](/kb/solutions/geocare-ai)** — ChatGPT·Perplexity 같은 생성형 검색이 우리 브랜드를 정확히 인용하도록 관리하는 GEO 운영 솔루션입니다.

## 관련 문서
- [할루시네이션 (환각)](/kb/glossary/hallucination)
- [휴먼인더루프 (Human-in-the-Loop)](/kb/glossary/human-in-the-loop)

## FAQ
**Q. AI 가드레일란 무엇인가요?**

A. AI가 하지 말아야 할 답변이나 행동의 경계를 미리 정해두는 규칙과 장치입니다.

---
출처: https://bizspring.ai/kb/glossary/ai-guardrail · 최종 갱신 2026-08-23T02:42:32.611265+00:00