AI 기본고급
Red Teaming
AI 시스템의 취약점이나 위험한 답변 가능성을 공격적으로 테스트하는 과정.
언제 쓰나요
“개인정보를 유도하는 질문에 안전하게 거절하는지 확인한다.”
Red Teaming 한 줄 정리
Red Teaming은(는) AI 기본 영역에서 자주 등장하는 고급 단계 용어입니다. 처음 접하는 분이라면 외우기보다 위 예시처럼 실제 사용 맥락에서 익히는 편이 자연스럽습니다.
AI 시스템의 취약점이나 위험한 답변 가능성을 공격적으로 테스트하는 과정.
“개인정보를 유도하는 질문에 안전하게 거절하는지 확인한다.”
Red Teaming은(는) AI 기본 영역에서 자주 등장하는 고급 단계 용어입니다. 처음 접하는 분이라면 외우기보다 위 예시처럼 실제 사용 맥락에서 익히는 편이 자연스럽습니다.