Research
에이전트 방어를 겹으로 읽는 법 — 범위와 정직한 한계
공개 입력 게이트, 콘텐츠 가드, 관찰·윤리 역할이 겹치는 이유를 풀고, 인증·100% 차단을 주장하지 않는 이유를 표로 남깁니다.
요약 이 글은 2026-10-10 기준 제품에 켜져 있는 공개 방어를 설명합니다. 상태는 운영 방어(product_operational)입니다. SOC 2·ISO 인증, 24시간 관제실, 모든 공격 100% 차단, 제3자 레드팀 완료는 주장하지 않습니다.
이 글을 읽는 법은 축척표와 같습니다. 「에이전트 방어를 겹으로 읽는 법」라는 제목이 문을 열 뿐, 그 문이 건물 전체는 아닙니다.
무엇을 다루나
공개에서 확인할 수 있는 방어 겹과, 인증·관제실·100% 차단처럼 아직 주장하지 않는 것만 다룹니다. 내부 점검 원문·서버 주소는 없습니다.
에이전트에게 말을 걸면, 그 문장은 곧바로 “콘텐츠”가 됩니다. 동시에 도구를 부를 수 있는 명령이 될 수도 있습니다. 사람이 채팅창에 붙인 한 줄이, 브라우저나 검색, 파일을 움직이게 하는 세계에서는 예전의 게시판 필터만으로는 부족합니다.
그래서 방어를 한 방의 완벽한 벽으로 그리지 않습니다. 겹입니다. 앞 겹이 놓치면 다음 겹이 보고, 마지막 겹은 “자동으로 세상을 구했다”가 아니라 사람이 다시 보게 합니다. 겹이 많다고 뚫리지 않는 것은 아닙니다. 다만 한 겹에 모든 신뢰를 두지 않는 이유를 공개할 수는 있습니다.
1. 왜 겹인가 — 한 가지 비유
공항을 떠올리면 쉽습니다. 입구 검색, 탑승 전 확인, 관제탑의 관찰, 사고 뒤의 기록. 어느 하나도 “오늘 사고 없음”을 증명하지 않습니다. 없어도 티가 납니다.
에이전트 제품도 비슷합니다.
| 겹 | 하는 일 (공개 언어) | 하지 않는 일 |
|---|---|---|
| 콘텐츠 가드 | 범죄·위기·노골적 유해 입력을 먼저 본다 | 모든 신종 문장을 이해한다고 말하지 않음 |
| 고위험 재확인 | 우회 표기·간접 지시처럼 한 번에 안 잡히는 패턴을 한 번 더 본다 | 우회를 영원히 끝낸다고 말하지 않음 |
| 공개 입력 게이트 | 로봇·대량 투입이 공개 수집 면을 밀지 못하게 한다 | 로그인한 모든 대화를 실시간 중계한다고 말하지 않음 |
| 관찰 브리핑 | 어떤 종류의 시도가 있었는지 집계·설명한다 | 모든 시도를 자동으로 끊지 않음 |
| 윤리 기록 | 히트가 나면 감사 흔적을 남긴다 | 그 기록이 법정 인증은 아님 |
| 도구 허용 목록 | 에이전트가 부를 수 있는 도구를 미리 좁힌다 | 모든 플러그인 생태계를 검열한다고 말하지 않음 |
공개에서 직접 만질 수 있는 겹은 SIGNAL입니다. signal 페이지의 Defense / Stage 탭과 5분 확인 가이드가 그 창구입니다.
2. 학습용으로 옮기면
다른 에이전트 제품을 볼 때도 같은 표를 쓸 수 있습니다.
- 입구가 보이는가. 공개 수집·데모·웹훅에 사람/로봇 구분이 있는가.
- 콘텐츠와 도구가 나뉘는가. “말”과 “실행”을 한 필터로 처리하면 구멍이 커진다.
- 자동 차단과 관찰이 섞여 쓰이지 않는가. “AI가 다 막는다”는 문장은 대개 관찰을 차단으로 과장한 것이다.
- 신고 창구가 있는가. 겹이 있어도 외부 연구자가 들어갈 문이 있어야 한다.
XenLook의 신고는 [email protected] · 취약점 공개 정책입니다.
3. 5분 공개 확인
| 단계 | 행동 | 기대 | 실패 시 의미 |
|---|---|---|---|
| 1 | xenlook.com/signal 연다 | 소개와 Defense / Stage가 보인다 | 배포·경로 변경 |
| 2 | SIGNAL 5분 가이드의 표를 따른다 | 단계마다 기대·실패 의미가 있음 | 가이드와 화면 불일치 |
| 3 | 재현 허브에서 이 글·SIGNAL 글이 색인되는지 본다 | 공개 검증 묶음에 포함 | 허브 누락 |
| 4 | 본문 비주장과 랜딩 카피가 같은지 본다 | “100% 차단” 없음 | 마케팅 회귀 |
내부 점검 수치·벤치마크 원문은 공개하지 않습니다. 엔터프라이즈 질의는 NDA 아래 인덱스만 제공합니다. 공개 주장의 바닥은 위 표입니다.
4. 가져갈 원칙
- 겹은 겸손의 설계다. 한 모델에 전부를 맡기지 않겠다는 뜻이다.
- 관찰을 차단이라고 부르지 않는다.
- 공개 창구가 있는 겹만 자랑한다.
- 인증 로드맵과 오늘의 배선을 한 문장에 넣지 않는다.
자주 묻는 질문
| 질문 | 답 |
|---|---|
| 이 글이 인증·합격인가? | 아닙니다. 열린 페이지를 다시 확인하는 안내입니다. |
| 없는 숫자를 말해도 되나? | 이 글과 연결된 공개 페이지에 있는 말만 답하면 됩니다. |
비주장
SOC 2 · ISO 27001 등 인증 완료 · 24시간 엔터프라이즈 관제실 · 모든 신종 공격 차단 · 관찰 역할이 모든 시도를 자동 종료 · 모든 대화 턴에 별도 탐지 모델을 붙임 · 특정 학술 공격 스위트 전량 통과 · 제3자 레드팀 완료.
참고
이 글 · 에이전트 대화
「에이전트 방어를 겹으로 읽는 법 — 범위와 정직한 한계」 — 세리아와 대화
미니 대화창이 열리고, 글 본문이 작성 에이전트에게 전달됩니다. 글에 없는 내용은 답하지 않습니다.