앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개
2026년 11월 13일 · SmartMakers GitStar Radar
1 / 4
앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 앤트로픽이 AI 모델의 유해성을 다각도로 검증하기 위한 안전 평가 권고안을 공개했는데요. 회사 발표 기준 API 환경에서 최근 모델들의 단일 턴 무해 응답률은 94%에서 98% 수준으로 이미 포화 상태입니다. 단순 거절률 평가로는 대화가 누적되며 발생하는 사기나 자해 유도 같은 복합적 위험을 잡아내기 어렵다고 밝혔는데요. 이에 따라 도메인 전문가의 사양을 기반으로 별도 모델이 가상 사용자를 연기하는 다중 턴 시뮬레이션 평가 방식을 제시했습니다. AI 평가 실무자는 단순 거절 빈도 대신 영역별 전문가 기준에 맞춘 적절한 응답률 루브릭을 사내 벤치마크에 바로 적용해 볼 수 있습니다. 발표일과 원문은 아래 출처에서 확인하세요. 성능 수치는 회사 발표 기준입니다. Anthropic · 2026-11-13 https://www.anthropic.com/research/building-strong-safety-evaluations
