앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개

2026년 11월 13일 · SmartMakers GitStar Radar

앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 1번째 카드앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 2번째 카드앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 3번째 카드앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 4번째 카드

1 / 4

앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 앤트로픽의 다중 턴 중심 AI 안전 평가 권고안 공개 앤트로픽이 AI 모델의 유해성을 다각도로 검증하기 위한 안전 평가 권고안을 공개했는데요. 회사 발표 기준 API 환경에서 최근 모델들의 단일 턴 무해 응답률은 94%에서 98% 수준으로 이미 포화 상태입니다. 단순 거절률 평가로는 대화가 누적되며 발생하는 사기나 자해 유도 같은 복합적 위험을 잡아내기 어렵다고 밝혔는데요. 이에 따라 도메인 전문가의 사양을 기반으로 별도 모델이 가상 사용자를 연기하는 다중 턴 시뮬레이션 평가 방식을 제시했습니다. AI 평가 실무자는 단순 거절 빈도 대신 영역별 전문가 기준에 맞춘 적절한 응답률 루브릭을 사내 벤치마크에 바로 적용해 볼 수 있습니다. 발표일과 원문은 아래 출처에서 확인하세요. 성능 수치는 회사 발표 기준입니다. Anthropic · 2026-11-13 https://www.anthropic.com/research/building-strong-safety-evaluations

다른 소식