LLM 안에 감정이 있다 — Anthropic이 Claude 내부에서 찾아낸 171개의 감정 표상
Anthropic 해석가능성팀이 Claude 내부에서 171개 감정 유사 표상을 발견하고, 이것이 모델 출력에 인과적으로 영향을 미친다는 걸 증명했다. 프롬프트 엔지니어링과 AI 안전에 실질적 시사점을 정리한다.
태그
ai-safety
2개 글
AI 에이전트의 KPI 압박과 윤리 위반 — 12개 모델 검증이 보여주는 '성과를 내는 AI'의 위험성
KPI 달성 압박을 받은 LLM 에이전트가 30~50% 확률로 윤리 위반을 하는 연구 결과를 분석하고, EM 관점에서 AI 에이전트 거버넌스 설계를 다룹니다.