Atlas / Skills / revfactory / Assessment Engineering

Assessment EngineeringSAFE

skills/revfactory/assessment-engineering
Verdict
SAFE
Grade
B
Trust score
89 /100
Version
—
Hosts
—
License
Apache-2.0
Stars
1,297
01

Overview

An agent skill published by revfactory.

Read from source at commit 459e1bb8f76eOBSERVED · 2026-10-12
02

What it tells the agent

The instruction file, verbatim from the audited commit — this is the text the model reads, and the surface the audit's instruction layer examines. Quoted here so you can judge it without cloning anything.

---
name: assessment-engineering
description: "퀴즈출제자(quiz-maker)가 사용하는 평가 공학 전문 스킬. 문항 유형별 설계, 오답지 설계 심리학, 루브릭 구축, 형성평가/총괄평가 전략을 제공한다. '퀴즈 설계', '평가 문항', '루브릭', '시험 출제' 등에 활용한다."
---

# Assessment Engineering — 평가 공학 방법론

quiz-maker 에이전트가 형성평가/총괄평가를 설계할 때 활용하는 평가 전문 지식.

## 왜 평가 공학인가

좋은 평가는 학습자의 이해도를 **정확히 측정**하는 동시에 **학습을 강화**한다. 나쁜 평가는 암기를 보상하고, 좋은 평가는 이해를 보상한다.

## 문항 유형별 설계 가이드

### 1. 객관식 (Multiple Choice)

| 요소 | 규칙 |
|------|------|
| **문두 (Stem)** | 독립적으로 읽었을 때 질문이 명확해야 한다 |
| **정답 (Key)** | 명백하게 최선의 답이어야 한다 |
| **오답지 (Distractor)** | 그럴듯하되 명확히 틀려야 한다 (아래 상세) |
| **선택지 수** | 4개 (5개는 의미 없는 오답 증가, 3개는 찍기 확률 33%) |
| **선택지 길이** | 비슷한 길이 유지 (정답이 가장 긴 것은 단서 유출) |

### 오답지(Distractor) 설계 심리학

| 오답 유형 | 목적 | 예시 (질문: "REST에서 리소스 삭제에 사용하는 HTTP 메서드는?") |
|----------|------|------|
| **흔한 오해** | 잘못된 지식 진단 | "POST" (생성과 삭제 혼동) |
| **부분 정답** | 피상적 이해 진단 | "PUT" (수정과 삭제 혼동) |
| **관련 개념** | 개념 간 구분 진단 | "PATCH" (부분 수정, 유사 개념) |
| **정답**: | | "DELETE" |

### 2. 코드 작성 문제

```
[상황 설정]
다음 요구사항을 만족하는 함수를 작성하세요.

[입력/출력 명세]
- 입력: [타입과 범위]
- 출력: [타입과 조건]
- 제약: [시간/공간 복잡도, 금지 사항]

[예시]
입력: [예시 입력]
출력: [예시 출력]

[평가 기준]
- [ ] 정확성: 모든 테스트 케이스 통과
- [ ] 코드 품질: 가독성, 네이밍
- [ ] 효율성: 시간/공간 복잡도
```

### 3. 시나리오 기반 문제

```
[시나리오]
당신은 ~한 상황에 있습니다. [구체적 상황 묘사]

[질문]
이 상황에서 가장 적절한 [행동/설계/해결책]은 무엇인가?

[평가 관점]
- 문제 식별 능력
- 해결 전략의 적절성
- 트레이드오프 인식
```

## 형성평가 vs 총괄평가

| 속성 | 형성평가 (Formative) | 총괄평가 (Summative) |
|------|-------------------|-------------------|
| **시점** | 학습 중 (매 레슨) | 학습 완료 후 (모듈 끝) |
| **목적** | 이해 확인, 즉시 교정 | 성취 측정, 등급 부여 |
| **분위기** | 부담 없음, 연습 | 공식적, 최종 |
| **문항 수** | 3~5개 | 10~20개 |
| **피드백** | 즉시, 상세 | 완료 후, 총합 |
| **재응시** | 무제한 | 1~2회 |
| **블룸 수준** | 1~3 (기억, 이해, 적용) | 3~6 (적용~창조) |

### 형성평가 설계 원칙

1. **매 레슨 끝에 3~5문항**: 핵심 개념 확인
2. **즉각적 피드백**: 정답/오답 + "왜 이것이 정답인가" 설명
3. **오답 시 학습 유도**: "이 부분을 다시 확인해보세요: [섹션 링크]"
4. **난이도 순서**: 쉬움→어려움 순서로 배치 (자신감 구축)

### 총괄평가 설계 원칙

1. **학습목표 100% 커버**: 모든 학습목표가 최소 1개 문항에 매핑
2. **블룸 분포**: 기억 20% + 이해 20% + 적용 30% + 분석/평가/창조 30%
3. **시간 배분**: 문항당 2~3분, 전체 30~60분
4. **실전 가중치**: 실습/프로젝트가 총점의 40~60% 차지

## 루브릭 (Rubric) 구축

### 분석적 루브릭 템플릿

| 기준 | 우수 (4점) | 양호 (3점) | 보통 (2점) | 미흡 (1점) |
|------|-----------|-----------|-----------|-----------|
| **기능 구현** | 모든 요구사항 충족 | 90% 충족 | 70% 충족 | 50% 미만 |
| **코드 품질** | 깔끔, 일관된 스타일 | 대체로 깔끔 | 일부 비일관 | 가독성 낮음 |
| **에러 처리** | 모든 엣지 케이스 | 주요 케이스 | 기본 케이스만 | 에러 처리 없음 |
| **문서화** | 상세한 주석+README | 주요 함수 주석 | 최소 주석 | 주석 없음 |

### 루브릭 작성 규칙

1. **관찰 가능한 행동으로 기술**: "잘 이해했다" 대신 "~을 설명할 수 있다"
2. **수준 간 차이가 명확**: 각 수준이 명백히 구분되어야 한다
3. **3~5개 기준**: 너무 많으면 평가가 비현실적
4. **학습자에게 사전 공개**: 평가 전에 루브릭을 보여줘야 학습 방향 설정

## 피드백 설계

### 효과적 피드백 공식: EEC

```
E (Evidence): "당신의 코드에서 에러 처리가 없습니다"
E (Effect): "이 경우 사용자가 빈 값을 입력하면 프로그램이 충돌합니다"
C (Change): "try-except 블록으로 감싸고, 사용자에게 안내 메시지를 보여주세요"
```

### 피드백 규칙

- **구체적**: "좋아요" 대신 "변수명이 기능을 잘 설명합니다"
- **즉각적**: 제출 후 가능한 빨리 (자동 테스트 우선)
- **행동 지향**: 다음에 무엇을 해야 하는지 알려준다
- **긍정 먼저**: 잘한 점 → 개선점 → 다음 단계
03

Trust audit

SAFEgrade B · trust 89/100 Nothing in the source contradicts what it says it does. Grade A is reserved for packages that have also passed the behavioural sandbox.

LayerWhat it checksResult
L0Provenance & inventoryPASS
L1Static analysis of the codeNA
L2Instruction surface (what it tells the agent)PASS
L3Class-specific surfacePASS
L4Behavioural (sandbox)SKIPPED

What the source does

Filesystem
none-observed
Network
none-observed
Shell
none-observed
Dependencies
pinned
Secrets in source
none-found

Findings (0)

No findings outside the package's declared scope.

Gates applied: no_behavioural_pass.

Audited 2026-10-12 · audit v0.4.1 · source sha 459e1bb8f76efull audit observations/trust-audit/skill/revfactory__assessment-engineering.json · Report an issue / request a re-scan
04

Audit history

Every audit this skill has had.

DateSourceVerdictGradeScoreChange
2026-10-12459e1bb8f76eSAFEB89first audit
05

Questions

Is Assessment Engineering safe to install?

The audit found nothing in the source that contradicts what it says it does, and graded it B (89/100). Grade A is held back for packages that have also passed a sandboxed behavioural run, which is why a clean skill reads B.

What can Assessment Engineering access on my machine?

The audit observed no filesystem, network or shell use at all in its source.

How current is this page?

The grade is for one exact copy of the source (459e1bb8f76e), read on 2026-10-12. The repository is watched, and a new audit runs when it changes — this is the first audit.

Advertisement