Examen qualité des rapports d'évaluation

VérifiéPrudence

Méta-évaluation de la qualité des rapports d'évaluation selon les directives KOICA v2 (10 critères, /100, A-D, Pass/Non-Pass). Vérifie si le rapport est bien rédigé, pas si le projet a réussi.

Spar Skills Guide Bot
DocumentationIntermédiaire
03/08/2026
Claude CodeCodex
#quality-review#report-audit#koica#rubric-scoring#meta-evaluation

Recommandé pour

Synthèse automatique

Réalise un audit qualité (méta-évaluation) d'un rapport d'évaluation achevé selon la grille KOICA v2 : 24 questions regroupées en 10 sous-critères notés sur 100, avec un grade A à D et un verdict Pass/Non-Pass.

Points forts

  • Grille de notation explicite : chaque sous-critère reçoit 10/8/6/4 et les sections sont pondérées (20/20/30/20/10), le seuil de Pass étant fixé à 60 points.
  • Contrôle mécanique de la cohérence des chiffres via un script qui détecte les écarts entre résumé coréen, résumé anglais et tableaux, ainsi que les erreurs d'addition ou les grades incohérents avec le score.
  • Vérification optionnelle de l'existence réelle des articles réglementaires cités grâce au connecteur oda-intelligence, avec un statut not_found exploitable comme preuve.
  • Sépare nettement l'évaluation du projet de la méta-évaluation du rapport, délègue à un sous-agent en lecture seule et réserve la décision finale à un panel humain.

Limites

  • Dépend des fichiers du plugin (racine, checklist de référence) : sans eux, la notation est bloquée et l'utilisateur doit fournir le chemin.
  • Entièrement rédigé en coréen et calé sur les directives KOICA v2 (2025.6), ce qui le rend peu transposable à d'autres bailleurs ou cadres d'évaluation.
  • Si seul un résumé du rapport est disponible, de nombreux items restent en « information insuffisante » et aucun score définitif ne peut être avancé.
Quand l'utiliser

À utiliser lorsqu'un rapport d'évaluation KOICA est rédigé et qu'il faut contrôler sa qualité formelle et sa conformité avant la soumission au panel indépendant.

Quand l'éviter

À ne pas utiliser pour juger si le projet lui-même a réussi, ni pour auditer un rapport qui ne relève pas du cadre KOICA v2.

Analyse de sécurité

Prudence
Score qualité82/100

The skill describes a read-only report-review workflow. It references local file reading and execution of a bundled consistency-check script, which are legitimate but involve local code execution and access to user-supplied documents. No destructive commands, credential exfiltration, network calls, obfuscated payloads, or safety-disabling instructions are present.

Points d'attention
  • •Executes a bundled Python script (`scripts/consistency_check.py`) against a user-provided report path; the script contents are not included for verification.
  • •Delegates review work to a subagent and reads report files, though it explicitly instructs read-only behavior.
  • •Derives plugin root from the SKILL.md path and may ask the user for the root if unavailable; no unsafe path traversal or exfiltration is instructed.
Comment cette analyse est faite

Exemples

Run a quality review
이 평가보고서 품질을 검토해줘. 파일: ./2024_베트남_교육사업_평가보고서.md
Check Pass status
이 보고서가 KOICA 품질검토에서 Pass(60점 이상) 되는지 봐줘. 최종 등급이랑 10개 세부항목별 점수도 같이 정리해줘.
Verify score consistency
국문 요약, 영문 요약, 표에 나온 종합점수와 등급이 서로 맞는지도 consistency check로 확인해서 문항 18 판단 근거로 써줘.

name: quality-review description: 완성된 평가보고서의 품질을 KOICA 평가품질검토 가이드라인 v2(24문항→10세부항목→100점, A~D, Pass/Non-Pass)로 심사한다. "이 평가보고서 품질을 검토해줘", "품질심사 해줘", "보고서가 잘 쓰였는지 봐줘", "Pass 되는지 봐줘"라고 요청할 때 사용한다. 사업 성패가 아니라 보고서 품질을 보는 메타 평가이며 사업 자체 평가에는 사용하지 않는다.

평가보고서 품질심사 (메타 평가)

이건 사업 평가가 아니다.

  • 사업 평가(deveval:evaluate): 사업이 잘됐나? → A~F 등급
  • 품질 심사(이 스킬): 평가보고서가 잘 쓰였나? → A~D 등급

사업의 성패를 다시 판단하지 않는다. 보고서가 평가를 제대로 수행·기술했는지를 본다.

호스트 호환

  • deveval-root가 있으면 그 출력으로 플러그인 루트를 구한다. 없으면 호스트가 노출한 이 SKILL.md의 절대경로에 정확히 realpath(dirname(<SKILL.md 절대경로>)/../..)(또는 동등한 경로 정규화)을 적용한다. 호스트가 스킬 절대경로를 노출하지 않으면 현재 작업 폴더나 파일 검색 결과로 추측하지 말고, 루트를 확인할 수 없다고 알린 뒤 사용자에게 플러그인 루트를 요청한다. reference/, scripts/, agents/가 실제로 존재하는지 확인한다.
  • Claude Code에서는 등록된 report-quality-inspector를 사용한다. Codex 등 이름 기반 평가관을 자동 등록하지 않는 호스트에서는 <root>/agents/report-quality-inspector.md를 끝까지 읽고 그 지침으로 서브에이전트를 위임한다. 서브에이전트가 없으면 같은 역할 지침을 직접 적용한다.
  • 이 심사 역할은 읽기 전용이다. 일반 서브에이전트로 대체할 때도 파일을 생성·수정하지 말라고 명시한다.

절차

  1. 기준 문서 경로 확보 — 위 호스트 호환 절차로 <root>를 구한다. 룰브릭은 <root>/reference/KOICA-품질검토-체크리스트.md(가이드라인 v2, 2025.6).
  2. report-quality-inspector에게 위임 — 심사 대상 보고서 경로 + 룰브릭 절대경로를 전달한다.
  3. 결과 정리 후 사람 인계 — 최종 품질등급은 **독립평가패널(사람)**이 확정함을 명시한다.

채점 구조

10개 세부항목, 각 우수10 / 양호8 / 다소미흡6 / 미흡4 → 100점. 부문 배점: Ⅰ 20 · Ⅱ 20 · Ⅲ 30 · Ⅳ 20 · Ⅴ 10.

| # | 부문 | 세부항목 (v2 공식 명칭) | 문항 | |:--:|:--:|------|:--:| | ① | Ⅰ | 평가 배경 및 맥락 분석의 적절성 | 1-2 | | ② | Ⅰ | 평가 설계 및 방법론의 엄밀성 | 3-6 | | ③ | Ⅱ | 데이터 수집 과정의 타당성 및 데이터 질 | 7-8 | | ④ | Ⅱ | 데이터 품질 및 검증의 적절성 | 9-10 | | ⑤ | Ⅲ | 분석방법의 적절성·평가결과 신뢰성 | 11 | | ⑥ | Ⅲ | 결과 도출의 논리성 | 12-13 | | ⑦ | Ⅲ | 근거 기반 해석의 타당성 | 14-15 | | ⑧ | Ⅳ | 평가 결론의 타당성 (등급-본문 일치 포함) | 16-18 | | ⑨ | Ⅳ | 제언의 실현 가능성 및 구체성 (SMART) | 19-20 | | ⑩ | Ⅴ | 보고서 요약 및 구조의 명확성 | 21-24 |

등급: A(90↑) / B(80~) / C(60~) = Pass / D(60 미만) = Non-Pass (v2 공식 경계 = 60점). 총평: 최소 200자(공백 제외) + 필수 4항목(주요 강점 / 감점 요인·개선 필요사항 / 향후 참고사항 / 활용성 제고 제안).

수치 정합 확인 (선택)

심사 대상 보고서에 종합점수·등급이 여러 곳(국문 요약·영문 요약·표)에 나오면, 기계적 대조를 붙일 수 있다:

deveval-consistency-check <보고서.md>

명령이 PATH에 없으면 python3 <root>/scripts/consistency_check.py <보고서.md>를 실행한다.

국문↔영문↔표 수치 불일치(예: 11.7 vs 12.7 — 국문 "24점 만점 중 N"·영문 "N points out of M" 표기 포함), 등급↔점수 괴리, a+b+c+d ≠ 종합점수 산술 오류를 결정적으로 잡아 문항 18(등급-본문 일치) 근거로 쓸 수 있다. 종료 코드: 0 통과 / 2 위반 / 3 확인 불가(통과 아님). (마크다운 텍스트가 있을 때만. PDF면 생략. 다건 묶음 평가용역이면 사업별로 잘라서 검사 — 사업별 상이 점수는 정상이다.)

규정 인용 검증 (선택)

심사 대상 보고서가 KOICA 규정·지침 조문을 인용하고 있고 oda-intelligence 커넥터가 세션에 보이면, verify_citation으로 인용 조문의 실재를 대조할 수 있다(not_found = 존재하지 않는 조문). 결과는 문항 14~15(근거 기반 해석) 또는 16~18(결론 타당성) 판단의 근거로 쓴다. KOICA 내부규정 인덱스만 대조하므로 외부 법령 인용은 이걸로 판정하지 않는다. 커넥터가 없으면 생략한다(연동 안내: 저장소 docs/oda-intelligence-integration.md).

특칙

  • 입찰 **평가용역(다건 묶음)**이면 24문항이 아니라 평가용역 종합등급 산정표(별도 트랙)를 적용한다 — 용역 내 개별 사업이 1개라도 D(Non-Pass)면 Ⅰ부문 "미흡".
  • 보고서를 직접 못 읽고 요약만 받았으면 확인 못 한 항목은 "정보 부족"으로 명시하고 점수를 단정하지 않는다.
  • 블라인드 원칙: 평가자가 누구인지 따지지 말고 산출물만 본다.

최종 품질등급은 독립평가패널(사람)이 확정한다. AI는 근거 기반 심사 초안만 제시한다.

Du fichier au premier essai

Le téléchargement contient exactement le contenu affiché sur cette fiche. Cette copie peut différer de la dernière version du dépôt source.

Consulter la source et ses fichiers annexes

Ce téléchargement contient uniquement SKILL.md. Les scripts, références, modèles et dépendances éventuels ne sont pas inclus. Récupérez les fichiers nécessaires depuis la source en conservant leur arborescence avant de poursuivre.

1. Télécharger le fichier

Télécharger SKILL.md

Depuis la racine d’un projet de test, enregistrez le fichier sous .skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md, ou utilisez la commande suivante. Ce dossier sert à examiner la skill avant son installation.

Commande pour macOS/Linux ou WSL : un shell POSIX et curl sont nécessaires. Sous Windows sans WSL, utilisez le bouton de téléchargement et créez le dossier manuellement.

mkdir -p '.skill-downloads/evaluation-report-quality-review-mscrf0e5' && curl --fail --show-error --location 'https://skills-guides.com/api/skills/evaluation-report-quality-review-mscrf0e5/download' --output '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md.part' && mv '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md.part' '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md'

2. Vérifier les prérequis

Lisez SKILL.md avant de l’utiliser. Si le fichier cite des scripts ou services externes, examinez-les et préparez les accès nécessaires dans votre environnement de test.

Aucune section de prérequis reconnue dans ce fichier. Cela ne signifie pas qu’il est autonome : les bibliothèques, outils et accès peuvent être cités ailleurs dans le contenu ou dans le dépôt source.

Les plateformes de la fiche sont des indications du catalogue. Les chemins ci-dessous suivent la documentation des outils ; ils ne prouvent pas que cette skill y a été exécutée. Aucune version minimale de ces outils n’est attestée pour cette fiche.

3. Charger la skill

Après vérification, copiez le dossier complet dans le projet avec l’une des commandes ci-dessous, puis ouvrez une nouvelle session de l’outil. La commande s’arrête si un dossier du même nom existe déjà : comparez les fichiers avant de le remplacer.

Claude Code
test -f '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md' && test -s '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md' && mkdir -p '.claude/skills' && test ! -e '.claude/skills/quality-review' && cp -R '.skill-downloads/evaluation-report-quality-review-mscrf0e5' '.claude/skills/quality-review'

Codex
test -f '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md' && test -s '.skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md' && mkdir -p '.agents/skills' && test ! -e '.agents/skills/quality-review' && cp -R '.skill-downloads/evaluation-report-quality-review-mscrf0e5' '.agents/skills/quality-review'

OpenSkills

OpenSkills doit déjà être installé. La procédure locale install/read est contrôlée avec OpenSkills 1.5.0, qui exige Node.js ≥ 20.6.0. Aucun slug du catalogue n’est résolu automatiquement.

Installation officielle d’OpenSkills
openskills install './.skill-downloads/evaluation-report-quality-review-mscrf0e5'

openskills read 'evaluation-report-quality-review-mscrf0e5'

La lecture doit afficher le contenu du fichier installé et son dossier de base. Elle ne lance ni la skill ni ses dépendances.

Pour un agent qui lit AGENTS.md, synchronisez ensuite l’index. Cette commande modifie AGENTS.md : relisez le diff avant de l’utiliser.

openskills sync

Mode manuel ou autre outil : joignez SKILL.md à une conversation, ou ouvrez-le dans un agent capable de lire les fichiers. Ajoutez les ressources annexes nécessaires. Il n’existe pas de dossier universel reconnu par tous les outils.

4. Faire un premier essai

Utilisez une entrée courte et fictive : un endpoint d’API, un petit document ou un brief d’interface. Dans une nouvelle conversation, joignez le fichier ou donnez son chemin à l’agent, puis adaptez cette demande :

Lis .skill-downloads/evaluation-report-quality-review-mscrf0e5/SKILL.md et applique ses instructions à cet exemple : [décrire une entrée de test]. Indique les fichiers, dépendances ou accès qui manquent. Produis le résultat demandé par la skill sans inventer de données ni exécuter de script non examiné.

Résultat attendu : une sortie correspondant aux instructions de la skill, ou une liste précise des prérequis manquants. Une simple confirmation de lecture ne valide pas le premier usage. Si une ressource externe est indisponible, ce parcours reste à tester.

Skills similaires