Skip to content

중간 점검용 자체 과제 8개 고정과 사전 검증 — 실제 실행은 인증 대기 - #138

Draft
SonAIengine wants to merge 1 commit into
mainfrom
eval/self-created-tasks-20261031
Draft

SonAIengine wants to merge 1 commit into
mainfrom
eval/self-created-tasks-20261031

Conversation

@SonAIengine

Copy link
Copy Markdown
Contributor

사용자가 직접 과제를 만들어 중간 점검하도록 요청해 실제 업무를 본뜬 합성 과제 8개를 고정했다. 페이지네이션·설정 병합·CSV·CLI delimiter·세 파일 rename·지침/경로·CLI 조사/문서·worktree 탐색을 각 2회 평가할 계획이다. 기존 project evaluator를 재사용하고 엔진·프롬프트는 바꾸지 않는다.

원본 실패와 정답 수정 뒤 공개/숨김 테스트·빌드·보호 파일 보존은 8/8 통과했다. 정답과 숨김 테스트는 모델 workspace에 넣지 않는다. 기존 evaluator 검사 4개와 공개 문서 검사도 통과했다.

실제 모델 실행은 활성 profile의 authentication_rejected(별도 default는 credential_not_found)로 시작하지 못했다. 실제 모델 작업 호출은 0회이며 완료율·반복·token·모델 시간은 미측정이다. 이 PR은 인증을 로컬에서 설정한 뒤 실제 결과를 채울 draft다. 사전 검증의 8/8을 xgen 성공률로 해석하지 않는다. 키·endpoint·profile 원문은 포함하지 않는다.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant