글

라벨이 하네스 엔지니어링인 게시물 표시

프롬프트 엔지니어링 / 에이전트 / 하네스 — 무엇이 다른가 (LLM 워크플로우 용어 지도)

이미지
프롬프트 엔지니어링 / 에이전트 / 하네스 — 무엇이 다른가 (LLM 워크플로우 용어 지도) Claude한테 일 시키는 방법은 세 가지로 나뉘는 것 같다. 한 마디 잘 묻는 프롬프트 엔지니어링 (Prompt Engineering, 줄여서 PE). 도구를 쥐어준 에이전트 (Agent). 그 위에 운영 틀을 얹은 하네스 (Harness). 셋 다 “AI 활용”으로 묶이지만 무게가 다르다. 어디에 어떤 도구가 맞는지 헷갈렸던 정리를 여기에 적어둔다. 요약 : PE는 한 번의 입력 최적화, 에이전트는 도구를 들고 알아서 도는 AI, 하네스는 그 둘을 어떻게 운영할지 정하는 메타 틀이다. 작은 → 큰 순서로 쌓인다. 5/3 글 에서 다룬 하네스의 내부 구조 는 이 위계 지도의 마지막 칸에 해당한다. 이 글은 Claude Code를 매일 쓰면서 PE·에이전트·하네스라는 단어가 다 비슷해 보였던 사람을 위해 썼다. 입문자가 아니라 한 번씩 다 써본 사람의 정리에 가깝다. 이런 적 있다면 이 글이 도움이 된다 ChatGPT에 비슷한 작업을 시킬 때마다 거의 같은 프롬프트를 매번 다시 입력한 적이 있다. Claude Code가 한 작업에서 5분 만에 토큰 한도를 다 쓴 걸 본 적이 있다. 같은 종류의 실수가 작업마다 또 반복되는 걸 보고 어떻게 멈추지 가 답답했던 적이 있다. 세 가지 모두 같은 원인이다. 셋이 같은 단계가 아니다. 한 번의 입력 최적화로 풀 일, 도구를 쥐어줘야 풀 일, 운영 틀로만 풀 일이 다 섞여 있다. 위계를 잡으면 어디에 시간을 쓸지 가 분명해진다. 한 줄 정의로 시작한다 단계 한 줄 정의 비유 PE (프롬프트 엔지니어링) 한 번의 질문으로 원하는 답을 받아내는 기법 신입에게 일을 한 번 시키는 법 에이전트 도구를 들고 알아서 돌아가는 AI 권한을 받은 1년 차 하네스 에이전트·프롬프트·문맥을 굴리는 운영 틀 회사의 매뉴얼과 평가 체계 자체 작은 단위가 큰 단위에 ...

하네스 엔지니어링 측정 2편 — Claude에 AGENTS.md 명시 인용했더니 fail-fast가 강해졌다

이미지
1편(어제)에서 N=1로 측정해서 결론을 냈다. “Codex가 fail-fast 약하다”가 아니라 “AGENTS.md 비우면 Codex도 Claude도 똑같이 약하다”였다. 지적이 들어왔다. N=1은 우연일 수 있다. Claude에 AGENTS.md 명시 인용을 직접 해본 적은 없었다. 12회 측정해서 다시 확인했다. 결론은 더 단단해졌다. 그리고 1편이 놓친 변수 하나가 새로 보였다. 요약 : Codex × Claude × 하네스 0/강제 4 condition을 각 3회씩 12회 측정. 모델 효과는 거의 0(가로축 1.0 vs 1.0, 2.83 vs 2.5), 하네스 효과는 큼(세로축 1.0 → 2.5+). Claude도 AGENTS.md를 prompt에 명시 인용하면 fail-fast 1.0 → 2.5로 올라간다. 단 1편의 Claude 채점 “중”은 prompt position 효과(메인 세션 system prompt 자동 로드)였을 가능성이 새로 보였다. 1편이 명시한 5가지 한계 중 통제한 3가지 측정 1편 본문 끝에 한계 5가지를 적었다. 그 중 2편에서 통제 가능한 것은 3가지였다. Sampling 우연 미통제 (N=1) → 12회 측정으로 분산 확인 Prompt position 미분리 → C3 격리 환경 추가로 부분 분리 Claude에 AGENTS.md 명시 인용 미측정 → C4 condition으로 직접 측정 나머지 2가지(컨벤션 vs 코드 품질, 일반화)는 이번에도 미해소다. 측정 setup, 4 condition × 3회 = 12회 같은 명세 verify_published_post() 를 4 condition으로 각 3회씩 측정했다. Condition 모델 하네스 C1 Codex 없음 (AGENTS.md 비움) C2 Codex AGENTS.md 자동 로드 C3 Claude spec만, 격리 Task agent C4 Claude AGENTS.md prompt에 ...

하네스 엔지니어링 측정 1편 — AGENTS.md 비우면 Codex도 fail-fast 안 지킨다

이미지
Codex와 Claude에 같은 명세를 3 condition으로 던졌다 Codex와 Claude에 동일한 Python 함수 명세를 3가지 setup에서 돌렸다. fail-fast 충실도가 약→중→강으로 갈렸고, 그 차이는 모델이 아니라 AGENTS.md 같은 하네스 파일 적용 여부에서 나왔다. 어제 발행한 하네스 엔지니어링 3대 구성요소 글에서 카파시의 이론(컨텍스트 파일·자동 강제 시스템·가비지 컬렉션)을 정리했다. 이 글은 그 이론을 같은 명세 1건으로 직접 측정한 1차 데이터다. YES 3번 — 이런 적 있다면 이 글이 답이 된다 Codex와 Claude Code 차이를 1주 써보고 잘 모르겠다는 결론을 낸 적 있다. 같은 task로 통제 비교를 안 했기 때문에 모델 차이인지 setup 차이인지 분리 못 했다. 도구 비교 글은 많은데 “차이가 어디에서 나오나”를 측정한 글은 본 적 없다. 측정 setup 명세는 Blogger 발행 검증 함수다. verify_published_post(service, blog_id, post_id, expected_title, min_content_length) — 발행 직후 Blogger API로 post를 재조회해 title 일치·content 최소 길이를 검증한다. fail-fast 규칙 적용 (silent default 금지·예외 그대로 raise). 3 condition: Codex v1 — 하네스 0. AGENTS.md 없음. 사용자 시스템 인스트럭션 없음. Claude Opus 4.7 — CLAUDE.md 자동 로드. fail-fast 규칙·Iron Law of Verification 글로벌 메모리에 있음. Codex v2 — Codex v1과 같은 모델. AGENTS.md를 작업 디렉토리에 두고 프롬프트에서 “AGENTS.md 규칙을 적용하라” 명시 인용. 같은 모델·다른 하네스 비교는 1과 3 (Codex v1 vs v2). 다른 모델·다른 하네스 강도 비교는 2와 3 ...

하네스 엔지니어링 — CLAUDE.md만 쓴다고 끝나지 않는다 (3대 구성요소)

이미지
하네스 엔지니어링 — CLAUDE.md만 쓴다고 끝나지 않는다 (3대 구성요소) CLAUDE.md를 썼는데도 Claude가 같은 실수를 반복한다면, 그건 CLAUDE.md가 부족해서가 아니다. 하네스 엔지니어링 이 부족해서다. CLAUDE.md는 하네스의 한 구성요소일 뿐이다. 안드레 카파시(전 OpenAI 창립 멤버, 전 Tesla AI 책임자)가 17분짜리 영상 에서 정의한 이 개념의 핵심은 한 줄로 압축된다. “모델이 아닌 모든 것이 하네스다.” 요약 : CLAUDE.md만으로는 Claude가 같은 실수를 반복한다. 하네스 엔지니어링은 컨텍스트 파일, 자동 강제 시스템, 가비지 컬렉션 3가지로 이뤄진다. 이 글은 카파시 프레임의 한국어 정리에 더해, 1인 운영자가 실제로 어떻게 굴리고 있는지 메커니즘 한두 개씩 보여준다. CLAUDE.md “어떻게 쓰나”는 이전 글 에서 다뤘다. 이 글은 Claude Code를 매일 쓰면서 같은 실수를 반복하는 사람을 위해 썼다. 입문자라면 이전 글이 먼저다. 이런 적 있다면 이 글이 도움이 된다 CLAUDE.md에 “console.log 금지”라고 썼는데 며칠 뒤 또 console.log가 박힌 코드를 받은 적이 있다. pre-commit이 없어서 타입 에러 그대로 push된 코드를 배포한 적이 있다. 에이전트가 만든 임시 함수와 미사용 import가 6개월째 쌓여 있는 코드를 본 적이 있다. 세 가지 모두 같은 원인이다. 부탁만 했고, 강제하지 않았다. 카파시는 영상에서 한 줄로 정리했다. “프롬프트 = 부탁, 하네스 = 강제.” 1. 컨텍스트 파일 — CLAUDE.md CLAUDE.md는 매 세션 시작에 Claude가 항상 읽는 기준 문서다. 작성법은 별도 글에서 다뤘으니, 여기서는 운영 메커니즘 하나만 보여준다. 위치 적용 범위 용도 ~/.claude/CLAUDE.md 모든 프로젝트 개인 전역 규칙 프로젝트루트/CLAUDE.md 해당 프로젝트만 프로...