autoresearch 실전 — GPU 하나로 밤새 실험 돌리기

autoresearch 실전 — GPU 하나로 밤새 실험 돌리기

Part 1에서 Karpathy의 autoresearch가 어떤 구조인지 살펴봤습니다. 세 줄 요약하면 이렇습니다.

1. train.py 하나에 GPT 모델 + 옵티마이저 + 훈련 루프가 들어 있다.
2. AI 에이전트(Claude Code 등)가 이 파일을 수정하고, 5분간 훈련하고, val_bpb가 개선되면 유지(keep), 아니면 폐기(discard)한다.
3. program.md가 에이전트의 행동 규칙을 정의한다. 사람은 이 마크다운만 편집한다.

Part 2에서는 직접 환경을 세팅하고, 에이전트를 띄우고, 밤새 돌린 결과를 분석하는 과정을 다룹니다.

환경 설정 — 시작하기

요구사항

H100이 아니어도 됩니다. 4090, A100, 3090 등에서도 돌아갑니다. 다만 5분 고정 시간 예산 안에 처리하는 토큰 수가 달라집니다. GPU별 튜닝 방법은 뒤에서 따로 다룹니다.