Harbor-Index란?: 2026 에이전트 평가 82문항 해설
또 하나의 종합 순위가 아니다. Harbor는 먼저 80여 개 에이전트 과제를 한 관으로 잇고, 최전선이 아직 떨어지는 82문항을 남긴다.
2026년 9월 3일 arXiv에 올라온 것은 플래그십 가중치가 아니라 공유 관이다. Harbor Adapters는 80여 개 에이전트 벤치를 잇고, Harbor-Index는 최전선이 아직 떨어지는 82문항만 남긴다.
검색되는 사건은 Harbor-Index와 arXiv:2609.04298이다. Lin Shi, Haowei Lin 등은 8모델, 54개 벤치, Terminus-2와 세 네이티브 런타임 중 하나를 보고한다. 어떤 조합도 30%를 넘지 않는다. GPT-5.5와 Codex가 28.0%. CCTest가 같은 초록을 전했다.
관과 문항 세트는 같은 물건이 아니다
Harbor Adapters
이질적인 벤치를 한 형식으로 바꿔 어떤 에이전트든 같은 추론과 채점을 탄다. 패리티 실험은 Harbor 실행이 원본 시험에 가깝다는 주장이다.
Harbor-Index
29개에서 82문항. 넓이는 남기고 일상 재실행은 싸게. tbench.ai는 씨앗에 2260억 토큰과 30만 달러 이상, 증류 세트는 수백 달러라고 쓴다.
| 깔때기 | 남김 | 규칙 |
|---|---|---|
| 후보 풀 | 6627 | 이미 연결된 어댑터 54개 |
| 난도 필터 | 1311 | 최전선 시행 통과율 ≤33% |
| 자동 감사 | 307 | 지시와 검증기가 어긋난 문항 제거 |
| 사람 + 수리 | 82 | 심사 14명, 재실행, 못 고치면 버림 |
논문이 실제로 넘긴 것
- 어댑터 층
- 80여 개 벤치를 Harbor에 연결. 패리티는 공통 형식이 원본을 납작하게 만들지 않았음을 보여 준다.
- 짝 평가
- 8모델, 54개. Terminus-2와 세 네이티브 런타임 중 하나. 실패는 모델, 하네스, 환경, 도구로 나뉜다.
- 얇은 메타셋
- 82문항, 29개 출처. 난도, 자동·사람 감사, 수리 루프. 30% 미만 천장은 설계다.
82문항을 읽는 세 갈래
- 01모델보다 하네스를 먼저
네이티브 CLI가 조금 높은 경우가 많지만 유의하지 않다. 약한 모델은 교체 후 약 7%만 남는다. 종합 한 장은 런타임을 버린다.
- 02깨진 문항과 어려운 문항을 가른다
지시와 검증기 불일치, 모호한 성공 조건, 빠진 의존성은 모두 0점을 만든다. 깔때기는 남은 실패를 능력 상한에 가깝게 만든다.
- 03재실행 키트이지 IQ 합이 아니다
CCTest는 82문항이 모든 실무를 대신할 수 없다고 적는다. 어댑터, 결과, 분석은 감사와 확장을 위해 열려 있지, 영구 표를 못 박으려는 것이 아니다.
먼저 관을 공유하고, 아직 떨어지는 문항을 남긴다. 순위는 부산물이다.
자는 일부러 낮게 둔다
어떤 조합도 30%를 넘지 않는다. 최전선이 대부분 실패해야 한다. 그렇지 않으면 세트가 곧 포화한다.
다음 주 어떤 에이전트 스택을 시험할지 정해야 한다면 깔때기와 통과율을 한 페이지에 펼치는 편이 낫다. 말이 필요할 때 마이크를 열면 된다. 짧은 oakmeet 방으로 충분하고, 평가 회의를 위해 클라이언트를 깔 필요는 없다. 한도는 8명, 대략 한 시간이다.
Harbor-Index는 또 하나의 종합 리더보드인가?
정확히 그렇지는 않다. 논문은 어댑터와 대조 실험을 내고, 그다음 82문항 키트를 낸다. tbench.ai는 싸게 다시 돌릴 수 있는 고신호 세트로 다루며 54개 전체를 대체하지 않는다.
28.0%와 28.1% 중 무엇을 쓰나?
초록은 GPT-5.5와 Codex를 28.0%로 두고 어떤 조합도 30%를 넘지 않는다고 한다. tbench.ai는 28.1%. 출처를 적어라. 하나의 공식 점수로 녹이지 마라.
왜 어댑터를 먼저 하나?
에이전트 벤치는 환경이 무겁고 인터페이스가 다르다. 새 에이전트마다 통합을 다시 해야 한다. Harbor는 잡다한 문항을 한 형식으로 옮기고 패리티로 이식을 확인한다.
Intelligence Index와 같은 자인가?
아니다. Artificial Analysis는 가중 종합점이다. Harbor-Index는 공개된 82문항 메타셋과 어댑터 층이다. 나란히 읽을 수는 있다. 환산은 안 된다.