Harbor-Index란?: 2026 에이전트 평가 82문항 해설

또 하나의 종합 순위가 아니다. Harbor는 먼저 80여 개 에이전트 과제를 한 관으로 잇고, 최전선이 아직 떨어지는 82문항을 남긴다.

2026년 9월 3일 arXiv에 올라온 것은 플래그십 가중치가 아니라 공유 관이다. Harbor Adapters는 80여 개 에이전트 벤치를 잇고, Harbor-Index는 최전선이 아직 떨어지는 82문항만 남긴다.

검색되는 사건은 Harbor-Index와 arXiv:2609.04298이다. Lin Shi, Haowei Lin 등은 8모델, 54개 벤치, Terminus-2와 세 네이티브 런타임 중 하나를 보고한다. 어떤 조합도 30%를 넘지 않는다. GPT-5.5와 Codex가 28.0%. CCTest가 같은 초록을 전했다.

80+적응된 에이전트 벤치
82Index에 남은 문항
28.0%GPT-5.5 + Codex 통과율

관과 문항 세트는 같은 물건이 아니다

Harbor Adapters

이질적인 벤치를 한 형식으로 바꿔 어떤 에이전트든 같은 추론과 채점을 탄다. 패리티 실험은 Harbor 실행이 원본 시험에 가깝다는 주장이다.

Harbor-Index

29개에서 82문항. 넓이는 남기고 일상 재실행은 싸게. tbench.ai는 씨앗에 2260억 토큰과 30만 달러 이상, 증류 세트는 수백 달러라고 쓴다.

깔때기남김규칙
후보 풀6627이미 연결된 어댑터 54개
난도 필터1311최전선 시행 통과율 ≤33%
자동 감사307지시와 검증기가 어긋난 문항 제거
사람 + 수리82심사 14명, 재실행, 못 고치면 버림

논문이 실제로 넘긴 것

어댑터 층
80여 개 벤치를 Harbor에 연결. 패리티는 공통 형식이 원본을 납작하게 만들지 않았음을 보여 준다.
짝 평가
8모델, 54개. Terminus-2와 세 네이티브 런타임 중 하나. 실패는 모델, 하네스, 환경, 도구로 나뉜다.
얇은 메타셋
82문항, 29개 출처. 난도, 자동·사람 감사, 수리 루프. 30% 미만 천장은 설계다.

82문항을 읽는 세 갈래

  1. 01
    모델보다 하네스를 먼저

    네이티브 CLI가 조금 높은 경우가 많지만 유의하지 않다. 약한 모델은 교체 후 약 7%만 남는다. 종합 한 장은 런타임을 버린다.

  2. 02
    깨진 문항과 어려운 문항을 가른다

    지시와 검증기 불일치, 모호한 성공 조건, 빠진 의존성은 모두 0점을 만든다. 깔때기는 남은 실패를 능력 상한에 가깝게 만든다.

  3. 03
    재실행 키트이지 IQ 합이 아니다

    CCTest는 82문항이 모든 실무를 대신할 수 없다고 적는다. 어댑터, 결과, 분석은 감사와 확장을 위해 열려 있지, 영구 표를 못 박으려는 것이 아니다.

먼저 관을 공유하고, 아직 떨어지는 문항을 남긴다. 순위는 부산물이다.

자는 일부러 낮게 둔다

어떤 조합도 30%를 넘지 않는다. 최전선이 대부분 실패해야 한다. 그렇지 않으면 세트가 곧 포화한다.

다음 주 어떤 에이전트 스택을 시험할지 정해야 한다면 깔때기와 통과율을 한 페이지에 펼치는 편이 낫다. 말이 필요할 때 마이크를 열면 된다. 짧은 oakmeet 방으로 충분하고, 평가 회의를 위해 클라이언트를 깔 필요는 없다. 한도는 8명, 대략 한 시간이다.

Harbor-Index는 또 하나의 종합 리더보드인가?

정확히 그렇지는 않다. 논문은 어댑터와 대조 실험을 내고, 그다음 82문항 키트를 낸다. tbench.ai는 싸게 다시 돌릴 수 있는 고신호 세트로 다루며 54개 전체를 대체하지 않는다.

28.0%와 28.1% 중 무엇을 쓰나?

초록은 GPT-5.5와 Codex를 28.0%로 두고 어떤 조합도 30%를 넘지 않는다고 한다. tbench.ai는 28.1%. 출처를 적어라. 하나의 공식 점수로 녹이지 마라.

왜 어댑터를 먼저 하나?

에이전트 벤치는 환경이 무겁고 인터페이스가 다르다. 새 에이전트마다 통합을 다시 해야 한다. Harbor는 잡다한 문항을 한 형식으로 옮기고 패리티로 이식을 확인한다.

Intelligence Index와 같은 자인가?

아니다. Artificial Analysis는 가중 종합점이다. Harbor-Index는 공개된 82문항 메타셋과 어댑터 층이다. 나란히 읽을 수는 있다. 환산은 안 된다.

지금 시작