메인 콘텐츠로 건너뛰기

AI 방법론

하루 만에 버린 +2.5%p: 좋아 보이는 숫자를 걸러내는 법

새 데이터로 적중률이 2.5%p 오르는 측정 결과가 나왔지만 공개 전 검증에서 걸러냈습니다. 대조군 재학습, 월별 분해, 시장 상한 대조라는 세 단계 검증을 실제 수치와 함께 공개합니다. 진짜 개선분은 0.5%p 수준이었습니다.

OddsCast 운영팀3분 분량
목차 · 7개 섹션

2026년 8월 21일, OddsCast 예측 모델에 새 데이터를 넣고 측정했더니 적중률이 +2.5%p 오르는 결과가 나왔습니다. 데이터 하나를 추가한 것치고는 보기 드문 폭이었습니다. 이 글은 그 숫자를 왜 공개하지도, 적용하지도 않았는지에 대한 기록입니다. 검증 세 단계를 거치니 진짜 개선분은 0.5%p 수준이었고, 나머지는 데이터의 사정이 만든 착시였습니다.

시험한 재료: 말의 "시장 평가 이력"

이번에 시험한 데이터는 각 말이 과거 경주에서 받았던 마감 배당입니다. 경주가 끝나면 그 경주의 배당은 확정되어 공공데이터로 남습니다. 오늘 경주를 예측할 때 각 말이 지난 경주들에서 몇 번 인기였는지를 입력으로 쓰는 것은 미래를 훔쳐보는 일이 아닙니다. 전부 오늘 이전에 확정된 사실이기 때문입니다.

사전 조사도 좋았습니다. 2025년 이후 38,650번의 출주를 보면, 직전 경주에서 1번 인기였던 말은 다음 경주에서 50.7%가 3착 안에 들고, 6번 인기 아래였던 말은 19.2%만 들어옵니다. 한 칸도 어긋나지 않는 계단입니다.

1차 측정: 눈부신 숫자

2026년 1월부터 8월까지의 1,443경주로 검증했습니다. 같은 경주를 새 데이터가 있는 모델과 없는 모델로 각각 예측하게 하고 차이를 쟀습니다.

지표 기존 새 데이터 차이
적중률 (3착 안 예측) 50.8% 53.3% +2.5%p
단승 (1착 예측) 32.0% 36.0% +4.0%p

통계적으로도 우연이라 보기 어려운 수준이었습니다. 여기서 멈추고 "적중률 대폭 개선"을 발표할 수도 있었습니다. 대신 검증을 세 번 더 했습니다.

검증 1: 대조군. 새 데이터 없이 다시 학습해도 오르는가

모델은 다시 학습하는 것만으로도 점수 분포가 달라질 수 있습니다. 같은 날, 같은 조건으로, 새 데이터만 뺀 대조군 모델을 하나 더 만들어 비교했습니다. 결과는 그대로였습니다. 대조군은 기존 모델과 같은 수준이었고 차이는 새 데이터 쪽에서만 났습니다. 이 관문은 통과했습니다.

검증 2: 월별 분해. 여기서 무너졌습니다

개선 폭을 월 단위로 쪼갰습니다.

기간 기존 모델 새 데이터 모델 마감 배당
2026년 1~5월 51~53% 48~54% 52~59%
2026년 6월 53.1% 59.2% 54.4%
2026년 7월 43.2% 51.3% 54.3%
2026년 8월 49.6% 52.8% 56.3%

1월부터 5월까지는 새 데이터의 개선이 평균 +0.3%p로 거의 없습니다. +2.5%p는 사실상 6월과 7월 두 달에서 나온 숫자입니다. 그런데 그 두 달의 마감 배당 적중률은 평소와 같습니다. 경마 자체가 특별했던 기간이 아니라는 뜻입니다.

7월 줄을 보면 원인이 드러납니다. 기존 모델이 43.2%로 무너져 있습니다. 마감 배당이 54.3%로 정상인 달에 검증용 데이터만 유난히 약했던 것이고, 새 데이터 모델은 그 약한 비교 대상 덕분에 커 보였던 것입니다. 검증에 쓴 과거 점수 기록이 시기마다 품질이 달랐다는 사정을 여기서 잡았습니다.

검증 3: 시장 상한. 넘으면 개선이 아니라 경보입니다

마감 배당의 적중률을 잰 글에서 정리했듯이, 모든 참가자의 판단이 모인 마감 배당의 3착 안 적중률은 55~56% 수준이고 OddsCast는 이 수치를 예측의 사실상 상한으로 봅니다. 여기서 나온 내부 규칙이 하나 있습니다. 경주 전 정보만 쓴 예측이 마감 배당보다 잘 맞는 구간이 나오면, 축하할 일이 아니라 어딘가에서 미래를 읽고 있다는 경보로 취급한다.

위 표의 6월이 정확히 그 경우입니다. 새 데이터 모델 59.2%, 마감 배당 54.4%. 마감 배당보다 5%p 높은 달이 하필 개선이 몰린 달입니다. 이 조합까지 보고 나서 +2.5%p는 믿을 수 없는 숫자로 결론 냈습니다.

진짜 개선분: 0.5%p, 그것도 경계선

점수 크기의 영향을 제거하고 순수하게 "순서를 더 잘 매기는가"만 재는 방식으로 다시 비교하면, 새 데이터의 개선분은 적중률 +0.53%p입니다. 신뢰구간이 0을 살짝 걸치는 경계선 수치입니다. 있다면 반가운 크기지만, 지금 증거로 단정할 수는 없습니다.

그래서 판정을 미뤘습니다. 이 데이터가 정말 0.5%p를 주는지는 아직 어떤 측정에도 쓰이지 않은 새 경주에서만 깨끗하게 확인할 수 있습니다. 2026년 9월부터 들어오는 경주로 다시 재고, 결과는 수치 그대로 이 블로그에 공개하겠습니다.

왜 이렇게까지 하나

적중률을 부풀려 말하는 것은 쉽습니다. 이번처럼 검증 전 숫자를 그대로 쓰면 됩니다. 문제는 그 숫자로는 다음 주 경주를 맞힐 수 없다는 점입니다. 발표한 수치와 실제 성적의 차이는 결국 이용자가 먼저 알게 됩니다. OddsCast가 적중률 측정과 공개 방식에서 약속한 원칙은 이런 순간에 시험받고, 이번에는 +2.5%p를 버리는 쪽이 원칙이었습니다.

OddsCast는 한국 경마 AI 분석 서비스입니다. 사행성 도박이 아닌 KRA 공공데이터 기반 통계·정보 제공이 목적이며, 마권 구매는 KRA 공식 채널에서만 가능합니다.

태그

  • #검증
  • #방법론
  • #적중률
  • #데이터