TAS 증거 콘솔

생성 2026-08-05 08:44 KST · DB 스냅샷: recommendations 419 · learning_cases 216 · pit_universe_snapshot 2,716 · anomaly_alerts 472 · news_predictions 10 · fundamental_screen_results 20
원칙: 모든 수치에 표본 수(n)를 병기하고, 표본 부족을 숨기지 않으며, 단정하지 않는다.

핵심 요약 — "이 시스템이 통하는가"

216
종결된 BUY 추천
전체 BUY 242건 중
43%
성공률 (절대 기준)
n=216
31%
성공률 (초과 기준)
n=216 — 벤치마크 이긴 비율
34%
성공률 (보수 체결 가정)

분모에서 뺀 것: 미평가 10건 · OPEN 7건 · INVALID_PRICE 9건 · UNRESOLVABLE(거래정지/상폐 추정) 0건 — 조용히 사라지면 생존 편향이 되므로 항상 표기.

① 발굴 경로별 초과수익 — 핵심 열린 질문

"어떤 발굴 경로가 실제로 초과수익을 내는가"는 아직 답이 없는 질문이다. 경로 태깅(candidate_sources) 기록 자체가 최근 시작됐다.

⚠️ 태깅된 추천 5건 / 미태깅 414건. 경로 태깅은 2026-08-04부터 기록 시작 — 그 이전 추천은 미태깅이라 경로별 결론을 내릴 수 없다. 한 추천이 복수 경로에 태깅되면 중복 계상된다. 종결 표본이 생기기 전까지 이 표에서 어떤 결론도 내릴 수 없다.
경로태깅종결평균 초과수익초과 성공률판정
가치 스크리닝
value_screen
20종결 표본 없음 (태깅 2건 미종결)
외인·기관 순매수 수급
krx_flow_buy
30종결 표본 없음 (태깅 3건 미종결)
뉴스 모멘텀
news
00표본 없음
섹터 상위
sector_top
00표본 없음
관심종목
watchlist
00표본 없음
사용자 요청
user_request
00표본 없음
krx_flow_sell
krx_flow_sell
20종결 표본 없음 (태깅 2건 미종결)

② 단계별 성과

성공률(절대)=목표도달·만기수익. 성공률(초과)=벤치마크(KOSPI/KOSDAQ) 대비 초과수익>0. 강세장에서 절대 기준은 베타를 알파로 오인할 수 있어 초과 기준을 병기한다.

단계종결 n성공률(절대)성공률(초과)평균 초과수익
F-039031%38% (n=90)-1.86%p
F-07 ⚠️표본 부족10%100% (n=1)+2.31%p
F-114342%40% (n=43)-2.24%p
F-134461%30% (n=44)-7.90%p
F-143853%3% (n=38)-15.50%p

③ 낙관 vs 보수 기준 격차 — 체결 가정 민감도

낙관: 장중 고가/저가 터치를 체결로 인정. 보수: 종가 기준 판정. 격차가 클수록 성과가 "체결됐다고 가정하는 방식"에 의존한다는 뜻이다.

43%
낙관(절대) 성공률
n=216
34%
보수 성공률
+9.30%p
격차 (낙관 − 보수)

④ Brier score — confidence는 진짜 정보인가

추천 시점 confidence를 확률 예측으로 보고 실제 성공/실패와의 제곱오차를 잰다. 기저율 상수 예측(전체 성공률만 아는 예측기)을 못 이기면 confidence는 장식이다.

0.317
Brier score (낮을수록 좋음)
n=216
0.250
기준선: 무정보(p=0.5 상수)
0.245
기준선: 기저율 상수 예측
기저율 43.1%

판정: 기저율 예측도 못 이김 — confidence에 종목 선택 정보 없음

⑤ MFE/MAE 분포 · 도달률

종결 BUY 건의 관찰기간 최고 수익률(MFE)·최저 수익률(MAE) 분포. 구간 경계는 손절 -12% / 목표 +25% 기준. 도달률 분모는 종결 216건.

43%
목표 도달(TARGET_HIT)
93건
57%
손절 도달(STOP_HIT)
123건
0%
만기(EXPIRED)
0건

MFE — 보유 중 최고 수익률 (n=216)

≤-25%0건
-25~-12%0건
-12~-5%1건
-5~0%19건
0~+5%30건
+5~+12%39건
+12~+25%54건
>+25%73건

MAE — 보유 중 최저 수익률 (n=216)

≤-25%98건
-25~-12%73건
-12~-5%14건
-5~0%21건
0~+5%7건
+5~+12%0건
+12~+25%1건
>+25%2건

⑥ 신뢰도 구간별 실측 — 고신뢰가 실제로 나은가

LLM이 매긴 confidence 구간별 실측 성공률(절대 기준, 평활 없음). 구간이 올라갈수록 성공률이 올라야 confidence가 의미 있다. ⚠️=구간 표본 10 미만.

confidence 구간n성공실측 성공률
0.50-0.59 ⚠️600%
0.60-0.69461533%
0.70-0.791053230%
0.80-0.89544278%
0.90-1.00 ⚠️5480%
간이 IC: confidence 상위 절반이 오히려 -2.3%p 낮음 — confidence는 역신호이거나 무의미. 정렬·사이징에 쓰지 말 것

⑦ 뉴스 예측 채점 (F-02/F-04)

뉴스 기반 임팩트 예측이 실제 초과수익 방향을 맞히는지의 채점 스트림.

채점 완료된 뉴스 예측이 아직 없다 (적재 후 평가 지평 경과 대기). 표본이 쌓이기 전까지 뉴스 예측력에 대해 어떤 판단도 하지 않는다.