라벨이 X Syndication인 게시물 표시

엔드포인트는 죽는다 — X·Threads·Google Trends 수집을 유지하는 규율 3가지

이미지
무료 수집 경로는 자산이 아니다. 규율이 자산이다 2026년 4월, 내 사이드 프로젝트 trend-scout (매일 여러 플랫폼의 트렌드를 한 번에 모으는 오픈소스)가 X에서 쓰던 Nitter mirror 3개가 같은 날 HTTP 000과 403으로 떨어졌다. Q2 들어 Nitter 생태계는 사실상 죽었다. 그때 내가 배운 건 “Nitter 대체 경로 3개” 자체가 아니었다. 엔드포인트는 언제든 죽는다 는 전제 위에서 어떻게 다음 경로를 찾느냐 는 규율이었다. 경로 자체는 플랫폼 정책에 따라 언제든 막히지만, 규율은 플랫폼이 바뀌어도 남는다. 이 글에선 내가 2026년 4월에 다시 세운 수집 경로 3개(X Syndication, Jina Reader, Google Trends RSS)를 각각 어떤 규율로 찾았는지 기록한다. 경로가 막힌 뒤에 새 경로를 찾으려는 독자가 이 세 규율을 패턴으로 복제할 수 있게 썼다. YES 3번 공감 YES, Nitter mirror 리스트를 주기적으로 갱신하다 어느 날 3개가 전부 HTTP 000으로 떨어지는 걸 본 적이 있다. YES, 개인 사이드 프로젝트에 X API Basic $100/월이 어색한 시점이 있다. YES, “playwright 쓰면 된다”는 조언이 실제론 로그인 벽과 TLS 지문 체크에 막힌 적이 있다. 실측 먼저 — 7 플랫폼 566건 플랫폼 수집량 경로 Naver 226 공식 검색 API Reddit 200 인증 RSS Threads 71 Jina Reader 경유 HackerNews 30 공식 API GitHub Trending 24 HTML 파싱 Google Trends 15 RSS 피드 X Syndication 0 테스트 반복으로 rate-limit 소진 X가 0건으로 찍힌 이유는 경로가 막혀서가 아니라 개발 중 동일 IP로 반복 호출해 per-IP 차단에 걸렸기 때문이다. 정상 범위는 20~30...