웹사이트에서 이메일, 전화번호, SNS 계정을 자동으로 수집하는 오픈소스 스크래핑 도구
중간맛 분석
스택: Python3, Streamlit (웹 UI)
난이도: 입문자 가능 (설치 후 명령어만 입력)
바로 쓸 수 있나: 네. 저장소 클론 후 pip3 install -r requirements.txt로 의존성 설치하면 바로 실행 가능
인터페이스: 또는 브라우저 기반 Web UI (Streamlit)
주요 기능: 단일/배치 URL 스크래핑, CSV/Excel 파일 입출력, 링크 크롤링, SNS 계정 추출
이런 레포예요
이럴 때 쓰면 좋아요
- 기업의 의사결정자/담당자 연락처를 대규모 수집해 B2B 영업 캠페인 진행
- 유사 업체 웹사이트들을 일괄 분석해 경쟁사 SNS 계정 및 이메일 모니터링
- 보안 감시(OSINT) 목적으로 특정 도메인과 연관된 연락처 및 소셜 미디어 계정 조사
핵심 기능
대안 대비 차별점
API 비용 없이 직접 스크래핑 방식으로 자유로우며, 사용자가 `socials.txt` 파일을 수정해 지원 SNS 사이트를 직접 확장할 수 있습니다.
먹어본 사람들
실제로 차려 먹어본 손님들의 흔적이에요 — 한마디와 완주 인증 모두 검수 후 공개돼요.
이 레포, 해먹는 법
처음 오셨어요? 어렵지 않아요 — 위에서 아래로 따라 하면 내 컴퓨터에 이 레포를 차려서 바로 맛볼 수 있어요.
준비물
- Python 3.6 이상
- pip (Python 패키지 관리자)
바로 차려먹기Python (uv)
깃밥이 레포 구조를 확인하고 만든 실행 명령이에요. 터미널에 붙여넣으면 받기부터 실행까지 한 번에 진행돼요.
git clone --depth 1 https://github.com/champmq/TheScrapper.git && cd TheScrapper && uv venv && uv pip install -r requirements.txt && uv run python app.py
uv가 없다면: brew install uv
코드는 내 컴퓨터에서 실행돼요 — 처음 보는 레포라면 내용을 한번 훑어보고 실행하는 습관을 추천해요.
README가 안내하는 자세한 단계 보기
- 저장소를 클론합니다.
git clone https://github.com/champmq/TheScrapper.git
- 디렉토리로 이동합니다.
cd TheScrapper
- 의존성을 설치합니다.
pip3 install -r requirements.txt
- 웹 UI를 실행하거나 CLI를 사용합니다.
웹 UI 실행:
streamlit run app.py
CLI 기본 사용 (URL 스크래핑):
python3 TheScrapper.py --url https://example.com
CLI 고급 옵션 (링크 크롤링 포함):
python3 TheScrapper.py --url https://example.com --crawl
배치 처리 (CSV/Excel 파일):
python3 TheScrapper.py --csv targets.csv
깃밥트라이로 맛보기
받아보기 귀찮고 살짝 불안했다면 — 안전 스캔부터 설치까지 터미널 한 줄로 끝나요.
터미널에 붙여넣으면 깃밥 안전 스캔 → 격리 폴더 clone → 설치 → 실행법 안내까지 자동이에요. 처음이어도 괜찮아요 — 이 한 줄이 전부예요.
npx gitbap-try champmq/TheScrapper
Node.js만 있으면 설치 없이 실행돼요 · 깃밥트라이가 뭐예요? →
별 추이 · 7일
확인 시각
활용성 · 따라 만들기 좋은가
- 관대한 라이선스
- 테스트 있음
- 예제 디렉토리
- 최근 활동
- AGENTS.md
- llms.txt
- 템플릿
🟢 최근 활동 있음 · 2021년 생성
「데이터·크롤링」 이런 레포, 매주 받아보실래요?
매주 월요일 아침, 골라 담은 밥상만. 광고 없이 · 언제든 해지.
내 레포인가요? README에 깃밥 배지 달기
[](https://www.gitbap.com/r/champmq/TheScrapper)🔌 클로드에서 바로 써보기 — 깃밥 연결하는 법
깃밥을 클로드에 연결하면 이런 레포를 클로드·커서·Codex에서 바로 찾고 체험할 수 있어요.
클로드 설정 → 커넥터에 이 주소를 붙여넣기.
https://www.gitbap.com/api/mcp플러그인을 설치하면 /gitbap-trending·/gitbap-try 슬래시 커맨드로 레포를 그 자리에서 체험. Claude Code에서 아래 두 줄을 차례로 실행하세요.
/plugin marketplace add jakeparkcolde/gitbap-cowork/plugin install gitbap-cowork@gitbapAI가 README 기반으로 요약했습니다 · 원문 보기