카테고리

데이터·크롤링

crawler · scraping · data pipeline — 매일 새벽 3시에 새로 차립니다

급상승 · 별이 빠르게 늘고 있는 레포

데이터·크롤링

· 23그릇
firecrawl/firecrawl158,278+3,261

웹 페이지를 크롤링·스크래핑해 LLM이 바로 쓸 수 있는 마크다운·구조화 데이터로 변환해주는 오픈소스 웹 데이터 API

설치형 도구조건 있음 · AGPL-3.0데이터·크롤링난이도
NanmiCoder/MediaCrawler59,442+2,260

Playwright 기반 자동화로 소홍서·틱톡·빌리빌리·웨이보 등 중국 소셜 미디어에서 공개 정보를 수집하는 멀티플랫폼 크롤러

설치형 도구확인 필요 · NOASSERTION데이터·크롤링난이도
djfksjd/ir-search249+63

한국 정부·공공기관 지원사업을 자동으로 전수조사하고 프로젝트에 맞는 기회를 3단계로 분류해주는 Claude Code 스킬

개발 재료맘대로 써도 됨 · MIT데이터·크롤링난이도
D4Vinci/Scrapling71,846+895

현대 웹 크롤링을 위한 적응형 프레임워크로, 반지능적 요소 추적과 안티봇 우회를 지원합니다

개발 재료맘대로 써도 됨 · BSD-3-Clause데이터·크롤링난이도
unclecode/crawl4ai75,633+1,056

웹을 AI가 이해하는 마크다운으로 변환하는 오픈소스 크롤러

개발 재료맘대로 써도 됨 · Apache-2.0데이터·크롤링난이도
cporter202/coreclaw-api-directory125+0

118개의 즉시 실행 가능한 웹 데이터 수집 API를 카테고리별로 정리한 CoreClaw Workers 디렉토리

모음집확인 필요데이터·크롤링난이도
daijro/camoufox10,638+233

웹 스크래핑과 AI 에이전트를 위한 오픈소스 안티디텍트 브라우저

설치형 도구맘대로 써도 됨 · MPL-2.0데이터·크롤링난이도
jo-inc/camofox-browser8,196+227

AI 에이전트를 위한 C++ 수준 탐지 우회 브라우저 서버, Camoufox 기반

🍳 레시피설치형 도구맘대로 써도 됨 · MIT데이터·크롤링난이도
eatmoreduck/boss-zhipin-scraper967+88

BOSS직聘 채용공고를 Chrome CDP로 크롤링하여 명문 연봉 데이터와 채용 분석을 제공하는 도구

🍳 레시피설치형 도구맘대로 써도 됨 · MIT데이터·크롤링난이도
Vladimir-Human/ru-marketplace-mcp43+0

러시아·중국 마켓플레이스(Wildberries, Ozon, 야ndex, Avito, Taobao 등) 데이터를 Claude에 연결하는 MCP 서버 모음

설치형 도구맘대로 써도 됨 · MIT데이터·크롤링난이도
soxoj/maigret35,963+261

사용자명만으로 3,000개 이상의 사이트에서 계정을 찾아 한 사람의 정보를 수집하는 오픈소스 OSINT 도구

🍳 레시피설치형 도구맘대로 써도 됨 · MIT데이터·크롤링난이도
crawlseo/crawlseo450+112

창업자를 위한 올인원 셀프호스팅 SEO 모니터링 대시보드 (완전 무료·오픈소스)

🍳 레시피완성 앱맘대로 써도 됨 · MIT데이터·크롤링난이도
깃밥 상차림
바로가기
오늘의 맵기

중간맛실무에 바로 쓰는 깊이로 차려져요

주간 급상승 TOP
  1. 1firecrawl/firecrawl웹 페이지를 크롤링·스크래핑해 LLM이 바로 쓸 수 있는 마크다운·구조화 데이터로 변환해주는 오픈소스 웹 데이터 API+3,261
  2. 2NanmiCoder/MediaCrawlerPlaywright 기반 자동화로 소홍서·틱톡·빌리빌리·웨이보 등 중국 소셜 미디어에서 공개 정보를 수집하는 멀티플랫폼 크롤러+2,260
  3. 3djfksjd/ir-search한국 정부·공공기관 지원사업을 자동으로 전수조사하고 프로젝트에 맞는 기회를 3단계로 분류해주는 Claude Code 스킬+63
  4. 4D4Vinci/Scrapling현대 웹 크롤링을 위한 적응형 프레임워크로, 반지능적 요소 추적과 안티봇 우회를 지원합니다+895
  5. 5unclecode/crawl4ai웹을 AI가 이해하는 마크다운으로 변환하는 오픈소스 크롤러+1,056
라이선스 신호등
맘대로MIT · Apache
조건 있음GPL · 출처표기
확인 필요상업이용 제한
내 식단

기본 맵기 · 중간맛

AI 에이전트LLM 도구·RAG기획·설계코딩 보조·CLI 에이전트MCP·클로드 연동웹·Next.js·풀스택백엔드·DB
주간 밥상 구독