Outil de scraping de sites SPA

VérifiéPrudence

Convertissez les sites SPA dynamiques (Vue/React/Angular) en fichiers HTML statiques tout en préservant la mise en page et les styles.

Spar Skills Guide Bot
DeveloppementAvancé
25/07/2026
Claude Code
#web-scraping#spa#static-site#playwright#html

Recommandé pour

Synthèse automatique

Ce skill transforme un site SPA (Vue, React, Angular) en un ensemble de fichiers HTML statiques en pilotant un navigateur Playwright pour explorer les routes, télécharger les ressources et nettoyer le HTML capturé.

Points forts

  • Workflow complet en cinq phases, de l'exploration des routes jusqu'à la vérification en local
  • Extraction des tables de routage Vue Router / React Router et déclenchement des chunks lazy-loadés
  • Téléchargement parallélisé des ressources via des subagents et capture page par page
  • Tableau des pièges fréquents avec correctifs concrets (CORS sur les polices, hash d'images, échappement SVG, redirections d'authentification)

Limites

  • Fortement dépendant des outils MCP Playwright et de Bash, donc non portable tel quel vers d'autres éditeurs
  • Le nettoyage repose sur des regex Python ad hoc plutôt que sur un parseur HTML robuste
  • Les pages protégées par Keycloak/OAuth ne sont pas gérées et doivent être contournées manuellement
Quand l'utiliser

À utiliser pour archiver ou démontrer un site rendu côté client dont on veut une copie statique consultable hors ligne.

Quand l'éviter

À éviter sur un site dont vous ne détenez pas les droits, ou lorsque un simple wget/crawl classique suffit pour du HTML rendu côté serveur.

Analyse de sécurité

Prudence
Score qualité80/100

No destructive commands, obfuscated payloads, or secret exfiltration — commands are ordinary `curl`/`mkdir`/`http.server` and Playwright browsing, used for a coherent legitimate purpose (static mirroring of a SPA). The risk profile is 'powerful tools used broadly': unsafe in-page JS evaluation, unchecked downloads of remote binaries, and site-wide copying without an authorization check. That warrants caution, not risky.

Points d'attention
  • •Declares `mcp__playwright__browser_run_code_unsafe`, permitting arbitrary JS execution in the target page context — powerful and easy to misuse.
  • •Wholesale mirroring of third-party sites raises copyright/ToS issues; the skill never asks the user to confirm they are authorized to copy the target.
  • •Uses `curl -sL` to pull arbitrary remote JS/CSS/fonts/binaries with no integrity verification, then serves them locally via `python3 -m http.server`.
  • •Mentions OAuth/Keycloak-gated routes as a 'pitfall' to work around (skip route / grab login page) without stating that authentication must not be bypassed.
  • •Parallel subagents + full-site download can produce heavy traffic against a target host with no rate-limiting guidance.
Comment cette analyse est faite

Exemples

扒一个 Vue 官网
把 https://example.com 这个 Vue 网站整个扒下来,生成可以直接双击打开的静态 HTML,放到 ./mirror 目录
SPA 静态化
静态化这个 React 站点:https://app.example.com,保留所有路由页面和图片字体,最后用本地 http.server 跑起来验证一遍
整站下载并修复样式
整站下载 https://docs.example.com,去掉所有 script 标签,修复资源路径和 iconfont 的 CORS 问题,然后截图给我看看首页效果

name: spa-scrape version: 1.0.0 description: | 将 SPA(单页应用)网站完整扒下来,生成纯静态 HTML 文件。 适用于 Vue/React/Angular 等前端框架渲染的网站。 触发词:"扒站"、"扒下来"、"抓取这个网站"、"spa scrape"、"静态化这个网站"。 allowed-tools:

  • Bash
  • Read
  • Write
  • Edit
  • Grep
  • Glob
  • Agent
  • AskUserQuestion
  • mcp__playwright__browser_navigate
  • mcp__playwright__browser_snapshot
  • mcp__playwright__browser_evaluate
  • mcp__playwright__browser_click
  • mcp__playwright__browser_network_requests
  • mcp__playwright__browser_network_request
  • mcp__playwright__browser_take_screenshot
  • mcp__playwright__browser_wait_for
  • mcp__playwright__browser_run_code_unsafe triggers:
  • 扒站
  • 扒下来
  • 把网站扒下来
  • 抓取这个网站
  • spa scrape
  • 静态化这个网站
  • 整站下载

SPA 网站扒站工具

将动态渲染的 SPA 网站(Vue/React/Angular)转换为纯静态 HTML 文件,保留布局和样式。

完整工作流程

阶段 1:探索网站结构

  1. 打开目标网站

    browser_navigate → 目标 URL
    browser_wait_for → 等待 3-5 秒让 SPA 渲染完成
    
  2. 获取路由表(关键步骤)

    browser_evaluate → 执行 JS 获取 Vue Router / React Router 路由表
    
    • Vue: document.querySelector('#app').__vue_app__._instance.appContext.config.globalProperties.$router.options.routes
    • React: 查 Network 面板或遍历 DOM 导航链接
    • 通用: browser_snapshot 获取页面结构,提取所有导航链接
  3. 发现静态资源

    browser_network_requests → static=true → 列出所有 JS/CSS/图片/字体
    

    记录带 hash 的文件名(如 index-Cwp7s7md.js、a1-BKC9nY_U.png)

  4. 触发懒加载

    逐一点击导航链接 → browser_click → browser_wait_for → browser_network_requests
    

    发现微前端子应用、路由懒加载 chunk

阶段 2:下载资源

  1. 创建本地目录结构

    mkdir -p <output-dir>/{assets,子应用目录...}
    
  2. 下载入口 HTML

    curl -sL -o <output-dir>/index.html <网站URL>
    
  3. 批量下载静态资源

    # 下载 JS/CSS
    curl -sL -o <output-dir>/assets/xxx.js <网站URL>/assets/xxx.js
    # 下载图片(带 hash 的文件名)
    curl -sL -o <output-dir>/assets/a1-XXX.png <网站URL>/assets/a1-XXX.png
    # 下载字体
    curl -sL -o <output-dir>/assets/iconfont-XXX.woff2 <网站URL>/assets/iconfont-XXX.woff2
    

    并行下载: 用多个 subagent 同时下载不同目录的资源

阶段 3:捕获页面快照

  1. 逐个页面捕获渲染后的 HTML
    browser_navigate → 页面路由
    browser_wait_for → 3 秒等待渲染
    browser_evaluate → document.documentElement.outerHTML → 保存为 .html
    
    并行处理: 用 subagent 同时抓取多个页面

阶段 4:清洗 HTML

  1. 去掉不需要的内容

    import re
    # 去掉所有 <script> 标签
    html = re.sub(r'<script[^>]*>.*?</script>', '', html, flags=re.DOTALL)
    # 去掉外部 JS 引用(保留模板语法如 {{ }})
    # 去掉 <link rel="modulepreload">
    html = re.sub(r'<link[^>]*modulepreload[^>]*>', '', html)
    
  2. 修复资源路径

    # 添加 <base> 标签让图片等资源从远程加载
    html = html.replace('<head>', '<head><base href="https://原网站域名/">')
    # 修复相对路径
    html = re.sub(r'url\(\./iconfont-', 'url(assets/iconfont-', html)
    html = re.sub(r'url\(\./(?!assets/)', 'url(https://原网站域名/', html)
    # 修复 CSS 中的 CORS 字体
    html = html.replace("url(./", "url(assets/")
    
  3. 修复渲染问题

    # SVG 转义
    html = html.replace('=\\"', '="')
    # 注入缺失的 Header/公共组件样式
    # (某些页面依赖公共组件 CSS,需要手动注入)
    

阶段 5:验证

  1. 本地预览

    # 启动简单 HTTP 服务器
    cd <output-dir> && python3 -m http.server 8899
    

    然后在浏览器中逐个打开页面,检查:

    • 布局是否正常
    • 图片是否加载
    • 字体图标是否显示
    • 浏览器 Console 是否有 404/CORS 错误
  2. 修复问题

    • CORS 错误 → 检查 base 标签和资源路径
    • 图片 404 → 检查 hash 文件名是否正确
    • 样式缺失 → 注入缺失的 CSS
    • 布局错乱 → 检查 CSS 文件是否完整下载

常见陷阱

| 问题 | 原因 | 解决 | |------|------|------| | 图片 hash 错误 | 不同构建版本的 hash 不同 | 从 Network 面板确认当前 hash | | CORS 字体加载失败 | url() 路径不对 | 改为本地路径或完整 URL | | Header/导航样式缺失 | 微前端公共组件 CSS 未注入 | 手动注入 common-components CSS | | SVG 图标显示异常 | Vue 渲染的 =\" 转义 | replace('=\\"', '="') | | 页面跳转到登录 | Keycloak/OAuth 认证拦截 | 单独下载登录页,或跳过需要认证的路由 | | 滚动触发路由切换 | SPA 的 scroll-to-anchor | 小心使用 browser_evaluate,避免触发滚动 |

输出物

<output-dir>/
├── index.html                    # 主入口
├── standalone-homepage.html      # 首页完整快照(可直接浏览器打开)
├── all-styles.css                # 所有 CSS 合并文件
├── screenshot-fullpage.png       # 首页截图
├── <page1>.html                  # 各页面快照
├── <page2>.html
├── ...
├── assets/                       # 静态资源
│   ├── *.js
│   ├── *.css
│   ├── *.png / *.jpg
│   ├── *.woff2 / *.ttf
│   └── *.mp4
└── <子应用>/                     # 微前端子应用资源
    └── ...

使用示例

用户: 把 https://example.com/#/ 这个网站扒下来
用户: spa-scrape https://example.com
用户: 静态化这个 Vue 网站

Du fichier au premier essai

Le téléchargement contient exactement le contenu affiché sur cette fiche. Cette copie peut différer de la dernière version du dépôt source.

Consulter la source et ses fichiers annexes

Ce téléchargement contient uniquement SKILL.md. Les scripts, références, modèles et dépendances éventuels ne sont pas inclus. Récupérez les fichiers nécessaires depuis la source en conservant leur arborescence avant de poursuivre.

1. Télécharger le fichier

Télécharger SKILL.md

Depuis la racine d’un projet de test, enregistrez le fichier sous .skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md, ou utilisez la commande suivante. Ce dossier sert à examiner la skill avant son installation.

Commande pour macOS/Linux ou WSL : un shell POSIX et curl sont nécessaires. Sous Windows sans WSL, utilisez le bouton de téléchargement et créez le dossier manuellement.

mkdir -p '.skill-downloads/spa-website-scraper-tool-mrzxup53' && curl --fail --show-error --location 'https://skills-guides.com/api/skills/spa-website-scraper-tool-mrzxup53/download' --output '.skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md.part' && mv '.skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md.part' '.skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md'

2. Vérifier les prérequis

Lisez SKILL.md avant de l’utiliser. Si le fichier cite des scripts ou services externes, examinez-les et préparez les accès nécessaires dans votre environnement de test.

Aucune section de prérequis reconnue dans ce fichier. Cela ne signifie pas qu’il est autonome : les bibliothèques, outils et accès peuvent être cités ailleurs dans le contenu ou dans le dépôt source.

Les plateformes de la fiche sont des indications du catalogue. Les chemins ci-dessous suivent la documentation des outils ; ils ne prouvent pas que cette skill y a été exécutée. Aucune version minimale de ces outils n’est attestée pour cette fiche.

3. Charger la skill

Après vérification, copiez le dossier complet dans le projet avec l’une des commandes ci-dessous, puis ouvrez une nouvelle session de l’outil. La commande s’arrête si un dossier du même nom existe déjà : comparez les fichiers avant de le remplacer.

Claude Code
test -f '.skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md' && test -s '.skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md' && mkdir -p '.claude/skills' && test ! -e '.claude/skills/spa-scrape' && cp -R '.skill-downloads/spa-website-scraper-tool-mrzxup53' '.claude/skills/spa-scrape'

OpenSkills

OpenSkills doit déjà être installé. La procédure locale install/read est contrôlée avec OpenSkills 1.5.0, qui exige Node.js ≥ 20.6.0. Aucun slug du catalogue n’est résolu automatiquement.

Installation officielle d’OpenSkills
openskills install './.skill-downloads/spa-website-scraper-tool-mrzxup53'

openskills read 'spa-website-scraper-tool-mrzxup53'

La lecture doit afficher le contenu du fichier installé et son dossier de base. Elle ne lance ni la skill ni ses dépendances.

Pour un agent qui lit AGENTS.md, synchronisez ensuite l’index. Cette commande modifie AGENTS.md : relisez le diff avant de l’utiliser.

openskills sync

Mode manuel ou autre outil : joignez SKILL.md à une conversation, ou ouvrez-le dans un agent capable de lire les fichiers. Ajoutez les ressources annexes nécessaires. Il n’existe pas de dossier universel reconnu par tous les outils.

4. Faire un premier essai

Utilisez une entrée courte et fictive : un endpoint d’API, un petit document ou un brief d’interface. Dans une nouvelle conversation, joignez le fichier ou donnez son chemin à l’agent, puis adaptez cette demande :

Lis .skill-downloads/spa-website-scraper-tool-mrzxup53/SKILL.md et applique ses instructions à cet exemple : [décrire une entrée de test]. Indique les fichiers, dépendances ou accès qui manquent. Produis le résultat demandé par la skill sans inventer de données ni exécuter de script non examiné.

Résultat attendu : une sortie correspondant aux instructions de la skill, ou une liste précise des prérequis manquants. Une simple confirmation de lecture ne valide pas le premier usage. Si une ressource externe est indisponible, ce parcours reste à tester.

Skills similaires