Automatisation UI Android via CLI

VérifiéPrudence

Automatisez l'interface utilisateur d'un appareil Android connecté via la ligne de commande. Utilisez une boucle lancement → observation → action → réobservation pour atteindre un objectif.

Spar Skills Guide Bot
TestingIntermédiaire
23/07/2026
Claude CodeCursorWindsurfCodex
#android#ui-automation#adb#mobile-testing#cli

Recommandé pour

Synthèse automatique

Automatise l'interface d'un appareil ou émulateur Android connecté via la CLI Android, en bouclant lancement, observation, action et réobservation jusqu'à atteindre l'objectif.

Points forts

  • S'appuie sur `android layout` pour cibler les éléments par texte, description ou resource-id plutôt que par de simples coordonnées.
  • Propose un mode capture d'écran annotée adapté aux WebView, vues personnalisées, canvas, cartes et jeux.
  • Gère explicitement les appareils multiples via numéro de série et rappelle de réobserver après chaque action.
  • Couvre le lancement par URL, application installée ou APK, puis les interactions tactiles et clavier via adb.

Limites

  • Nécessite un appareil ou émulateur connecté, adb et la CLI Android disponibles et configurés.
  • Les coordonnées et les libellés de capture deviennent obsolètes après chaque changement d'interface, ce qui impose des observations fréquentes et peut ralentir le parcours.
  • L'efficacité dépend de la structure d'accessibilité de l'interface ; les écrans très dynamiques ou protégés peuvent rester difficiles à piloter de façon fiable.
Quand l'utiliser

À utiliser lorsqu'un agent doit exécuter un parcours concret sur Android, comme ouvrir une URL, installer une APK, saisir du texte ou franchir des écrans jusqu'à un objectif.

Quand l'éviter

À éviter pour des tests multiplateformes ou iOS, des tests unitaires sans interface, ou lorsque aucun appareil ou émulateur Android ne peut être connecté.

Analyse de sécurité

Prudence
Score qualité85/100

The skill instructs adb and android CLI commands to automate UI on a connected device. While it does not include destructive or data-exfiltration actions, controlling a device via adb shell input and launching intents is a powerful capability that could inadvertently interact with sensitive apps if misused, so caution is warranted.

Points d'attention
  • •Uses adb shell input, am start, monkey, and dumpsys to control a connected Android device; these are powerful device-control commands but are used for legitimate UI automation purposes.
  • •No destructive, exfiltrating, or obfuscated commands are present.
Comment cette analyse est faite

Exemples

Open URL and read page
On the Android device connected over adb, open https://news.ycombinator.com in the browser, dismiss any cookie or permission dialogs, and read the top three story titles back to me.
Search inside installed app
Launch the installed app com.example.shop on device emulator-5554, search for "running shoes", open the first result, and stop on the product page.
Install APK and clear onboarding
Install /tmp/app-debug.apk on the connected Android device, launch it, clear the onboarding screens and permission prompts, and confirm you have reached the main home screen.

name: android-cli-ui-automation-skill description: Automate UI on a connected Android device or emulator via the Android CLI. Use when asked to launch an app, tap a button, enter text, navigate a URL, or drive any on-screen flow to a goal.

Drive the device in a tight launch → observe → act → re-observe loop until the goal is reached. Prefer android layout for structured UI. Use screenshot mode whenever it is faster or more reliable.

If multiple devices are connected, get the serial with adb devices -l. Pass --device=<serial> to android ... and -s <serial> to adb ....

1. Launch

  • URL in a browser: adb -s <serial> shell am start -a android.intent.action.VIEW -d '<url>'
  • Already-installed app: adb -s <serial> shell monkey -p <pkg> -c android.intent.category.LAUNCHER 1
  • APK file: android run --apks=<path> --device=<serial> [--activity=<name>]

2. Observe with android layout

android layout --device=<serial> --pretty --output=/tmp/ui.json

Match targets by text, content-desc, or resource-id. Use the node's center as tap coordinates.

Re-observe after each action with the mode you chose. android layout --device=<serial> --diff is useful when you only need to see what changed.

3. Use screenshot mode when visual targeting is easier

Screenshot mode is often the better choice for:

  • WebView or browser page content
  • Icon-only custom views
  • Canvas, map, or game surfaces
  • Any screen where layout is noisy, incomplete, or slower to interpret than the image
android screen capture --output=/tmp/ui.png --annotate
android screen resolve --screenshot=/tmp/ui.png --string="input tap #N"

Labels are valid only for that screenshot. Capture again after every UI change.

4. Act with adb shell input

adb -s <serial> shell input tap <x> <y>
adb -s <serial> shell input text '<text-with-%s-for-spaces>'
adb -s <serial> shell input swipe <x1> <y1> <x2> <y2> <ms>
adb -s <serial> shell input keyevent <KEYCODE>

Example: adb -s <serial> shell input text 'hello%sworld'

Rules

  • Re-observe after every action. Coordinates and screenshot labels go stale immediately.
  • Clear blockers first: permission dialogs, onboarding sheets, update prompts.
  • Use the observation mode that is clearer: layout for structured UI, screenshot for visual UI.

Notes

  • Don't type URLs into the address bar. Open them with am start -a VIEW -d '<url>'.
  • If the foreground app is unclear, check it with adb -s <serial> shell dumpsys window | rg 'mCurrentFocus|mFocusedApp'.

Du fichier au premier essai

Le téléchargement contient exactement le contenu affiché sur cette fiche. Cette copie peut différer de la dernière version du dépôt source.

Consulter la source et ses fichiers annexes

Ce téléchargement contient uniquement SKILL.md. Les scripts, références, modèles et dépendances éventuels ne sont pas inclus. Récupérez les fichiers nécessaires depuis la source en conservant leur arborescence avant de poursuivre.

1. Télécharger le fichier

Télécharger SKILL.md

Depuis la racine d’un projet de test, enregistrez le fichier sous .skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md, ou utilisez la commande suivante. Ce dossier sert à examiner la skill avant son installation.

Commande pour macOS/Linux ou WSL : un shell POSIX et curl sont nécessaires. Sous Windows sans WSL, utilisez le bouton de téléchargement et créez le dossier manuellement.

mkdir -p '.skill-downloads/android-cli-ui-automation-mrx3y0mx' && curl --fail --show-error --location 'https://skills-guides.com/api/skills/android-cli-ui-automation-mrx3y0mx/download' --output '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md.part' && mv '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md.part' '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md'

2. Vérifier les prérequis

Lisez SKILL.md avant de l’utiliser. Si le fichier cite des scripts ou services externes, examinez-les et préparez les accès nécessaires dans votre environnement de test.

Aucune section de prérequis reconnue dans ce fichier. Cela ne signifie pas qu’il est autonome : les bibliothèques, outils et accès peuvent être cités ailleurs dans le contenu ou dans le dépôt source.

Les plateformes de la fiche sont des indications du catalogue. Les chemins ci-dessous suivent la documentation des outils ; ils ne prouvent pas que cette skill y a été exécutée. Aucune version minimale de ces outils n’est attestée pour cette fiche.

3. Charger la skill

Après vérification, copiez le dossier complet dans le projet avec l’une des commandes ci-dessous, puis ouvrez une nouvelle session de l’outil. La commande s’arrête si un dossier du même nom existe déjà : comparez les fichiers avant de le remplacer.

Claude Code
test -f '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md' && test -s '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md' && mkdir -p '.claude/skills' && test ! -e '.claude/skills/android-cli-ui-automation-skill' && cp -R '.skill-downloads/android-cli-ui-automation-mrx3y0mx' '.claude/skills/android-cli-ui-automation-skill'

Cursor
test -f '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md' && test -s '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md' && mkdir -p '.cursor/skills' && test ! -e '.cursor/skills/android-cli-ui-automation-skill' && cp -R '.skill-downloads/android-cli-ui-automation-mrx3y0mx' '.cursor/skills/android-cli-ui-automation-skill'

Codex
test -f '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md' && test -s '.skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md' && mkdir -p '.agents/skills' && test ! -e '.agents/skills/android-cli-ui-automation-skill' && cp -R '.skill-downloads/android-cli-ui-automation-mrx3y0mx' '.agents/skills/android-cli-ui-automation-skill'

OpenSkills

OpenSkills doit déjà être installé. La procédure locale install/read est contrôlée avec OpenSkills 1.5.0, qui exige Node.js ≥ 20.6.0. Aucun slug du catalogue n’est résolu automatiquement.

Installation officielle d’OpenSkills
openskills install './.skill-downloads/android-cli-ui-automation-mrx3y0mx'

openskills read 'android-cli-ui-automation-mrx3y0mx'

La lecture doit afficher le contenu du fichier installé et son dossier de base. Elle ne lance ni la skill ni ses dépendances.

Pour un agent qui lit AGENTS.md, synchronisez ensuite l’index. Cette commande modifie AGENTS.md : relisez le diff avant de l’utiliser.

openskills sync

Mode manuel ou autre outil : joignez SKILL.md à une conversation, ou ouvrez-le dans un agent capable de lire les fichiers. Ajoutez les ressources annexes nécessaires. Il n’existe pas de dossier universel reconnu par tous les outils.

4. Faire un premier essai

Utilisez une entrée courte et fictive : un endpoint d’API, un petit document ou un brief d’interface. Dans une nouvelle conversation, joignez le fichier ou donnez son chemin à l’agent, puis adaptez cette demande :

Lis .skill-downloads/android-cli-ui-automation-mrx3y0mx/SKILL.md et applique ses instructions à cet exemple : [décrire une entrée de test]. Indique les fichiers, dépendances ou accès qui manquent. Produis le résultat demandé par la skill sans inventer de données ni exécuter de script non examiné.

Résultat attendu : une sortie correspondant aux instructions de la skill, ou une liste précise des prérequis manquants. Une simple confirmation de lecture ne valide pas le premier usage. Si une ressource externe est indisponible, ce parcours reste à tester.

Skills similaires