Mini-projet · semestre 1
Transformer une question difficile en preuves vérifiables.
Votre terrain : évaluer le classement d’importance des mots quand le modèle ne renvoie qu’une étiquette, sans score, logit ni gradient.
Accès oracle
label only
f(x) → y
Dernière synchroSnapshot non chargé
CollecteAucun journal disponible
Preuves vérifiéesAucune donnée
Prochaine preuve
Verrouiller le protocole de recherche
Avant de collecter des articles, consignez les bases, la requête, la période et les critères d’inclusion. Cela rendra le diagramme PRISMA défendable.
- 1QuestionWIR hard-label, efficacité sous budget de requêtes
- 2SourcesACL Anthology, IEEE Xplore, Scopus, arXiv en complément
- 3Critèresattaque textuelle, décision seule, évaluation empirique
Question formalisée
Le cœur du PFE
min d(x, x′)
sous f(x′) ≠ f(x) et sim(x, x′) ≥ τ
- Observable
- classe prédite uniquement
- À préserver
- sens, grammaire, lisibilité
- À réduire
- requêtes et perturbations
Cahier des charges
Route du mini-projet au mémoire
Mois 1–2
État de l’art + taxonomie
Revue systématique, menaces, WIR, filtres, recherche et contraintes.
Mois 3
Formalisation + baseline
Définir et implémenter des heuristiques WIR sans score.
Mois 4
Comparaison empirique
Comparer qualité du classement, ASR et coût en requêtes.
Mois 5–8
Optimiser, évaluer, rédiger
Gates, heuristiques, benchmark complet, mémoire et soutenance.
Corpus de départ
Bibliothèque
Quelques pistes de démonstration sont disponibles en fallback partiel. « Seed » signifie amorçage manuel, pas inclusion scientifique.
6références visibles
Fallback partiel · seed ≠ résultat PRISMA. Ces cartes de démonstration servent à construire les mots-clés et au snowballing. Elles ne représentent pas tout le corpus seed et n’entrent dans le flux qu’après traçage de leur provenance.
Seed prioritaireAAAI · 2021
Generating Natural Language Attacks in a Hard Label Black Box Setting
Référence directement alignée : attaque décisionnelle observant seulement le label supérieur, avec optimisation basée population.
hard-labelpopulationrequêtes
Seed comparatifAAAI · 2020
Is BERT Really Robust? A Strong Baseline for Natural Language Attack
Baseline utile pour dissocier le WIR guidé par scores de la variante strictement hard-label à concevoir.
WIRsynonymesbaseline
Seed comparatifEMNLP · 2020
BAE: BERT-based Adversarial Examples for Text Classification
Génération contextuelle de remplacements et insertions via BERT-MLM ; utile pour le module candidat.
MLMcandidatscohérence
Seed comparatifNDSS · 2019
TextBugger: Generating Adversarial Text Against Real-world Applications
Perturbations caractère et mot en boîte noire ; à classifier précisément selon l’information utilisée par la variante étudiée.
hybridecaractèremot
Seed comparatifIJCAI · 2018
Generating Natural Language Adversarial Examples
Recherche génétique sur substitutions lexicales ; point d’appui pour comparer coût, population et espace de recherche.
génétiquerecherchesynonymes
Seed comparatifACL · 2020
Word-level Textual Adversarial Attacking as Combinatorial Optimization
Substitutions par sémèmes et recherche PSO ; pertinent pour la taxonomie des espaces candidats et heuristiques.
PSOsémèmesrecherche
∅
Aucune référence ne correspond
Élargissez un filtre ou effacez la recherche.
Traçabilité de la revue
PRISMA 2020
Fallback local partiel à zéro. Les cartes seed de démonstration restent hors flux jusqu’à une recherche documentée.
Diagramme vivant
Flux de sélection
Identification0références trouvées
0doublons retirés
Criblage0titres / résumés
0exclues au tri
Récupération0rapports recherchés
0non récupérés
Éligibilité0textes intégraux évalués
0textes exclus
Inclusion0études retenues
État initial cohérent : tous les compteurs sont à zéro.
Autorité des données
Snapshot automatique
- Identifiées
- 0
- Doublons retirés
- 0
- Références uniques
- 0
- En attente de tri
- 0
- Rapports recherchés
- 0
- Rapports non récupérés
- 0
- Décisions en attente
- 0
Ces nombres viennent de data/state.json, lui-même généré depuis la base du projet. Ils ne sont pas modifiables dans cette page.
À compléter avant la collecte
Protocole minimal
RQ1
Quelles heuristiques WIR fonctionnent avec la seule décision du classifieur ?
Population
Articles proposant ou évaluant des attaques adversariales textuelles en boîte noire.
Inclusion
Texte intégral, protocole empirique, métriques d’attaque et information oracle identifiable.
Exclusion
Vision uniquement, défense sans attaque évaluée, score requis sans adaptation hard-label.
Requête de départ
("hard-label" OR "decision-based") AND ("adversarial attack") AND (NLP OR text) AND (ranking OR "word importance")Carte conceptuelle
Taxonomie d’une attaque hard-label
Décomposer l’attaque évite de comparer des systèmes complets sans savoir quel module produit le gain.
A
Word Importance Ranking
Estimer quels tokens influencent la décision sans observer une variation de probabilité.
- suppression ou masque : flip / no flip
- vote dans un voisinage de perturbations
- fréquence de bascule par position
B
Espace de substitution
Construire des candidats plausibles avant toute requête coûteuse.
- embeddings contre-ajustés
- BERT masked language model
- sémèmes, POS et lexicalité
C
Gates et filtres
Écarter les candidats invalides sans interroger l’oracle.
- part-of-speech compatible
- similarité sémantique ≥ τ
- grammaire et perplexité
D
Recherche heuristique
Trouver un label différent dans un espace discret combinatoire.
- gloutonne et beam search
- algorithme génétique / PSO
- MCTS ou échantillonnage local
E
Contraintes de qualité
Une bascule de label n’est pas suffisante si le texte devient faux ou artificiel.
- distance d’édition / taux modifié
- similarité de phrase
- évaluation humaine ciblée
F
Budget et menace
Déclarer exactement ce que l’attaquant sait, voit et peut demander.
- nombre maximal de requêtes
- attaque ciblée ou non ciblée
- données ou modèle substitut accessibles
Matrice de lecture
Ne pas confondre les cadres
| Cadre | Retour oracle | Signal pour le WIR | Risque méthodologique |
|---|---|---|---|
| Hard-label | classe seulement | bascule, stabilité, votes | variance + coût en requêtes |
| Score-based | probabilités / logits | variation continue du score | baseline injuste si transposée telle quelle |
| White-box | gradients + paramètres | salience par gradient | hypothèse hors périmètre |
Banc d’essai · non exécuté
Expériences WIR
Préparer une comparaison reproductible avant de lancer le moindre calcul.
Artifact reproductible
Plan généré
Sélectionnez les paramètres puis générez le plan.
Invariant hard-label
- la fonction oracle retourne uniquement un identifiant de classe ;
- aucun tri n’utilise softmax, logit ou gradient ;
- chaque appel est compté, cache inclus dans le rapport.
Tableau de résultats
Résultats futurs
| Méthode WIR | ASR ↑ | Requêtes ↓ | Tokens modifiés ↓ | Similarité ↑ | Statut |
|---|---|---|---|---|---|
| Suppression LOO | — | — | — | — | Non lancé |
| Masquage label-flip | — | — | — | — | Non lancé |
| Vote voisinage | — | — | — | — | Non lancé |
| Ordre aléatoire | — | — | — | — | Non lancé |
5 mots · 6 minutes
English Lab
Vocabulaire scientifique du PFE, révisé par rappel actif et répétition espacée sur cet appareil.
—mots dus
Session0 / 5
En mémoire0
Prochaine échéanceAujourd’hui
Progression locale. Les notes SM-2 effectuées ici restent sur cet appareil et ne sont pas synchronisées avec Telegram ou la base SQLite.
Quiz de rappel1 / 5
noun
query budget
Dites la définition française à voix haute, puis révélez la réponse.
FRbudget de requêtes
Syn.query limit · request allowance
The attack must stay within a strict query budget.
✓
Session terminée
Vos prochaines dates sont enregistrées sur cet appareil.
Mode opératoire
Guide de travail
Une boucle courte : chercher, tracer, lire, coder, mesurer, écrire.
Chaque semaine
La boucle scientifique
- 01
Formuler
Une question précise et un critère de succès mesurable.
- 02
Tracer
Requête, date, base et décision PRISMA avec raison d’exclusion.
- 03
Extraire
Cadre de menace, oracle, datasets, métriques, budget et limites.
- 04
Reproduire
Baseline minimale, seed, versions, configuration et journal brut.
- 05
Interpréter
Séparer mesure, inférence et hypothèse ; documenter les échecs.
Rythme conseillé
Une semaine réaliste
Lun
recherche + dédoublonnage
45 minMar
lecture profonde d’un article
60 minMer
fiche + taxonomie + 5 mots
45 minJeu
implémentation ou test isolé
90 minVen
synthèse, risques, questions encadreur
30 minCompagnon mobile
Bot Telegram
Le bot peut devenir une télécommande pour les rappels, jamais un lieu où exposer des secrets ou fabriquer des résultats.
Action indispensable
Le jeton partagé précédemment doit être révoqué dans BotFather puis remplacé. Ce site n’enregistre et n’utilise aucun token.
/start [CODE]initialiser ou associer le bot/helpafficher l’aide disponible/todayprochaine tâche et mots dus/moreafficher la suite d’un message/papersafficher les références à traiter/search <mots>chercher avec des mots-clés/wordslancer les mots du jour/statsvoir l’état du travail/siteouvrir le carnet web
Le lien ouvre seulement le profil public du bot. Les commandes nécessitent un backend sécurisé, non inclus dans cette version statique.
Avant toute conclusion
Checklist anti-surinterprétation
- ✓Le cadre est-il strictement label-only ?
- ✓Chaque requête est-elle comptée de la même façon ?
- ✓La qualité textuelle dépasse-t-elle une seule similarité automatique ?
- ✓Les seeds et runs sont-ils identiques entre méthodes ?
- ✓Les échecs et limites figurent-ils dans le rapport ?
Navigation
Raccourcis clavier
Alt + 1…7 changer d’espace
Ctrl + K rechercher dans la bibliothèque
Espace révéler une carte d’anglais
1…4 noter le rappel