Exactement le genre de commentaire de gros débile sur ce réseau, de gens qui ne comprennent rien au Machine Learning mais qui l’ouvrent.
Ça commence à me saouler de voir à quel point certains s’inventent des expertises ici.
Je lis « faux positif » / « faux négatif » comme si tout le monde était devenu expert en accuracy et en précision du jour au lendemain.
Attaquer un classifieur sur n’importe quelle classe avec de l’adversarial, c’est possible.
Si ça marche dans un sens, ça marche dans l’autre.
C’est juste que c’est impossible à faire manuellement dans l’autre sens, parce qu’il faudrait générer à la main des modifications en permanence et produire des milliers d’exemples à la main.
Là, on peut le faire dans un deuxième temps, et je le vérifierai. Si on sait comment passer de X à Y, je vais regarder dans quelle mesure ça implique de pouvoir passer de Y à X.
Et, surprise, mon intuition me dit que ça ne va pas être très compliqué en utilisant du reverse engineering.
D’autant que les chiffres annoncés par Pangram sur leurs faux positifs ne sont ni indépendants ni vérifiables !!! Il peut y avoir du data leakage, de l’overfitting, n’importe quoi.
Bref, franchement, les data scientists de Wish, désolé, mais sur ça, vous n’allez pas m’apprendre mon métier.
Ben tu fais des faux négatifs, en en adversial, bref ça prouve pas qu'on peut faire des faux positifs sans faire exprès. C'est complètement à côté de la question.