Η προστασία των AI μοντέλων συνήθως εστιάζει στον ψηφιακό κόσμο. Όμως, οι πιο επικίνδυνες επιθέσεις συμβαίνουν πλέον στον φυσικό (physical) κόσμο μέσω των λεγόμενων Physical Adversarial Examples. Πρόκειται για ειδικά σχεδιασμένα αντικείμενα, μοτίβα ή σήματα που μπερδεύουν τα μοντέλα Computer Vision (κάμερες) της πραγματικής ζωής.
Πώς εκδηλώνονται οι επιθέσεις;
- Αυτόνομα Οχήματα: Μικρά αυτοκόλλητα (patches) τοποθετημένα στρατηγικά πάνω σε μια πινακίδα "STOP" μπορούν να κάνουν το AI του αυτοκινήτου να τη διαβάσει ως "Όριο Ταχύτητας 80", οδηγώντας σε θανατηφόρα ατυχήματα χωρίς να αλλάξει κώδικας.
- Συστήματα Αναγνώρισης Προσώπου (Facial Recognition): Ειδικά γυαλιά με εκτυπωμένα pixels, ή μπλούζες με μοτίβα (Adversarial T-shirts) μπορούν να κάνουν την κάμερα είτε να αγνοήσει εντελώς το πρόσωπο, είτε να το αναγνωρίσει ως κάποιο άλλο, παρακάμπτοντας ελέγχους ασφαλείας.
- Drone & Surveillance Evasion: Σωματικά patches που εμποδίζουν τα στρατιωτικά ή αστυνομικά drones από το να εντοπίσουν ανθρώπους ή οχήματα ως "στόχους".
Η Άμυνα στο Physical Layer
Το να διορθώσεις ένα μοντέλο απέναντι σε adversarial θόρυβο απαιτεί Adversarial Training: την ενσωμάτωση χιλιάδων παραλλαγών τέτοιων επιθέσεων στα δεδομένα εκπαίδευσης. Ακόμα κι έτσι, η μάχη είναι διαρκής. Η "φυσική" κυβερνοασφάλεια (Physical Cyber-Security) ενώνει πλέον τους τομείς της οπτικής, του ML και των υλικών κατασκευής.