Ένα Toyota Yaris καλύφθηκε με ειδικό μοτίβο που δημιουργήθηκε με AI και κατάφερε να ξεγελάσει σύστημα αυτόματης αναγνώρισης οχημάτων.

Αν δεις το συγκεκριμένο Toyota Yaris, δύσκολα θα το χαρακτηρίσεις αόρατο. Το αντίθετο μάλιστα. Με ολόκληρο το αμάξωμά του καλυμμένο από ένα αλλόκοτο ασπρόμαυρο μοτίβο, είναι πιθανότατα ένα από τα Yaris που τραβούν περισσότερο την προσοχή. Τουλάχιστον αν είσαι άνθρωπος. Αν είσαι αλγόριθμος, τα πράγματα φαίνεται πως είναι αρκετά διαφορετικά.

Tο να βλέπεις κάτι και το να καταλαβαίνεις τι βλέπεις δεν είναι απαραίτητα το ίδιο πράγμα. Τουλάχιστον αν είσαι μηχανή

Το Toyota Yaris του 2009 χρησιμοποιήθηκε σε ένα ιδιαίτερα ενδιαφέρον πείραμα του ερευνητή κυβερνοασφάλειας Bill Swearingen, ο οποίος εδώ και περίπου έναν χρόνο προσπαθεί να δημιουργήσει σχέδια ικανά να μπερδέψουν τα συστήματα computer vision που χρησιμοποιούνται σε σύγχρονες κάμερες επιτήρησης.

Το πρότζεκτ ονομάζεται noRecognition και η βασική ιδέα του είναι σχεδόν τόσο απλή όσο και παράξενη: Αντί να προσπαθήσεις να κρυφτείς από την κάμερα, κάνεις τον αλγόριθμο που βρίσκεται πίσω της να μην καταλαβαίνει τι βλέπει.

Και για να διαπιστώσει αν αυτό μπορεί να λειτουργήσει και στον πραγματικό κόσμο, ο Swearingen συνεργάστηκε με το Donut Media, έντυσε ολόκληρο το Yaris με ένα από τα ειδικά μοτίβα και το έστειλε εμπρός από μια κάμερα της Flock στο πλαίσιο του συνεδρίου κυβερνοασφάλειας DEF CON στο Las Vegas. Η κάμερα είδε το Yaris. Το λογισμικό όμως, σύμφωνα με τον δημιουργό του συστήματος, δεν κατάλαβε ότι εμπρός του περνούσε αυτοκίνητο.

Η κάμερα βλέπει, ο αλγόριθμος όχι Εδώ βρίσκεται και η σημαντικότερη λεπτομέρεια της ιστορίας. Το ειδικό καμουφλάζ δεν κάνει το αυτοκίνητο κυριολεκτικά αόρατο και φυσικά δεν εμποδίζει μια κάμερα να το βιντεοσκοπήσει. Στόχος είναι κάτι εντελώς διαφορετικό.

Τα σύγχρονα συστήματα επιτήρησης δεν περιορίζονται στην καταγραφή εικόνας. Χρησιμοποιούν λογισμικό computer vision για να εντοπίζουν και να ταξινομούν αυτόματα όσα εμφανίζονται στο οπτικό τους πεδίο. Έτσι, αντί κάποιος άνθρωπος να χρειάζεται να παρακολουθεί ατελείωτες ώρες βίντεο, ένας αλγόριθμος μπορεί να αναζητά οχήματα, ανθρώπους ή άλλα αντικείμενα και να ενεργοποιεί τις αντίστοιχες ειδοποιήσεις. Το noRecognition επιχειρεί να χτυπήσει ακριβώς αυτό το επίπεδο της διαδικασίας.

Το ανθρώπινο μάτι κοιτάζει το συγκεκριμένο αντικείμενο και βλέπει χωρίς ιδιαίτερη προσπάθεια ένα Toyota Yaris. Ο αλγόριθμος εξετάζει την ίδια εικόνα και το ειδικά σχεδιασμένο μοτίβο επιχειρεί να τον οδηγήσει σε λάθος συμπέρασμα -ή ακόμη και στο να μην αναγνωρίσει καθόλου το αντικείμενο.

Χρειάστηκαν 31 εκατομμύρια δοκιμές Το εντυπωσιακότερο νούμερο της ιστορίας, πάντως, δεν αφορά το Toyota αλλά τη διαδικασία δημιουργίας του καμουφλάζ. Ο Swearingen αναφέρει ότι μέσα σε περίπου έναν χρόνο πραγματοποίησε περίπου 31 εκατ. δοκιμές, εξελίσσοντας σταδιακά ένα μοντέλο μηχανικής μάθησης που δημιουργεί και βελτιώνει μόνο του τα συγκεκριμένα μοτίβα.

Η λογική θυμίζει μια ατελείωτη παρτίδα μεταξύ δύο αλγορίθμων. Το σύστημα δημιουργεί ένα σχέδιο και το δοκιμάζει απέναντι σε λογισμικό αναγνώρισης. Αν ο δεύτερος αλγόριθμος εξακολουθεί να αναγνωρίζει σωστά τον άνθρωπο ή το αντικείμενο, το σχέδιο αλλάζει και η διαδικασία επαναλαμβάνεται. Ξανά και ξανά. Μέχρι το αποτέλεσμα να γίνει αρκετά «παράξενο» για τη μηχανή.

Πρόκειται για αυτό που στον χώρο της τεχνητής νοημοσύνης ονομάζεται adversarial machine learning. Τεχνικές δηλαδή που εκμεταλλεύονται τον τρόπο με τον οποίο ένα μοντέλο μηχανικής μάθησης αντιλαμβάνεται μια εικόνα, ώστε να το οδηγήσουν σε λανθασμένη ταξινόμηση. Και αυτό εξηγεί γιατί το μοτίβο δεν χρειάζεται να θυμίζει καμουφλάζ με την παραδοσιακή έννοια. Δεν προσπαθεί να κρύψει το Yaris από εμάς. Προσπαθεί να το κρύψει από τη μηχανή.

Από την οθόνη στον πραγματικό δρόμο Σύμφωνα με τον Swearingen, το σύστημα έχει ήδη δημιουργήσει μοτίβα που έχουν καταφέρει να ξεγελάσουν και τους 11 αλγορίθμους αναγνώρισης ανοιχτού κώδικα πάνω στους οποίους έχει πραγματοποιήσει δοκιμές.

Άλλο όμως μια ελεγχόμενη ψηφιακή δοκιμή και άλλο ένα πραγματικό αυτοκίνητο στον δρόμο. Γι' αυτό και η δοκιμή με το Yaris στο Las Vegas είχε ιδιαίτερη σημασία. Ήταν η πρώτη δημόσια δοκιμή του noRecognition σε πραγματικές συνθήκες, με το αυτοκίνητο να περνά μπροστά από κάμερα της Flock.

Ο Swearingen δήλωσε ότι το πείραμα ήταν επιτυχημένο, με το σύστημα να μην ενεργοποιεί την αναμενόμενη αυτόματη αναγνώριση. Χρειάζεται, ωστόσο, μια σημαντική υποσημείωση: μέχρι στιγμής δεν υπάρχουν δημοσιευμένα δεδομένα από επαναλαμβανόμενες ανεξάρτητες δοκιμές σε διαφορετικές κάμερες, ταχύτητες, αποστάσεις, γωνίες και συνθήκες φωτισμού. Επομένως, το Yaris απέδειξε ότι η ιδέα μπορεί να λειτουργήσει σε μια πραγματική επίδειξη. Όχι ότι υπάρχει πλέον ένα μαγικό αυτοκόλλητο που κάνει οποιοδήποτε αυτοκίνητο αόρατο σε οποιαδήποτε κάμερα.

Γιατί ένα Toyota Yaris; Η επιλογή του συγκεκριμένου αυτοκινήτου κάνει την ιστορία ακόμη καλύτερη, αν και δεν υπαγορεύτηκε από κάποια ιδιαίτερη αδυναμία των συστημάτων απέναντι στα ιαπωνικά σουπερμίνι. Πρόκειται απλώς για ένα Toyota Yaris του 2009 που χρησιμοποιήθηκε ως πραγματικό πεδίο δοκιμών, με ολόκληρο σχεδόν το αμάξωμά του να καλύπτεται από το ειδικά παραγόμενο σχέδιο.

Μάλιστα, ακόμη και οι τροχοί αποτέλεσαν πρόβλημα για το πείραμα, καθώς το χαρακτηριστικό κυκλικό σχήμα τους αποτελεί ένα από τα στοιχεία που μπορούν να βοηθήσουν ένα σύστημα computer vision να αντιληφθεί ότι κοιτάζει αυτοκίνητο. Το αποτέλεσμα πάντως είναι σχεδόν κωμικό: ένα από τα πιο συνηθισμένα αυτοκίνητα στον κόσμο μετατράπηκε σε πειραματικό όχημα ενός ιδιότυπου πολέμου μεταξύ ανθρώπου και αλγορίθμου.

Το πραγματικό ζήτημα είναι πολύ μεγαλύτερο από ένα Yaris Πίσω από το εντυπωσιακό πείραμα βρίσκεται μια πολύ μεγαλύτερη συζήτηση για τον τρόπο με τον οποίο χρησιμοποιείται πλέον η αυτοματοποιημένη αναγνώριση εικόνας.

Οι κάμερες που υπάρχουν στους δρόμους δεν γίνονται απλώς περισσότερες. Γίνονται και εξυπνότερες. Από την αυτόματη ανάγνωση πινακίδων μέχρι την αναγνώριση προσώπων και αντικειμένων, η τεχνητή νοημοσύνη επιτρέπει την επεξεργασία τεράστιου όγκου εικόνων χωρίς να χρειάζεται κάποιος άνθρωπος να τις παρακολουθεί μία προς μία. Ακριβώς αυτή η δυνατότητα είναι που έχει προκαλέσει έντονη συζήτηση στις ΗΠΑ γύρω από την ιδιωτικότητα και τη μαζική παρακολούθηση.

Ο ίδιος ο Swearingen παρουσιάζει το noRecognition πρωτίστως ως εργαλείο προστασίας της ιδιωτικότητας και όχι ως τρόπο απόκρυψης παράνομης δραστηριότητας. Η τεχνολογία βρίσκεται ακόμη σε πειραματικό στάδιο, ενώ το επόμενο βήμα είναι η εφαρμογή αντίστοιχων μοτίβων σε ρούχα και άλλα αντικείμενα.

Υπάρχει όμως και μια δεύτερη, εξίσου ενδιαφέρουσα διάσταση για την αυτοκινητοβιομηχανία. Τα συστήματα computer vision δεν χρησιμοποιούνται μόνο από κάμερες επιτήρησης. Αποτελούν βασικό κομμάτι της τεχνολογίας πάνω στην οποία στηρίζονται τα σύγχρονα συστήματα υποβοήθησης του οδηγού και, σε ακόμη μεγαλύτερο βαθμό, η αυτόνομη οδήγηση.

Η ικανότητα ενός ειδικά σχεδιασμένου οπτικού μοτίβου να προκαλεί λάθη σε αλγορίθμους αναγνώρισης αποτελεί επομένως ένα πεδίο έρευνας με πολύ ευρύτερες προεκτάσεις από το αν μια κάμερα στον δρόμο μπορεί να εντοπίσει ένα Yaris. Όσο περισσότερο τα αυτοκίνητα και οι υποδομές γύρω τους βασίζονται στην τεχνητή νοημοσύνη για να καταλάβουν τι βλέπουν, τόσο σημαντικότερο γίνεται να γνωρίζουμε και τι μπορεί να τα κάνει να βλέπουν λάθος.

Και κάπως έτσι, ένα 17χρονο Toyota Yaris με το πιο παράξενο «καμουφλάζ» που έχουμε δει εδώ και καιρό κατάφερε να γίνει κάτι πολύ περισσότερο από ένα περίεργο πείραμα στο Las Vegas. Έγινε μια μικρή υπενθύμιση ότι το να βλέπεις κάτι και το να καταλαβαίνεις τι βλέπεις δεν είναι απαραίτητα το ίδιο πράγμα. Τουλάχιστον αν είσαι μηχανή.