

Όταν σκεφτόμαστε τον πόλεμο του μέλλοντος, το μυαλό μας πάει στον Εξολοθρευτή (Terminator) ή σε ανθρωπόμορφα ρομπότ. Όμως η πραγματικότητα είναι πολύ πιο πεζή, αόρατη και τρομακτική. Ο αληθινός "Εξολοθρευτής" δεν έχει μέταλλο. **Είναι ένας αλγόριθμος που τρέχει σε έναν κρύο server, σκανάρει τα δεδομένα σου και αποφασίζει αν πρέπει να ζήσεις ή να πεθάνεις.**
Η αποκάλυψη για το σύστημα τεχνητής νοημοσύνης "Lavender" (Λεβάντα) σοκάρει την παγκόσμια κοινότητα cybersecurity. Για πρώτη φορά στην ιστορία της ανθρωπότητας, ο άνθρωπος έδωσε το δικαίωμα της τελικής απόφασης ενός χτυπήματος σε ένα software. Και το πιο ανατριχιαστικό; Το software αυτό τρέφεται από τα καθημερινά σου metadata.
Στις σύγχρονες πολεμικές συρράξεις, οι στρατοί χρησιμοποιούν δύο κύρια συστήματα AI που λειτουργούν σαν μια βιομηχανική γραμμή παραγωγής στόχων:
Εδώ είναι το σημείο που αρχίζουν να τρέμουν τα χέρια σου. Πού βρίσκει το AI τα δεδομένα για να σε κρίνει; **Από τις Big Tech εταιρείες που χρησιμοποιείς κάθε δευτερόλεπτο.**
Το Lavender δεν διαβάζει απαραίτητα το περιεχόμενο των μηνυμάτων σου (το text). Αναλύει τα Metadata, δηλαδή τη συμπεριφορά σου:
Σύμφωνα με μαρτυρίες αξιωματικών που διαρρεύσαν, το σύστημα Lavender είχε ελευθερία δράσης με ελάχιστο ανθρώπινο έλεγχο. Οι στρατιώτες λειτουργούσαν απλώς σαν μια «σφραγίδα» έγκρισης.
Ο μέσος χρόνος που αφιέρωνε ένας άνθρωπος-αξιωματικός για να εγκρίνει τη δολοφονία ενός στόχου που επέλεξε το AI ήταν μόλις 20 δευτερόλεπτα. Ουσιαστικά, ο άνθρωπος απλά επιβεβαίωνε ότι ο στόχος είναι άνδρας και όχι παιδί, και μετά έδινε την εντολή για το drone. Το AI είχε ποσοστό «ευστοχίας» 90%, πράγμα που σήμαινε ότι στο 10% των περιπτώσεων, το σύστημα έκανε λάθος και σκότωνε αθώους λόγω... κακού αλγόριθμου.
| Όνομα Συστήματος | Τύπος AI | Λειτουργία / Στόχος | Ανθρώπινος Έλεγχος |
|---|---|---|---|
| Lavender | Deep Learning Behavior Analysis | Στοχοποίηση προσώπων μέσω Metadata συσκευών | ΜΟΝΟ 20 ΔΕΥΤΕΡΟΛΕΠΤΑ |
| The Gospel | Predictive Analytics | Αυτόματη επιλογή κτιρίων και υποδομών | Τυπική έγκριση |
| Where's Daddy? | Geofencing Tracking | Ειδοποιεί όταν ο στόχος μπαίνει στο σπίτι του | ΑΥΤΟΜΑΤΟ ALERT |
Αν νομίζεις ότι η στοχοποίηση είναι το χειρότερο, κάνεις λάθος. Οι στρατοί συνδέουν το Lavender με ένα άλλο σύστημα που ονομάζεται "Where's Daddy?" (Πού είναι ο μπαμπάς;).
Το σύστημα αυτό δεν χτυπάει τον στόχο όταν βρίσκεται σε απομονωμένα κτίρια ή στρατιωτικά καταφύγια. Περιμένει πότε το κινητό του θα δείξει ότι επέστρεψε στο σπίτι του, στην οικογένειά του. Οι πύραυλοι εκτοξεύονται τότε, οδηγώντας στον θάνατο ολόκληρες οικογένειες, γυναίκες και παιδιά, απλά επειδή ήταν πιο «εύκολο» για το tracking του drone να τον πετύχει στο σπίτι του.
Η απάντηση είναι σχεδόν αρνητική. Στον σύγχρονο κόσμο, η αποποίηση των data είναι αδύνατη. Ακόμα κι αν εσύ κλείσεις το κινητό σου, το AI σε εντοπίζει από τα κινητά των φίλων σου, τις κάμερες ασφαλείας με Face Recognition στους δρόμους και τα logs των παρόχων ίντερνετ.
Παραδώσαμε την ανθρώπινη ηθική στους αλγόριθμους. Πιστεύεις ότι υπάρχει επιστροφή ή έχουμε ήδη μπει στην εποχή του απόλυτου ψηφιακού φασισμού; Γράψε το σχόλιό σου παρακάτω – όσο ακόμα τα σχόλια γράφονται από ανθρώπους.