Η Νίκη Κεραμέως προσπαθεί να μας πουλήσει ό,τι και η IBM

*γράφει ο Αντώνης Φάρας (Sociality)

Σε μια διαφήμιση¹ που κυκλοφόρησε το 2012, ο γίγαντας της πληροφορικής IBM μας δείχνει έναν πολίτη, που η δραματουργία της σκηνής τον παρουσιάζει ως εγκληματία, και έναν αστυνομικό που βρίσκεται στο δρόμο πηγαίνοντας στο ίδιο μίνι μάρκετ. Ο αστυνομικός, ωστόσο, πληροφορημένος από τον εξοπλισμό υψηλής τεχνολογίας που είναι εγκατεστημένος στο περιπολικό του, γνωρίζει ήδη τι πρόκειται να κάνει ο εγκληματίας και φροντίζει να φτάσει στη σκηνή του εγκλήματος (που δεν έχει γίνει ακόμη), λίγο πριν από τον δράστη. Περιμένοντας τον, στο χώρο στάθμευσης με ένα φλιτζάνι καφέ, ο αστυνομικός αναγνωρίζει τον εγκληματία και τον χαιρετά υψώνοντας το ποτήρι του – και ο πολίτης, συνειδητοποιώντας ότι τα σχέδιά του έχουν αποκαλυφθεί πριν μπορέσουν να υλοποιηθούν, αποχωρεί με άδεια χέρια.

H διαφήμιση κλείνει προτρέποντας μας να βρούμε έναν «νέο τρόπο» όπου το έγκλημα θα αποτρέπεται πριν καν συντελεστεί. Προφανώς, η τεχνο-ουτοπική (ή καλύτερα τεχνο–δυστοπική) ιστορία της IBM για την πρόληψη της εγκληματικότητας βάσει δεδομένων γίνεται στη λογική της διαφήμισης και της προσέλκυσης του ενδιαφέροντος. Ωστόσο, μας δίνει μια καλή αποτύπωση της γενικής ιδέας που θέλει τη τεχνολογία όχημα για την προγνωστική αστυνόμευση (predictive policing), η οποία ικανοποιεί το φαντασιακό της βέλτιστης αστυνόμευσης:

α) πρόβλεψη του εγκλήματος πριν την τέλεση

β) άμεση δυνατότητα εφαρμογής επιχειρησιακών μέτρων

γ) αποτροπή της παράβασης.

Η τεχνο-ουτοπία της προγνωστικής αστυνόμευσης συσκοτίζει ότι η πραγματικότητά της εφαρμογής θα ήταν ιδιαίτερα διαφορετική και θα απαιτούσε τη συγκέντρωση δεδομένων και λίστες παρακολούθησης για μεγάλα σύνολα του πληθυσμού αλλά και ότι τέτοια μοντέλα αστυνόμευσης οδηγούν σε περιπτώσεις αυτο-εκπληρούμενης προφητείας. Λόγου χάρη, για να υποστηριχθούν αυτά τα σχέδια απαιτούνται τα αντίστοιχα λογισμικά πρόληψης εγκλήματος – ένα από αυτά είναι το PRECOBS (Pre Crime Observation System). Το PRECOBS επιτρέπει σε αστυνομικούς, μέσα από μερικά κλικ του ποντικιού, να δημιουργήσουν γραφικά υποστηριζόμενες πληροφορίες για περιοχές, όπου ο κίνδυνος τέλεσης παράνομων πράξεων εκτιμάται μεγαλύτερος εντός των επόμενων 72 ωρών.

Καθώς τέτοιου είδους λογισμικά θα τεθούν σε χρήση, τα αποτελέσματά ενδέχεται να διαφέρουν από τον χαλαρό αστυνόμο της διαφήμισης, με μερικές πιθανές προεκτάσεις:

• Υπερ-αστυνομεύση ολόκληρων περιοχών, η οποία θα βασίζεται σε ταξικά και κοινωνικά κριτήρια. Η τεχνολογία δεν μπορεί να αντιμετωπίσει τα κοινωνικά προβλήματά που δημιουργούν τις συνθήκες παρανομίας, αλλά μπορεί να συντελέσει στον στιγματισμό κοινοτήτων (όπως έχουμε δει και στο παρελθόν) εφόσον βασίζεται σε αλγόριθμους οι οποίοι επηρεάζονται και σχεδιάζονται με γνώμονα την κυρίαρχη ιδεολογία για το πως/ποιος/γιατί είναι ένας εγκληματίας.
• Επέκταση της μεθοδολογίας πρόληψης σε γεγονότα και δράσεις που σχετίζονται με πολιτικά και κοινωνικά δικαιώματά, εργασιακές διεκδικήσεις, αντιστάσεις σε κυβερνητικές επιλογές.
• Εξουδετέρωση της τεχνολογικής αλλαγής με την κατοχή των λογισμικών από οργανωμένες ομάδες και άντληση/χειραγώγηση των δεδομένων, που πολλές φορές μπορεί να μην είναι απομονωμένα και ως αποτέλεσμα να οδηγούν σε ταυτοποιήσεις πολιτών ή ευαλωτήτων στο σύστημα.
• Έλλειψη προσαρμογής στις νέες παραβατικές μεθόδους/πρακτικές καθώς θα υπάρχει ένας διαρκής νεκρός χρόνος, εώς ότου αυτές να μπορέσουν να προστεθούν στα λογισμικά και τους αντίστοιχους αλγόριθμους.

Ενώ, λοιπόν, από πλευράς χρηστικότητας, η προγνωστική αστυνόμευση φαίνεται ότι δεν είναι αποτελεσματική ούτε βέλτιστη, η χρήση και η ρητορική της επεκτείνεται παγκοσμίως- με την χρήση και του επιθέτου smart (έξυπνη αστυνόμευση).

Μια πρώτη σημαντική διαφορά ανάμεσα στην υπόσχεση της τεχνολογίας και τον αντίκτυπο της εφαρμογής είναι στο να δοθεί η κυρίαρχη εστίαση: στη πρόληψη της συμπεριφοράς μεμονωμένων ατόμων ή στον προσδιορισμό συγκεκριμένων χώρων ως ιδιαίτερα πιθανούς για εγκληματικές δραστηριότητες;

Οι διαφορετικές αυτές προσεγγίσεις συνεπάγονται διαφορετικές θεωρίες, μοντέλα, αλγόριθμους και σύνολα δεδομένων. Συγκεκριμένα, στις ΗΠΑ (και σε άλλα μέρη του κόσμου με χαλαρή νομοθεσία για την προστασία δεδομένων), το ατομικό προφίλ κινδύνου θεωρείται ως μια πολλά υποσχόμενη οδός για την πρόληψη του εγκλήματος και της βίας. Αντίθετα, στην Ευρώπη οι περισσότερες χρησιμοποιούμενες προσεγγίσεις για την προγνωστική αστυνόμευση δεν αφορούν τα άτομα. Αντ’ αυτού, στοχεύουν στην κατανομή της παραβατικής δραστηριότητας σε χρόνο και χώρο και επιδιώκουν να εντοπίσουν περιοχές όπου υπάρχει υποτιθέμενος υψηλότερος κίνδυνος εγκληματικότητας κατά τη διάρκεια ορισμένων περιόδων.

Μια δεύτερη σημαντική διαφορά είναι ο τρόπος με τον οποίο η τεχνολογία υποτίθεται ότι λειτουργεί. Στο πρώτο σενάριο, η προγνωστική αστυνόμευση μας παρουσιάζεται ως κάτι που θαυματουργικά και αόρατα λειτουργεί στο παρασκήνιο, ευδοκιμεί με αυτοματισμό και δεν απαιτεί απαραίτητα ανθρώπινη παρέμβαση. Ο αξιωματικός χρειάζεται μόνο να κοιτάξει την οθόνη στο περιπολικό του αυτοκίνητο για να λάβει ακριβείς πληροφορίες σχετικά με μια πρόβλεψη εγκλήματος η οποία θα τον οδηγήσει στην προβλεπόμενη σκηνή του εγκλήματος. Έτσι, στη συνέχεια μπορεί να αποφευχθεί αβίαστα η παράνομη ενέργεια.

Σε αντίθεση, λοιπόν, με τις τεχνο-ουτοπικές αφηγήσεις που συναντάμε συχνά στις δηλώσεις αστυνομικών διευθυντών, πολιτικών, ιδιωτικών εταιρειών και – κυρίως – των μέσων ενημέρωσης, στην πραγματικότητα υπάρχουν λίγα «Big Data», «τεχνητή νοημοσύνη» ή «ενημέρωση σε πραγματικό χρόνο» που μπορεί να διατεθεί στην καθημερινή πρόληψη του εγκλήματος. Αξίζει επίσης να σημειώσουμε ότι η προληπτική αστυνόμευση δεν είναι μία αμιγώς «νέα» έννοια καθώς οι περισσότερες προσεγγίσεις για την προγνωστική αστυνόμευση κινητοποιούν καθιερωμένες εγκληματολογικές θεωρίες, βασίζονται σε μάλλον απλά μοντέλα και περιορισμένο αριθμό σημείων και δεδομένων και ενδιαφέρονται για σαφείς και εύκολα εφαρμόσιμες προβλέψεις. Οι προβλέψεις αυτές δεν χρειάζεται απαραίτητα να είναι «αληθινές» αλλά αρκετά συνεκτικές ώστε να ενημερώνουν (ή να επιβεβαιώνουν) ήδη αποφασισμένα επιχειρησιακά μέτρα.

Τα αλγοριθμικά εργαλεία ανάλυσης εγκληματικότητας αντιπροσωπεύουν ένα ποιοτικό άλμα για την αστυνομία, καθώς καθιστούν δυνατή την εμβάθυνση στα δεδομένα, την εξερεύνησή τους με πιο συστηματικούς τρόπους, την παραγωγή καταστάσεων απαγορεύσεων πολύ πιο γρήγορα και – τουλάχιστον θεωρητικά – πυροδοτούν πιο δυναμικά και ευέλικτα επιχειρησιακά μέτρα- με την αναγκαία σημείωση όμως ότι όπως κάθε εργαλείο δεν είναι ανεξάρτητα από την ιδεολογία και τις επιδιώξεις όσων τα σχεδιάζουν:

Για να δώσουμε ένα παράδειγμα:

Η εγκληματικότητα στα ελληνικά πανεπιστήμια είναι σε πολύ χαμηλά επίπεδα. Ωστόσο, αν ο αλγόριθμος πρέπει να περάσει για έγκριση από το γραφείο της υπουργού Παιδείας Ν.Κεραμέως ή αν φτιαχτεί από ανθρώπους που συμμερίζονται τις ιδέες της, η Νομική θα χτυπήσει κόκκινο, το Πολυτεχνείο θα μπει με τιμές Mad Max και η ΑΣΟΕΕ ως τοπίο zombie apocalypse.

Υπάρχει μία συγκεκριμένη ιδεολογική πτυχή που αναφέρεται στην προγνωστική αστυνόμευση και χρησιμοποιεί θετικούς όρους όπως «μέλλον», «ελευθερία», «ασφάλεια», «δικαιοσύνη», για να την εγκιβωτίσει δημιουργώντας ένα «μαύρο κουτί».

Μια ενδελεχής ανάλυση της προγνωστικής αστυνόμευσης μας επιτρέπει να αποκτήσουμε γνώσεις για μεγαλύτερα πρότυπα αναδιάρθρωσης που αφορούν τις σχέσεις μεταξύ της κοινωνίας, του ρόλου της αστυνομίας και της καταστολής. Συχνά η ριζοσπαστική κριτική στο ζήτημα, επικεντρώνεται στα σημαντικά ζητήματα των πολιτικών ελευθεριών καθώς και στις στερεοτυπικές κοινωνικές επιπτώσεις που μπορεί να προκαλέσει η αλγοριθμική ανάλυση στην αστυνομική εργασία – τα οποία αναφέραμε και παραπάνω.

Το βασικό σημείο που χρειάζεται να ξεδιπλώσουμε είναι ότι η προγνωστική αστυνόμευση λειτουργεί ως κοινωνικοτεχνικό σύστημα, που σημαίνει ότι περιλαμβάνει σχέσεις και αλληλεπιδράσεις μιας πληθώρας τεχνικών, ανθρώπινων, οργανωτικών, πολιτισμικών, πολιτικών, ηθικών, νομικών και οικονομικών συμφερόντων που συμμετέχουν σε μία κυκλική διαδικασία από τον σχεδιασμό λογισμικού μέχρι στις υποθέσεις και τις δυναμικές πάνω στις οποίες αυτό θα βασίζεται. Αφορά: αστυνομικούς, οχήματα, κοινωνικές λειτουργίες, δημόσιες εκδηλώσεις, εκλογικές εκστρατείες, προστασία δεδομένων κ.ο.κ. Αλλάζει τον τρόπο της αστυνόμευσης στις πόλεις, αναδεικνύοντας τα δεδομένα ως μέτρο ενοχής – δημιουργεί τις βάσεις για το αλγοριθμικό έγκλημα, το οποίο (αν όλα πάνε δυστοπικά) θα οδηγήσει σε καταδίκες στη βάση των πιθανοτήτων.

Ας δώσουμε και εδώ ένα παράδειγμα:

Έστω ότι υπάρχει ένα έγκλημα που αποδίδεται σε προφίλ που ταιριάζουν δύο πρόσωπα:

Ο Α είναι αναρχικός/αριστερός ενώ ο Β όχι.

Πόσο πιθανό είναι η βάση των δεδομένων να συνδέει την εγκληματικότητα με τις πολιτικές πεποιθήσεις; Το κράτος, πάντως, είναι σίγουρο ότι επιδιώκει τέτοιες συσχετίσεις (περιπτώσεις Θεοφίλου, Ηριάννας & Περικλή).

Με βάση αυτό, εκτιμούμε ότι μπορούμε να βγάλουμε τρία κομβικά συμπεράσματα:

Ο τρόπος να αποκαλυφθεί σημαντική γνώση σχετικά με το ζήτημα είναι να βλέπουμε τις αλλαγές πολιτικής και νομοθεσίας σε εγχώριο και διεθνές επίπεδο αλλά και τα τεχνικά μέσα, τους αλγορίθμους και τις διεπαφές λογισμικού καθώς μπορούν να αποκαλύψουν σημαντικές πληροφορίες για τις υποθέσεις πάνω στις οποίες βασίστηκε ο σχεδιασμός και κατά συνέπεια και για την στόχευση των συστημάτων. Τα κοινωνικοτεχνικά συστήματα, με άλλα λόγια, πρέπει να μελετηθούν (και να ανατραπούν) «σε φάση λειτουργίας» προκειμένου να ληφθούν υπόψη οι τριβές, οι αντιφάσεις, και η γενική αλλαγή που συμβαίνει με και μέσω αυτών.

Ο ρόλος των whistleblowers, των ανεξαρτήτων δημοσιογραφικών εγχειρημάτων και του κινήματος ώστε να μειώσει το τεχνολογικό διαχωρισμό (technological divide) είναι κομβικά. Μπορούμε και πρέπει να αναλύσουμε τις τεχνικές συνθέσεις της καταστολής αλλά και να συνθέσουμε τα δικά μας εργαλεία αντιμετώπισης της.

Η προγνωστική αστυνόμευση είναι η άλλη όψη του νομίσματος της προληπτικής καταστολής²– ένα δόγμα που οικοδομείται στην Ελλάδα του μετα-μνημονίου ως μία λογική αντιμετώπιση του κράτους απέναντι σε δαιμονοποιημένες αγωνιζόμενες μειοψηφίες που με μυστικιστικό (μερικές φορές παράφορα ηλίθιο³) τρόπο έχουν αρχίσει να «φταίνε εκ νέου για τα δεινά του τόπου». Το κατεξοχήν παράδειγμα προληπτικής καταστολής είναι το Ν/Σ για την Πανεπιστημιακή Αστυνομία, η οποία παρουσιάζεται ως η λύση σε υπάρχοντα και μελλοντικά προβλήματα⁴ – υπαρκτά ή μη.

Η Νίκη Κεραμέως προσπαθεί να μας πουλήσει ότι και η IBM. Ανασφάλεια⁵.

ΥΓ. Αρκετά – Από εδώ και πάνω, δεν είμαστε φτιαγμένοι για να μας παγώνει ο φόβος το αίμα⁶.