Η τεχνητή νοημοσύνη υπόσχεται ασφαλέστερες πόλεις μέσω αλγορίθμων πρόβλεψης εγκλήματος. Στην πραγματικότητα όμως, τα predictive policing συστήματα συχνά ανακυκλώνουν παρωχημένες προκαταλήψεις. Όταν τροφοδοτείς ένα μοντέλο με στρεβλά δεδομένα, παράγεις αυτοεκπληρούμενες προφητείες επιτήρησης. Δες πώς η τεχνολογία επηρεάζει την καθημερινή ασφάλεια χωρίς διαφάνεια.
- Ο φαύλος κύκλος του “feedback loop” κάνει τους αλγορίθμους να στέλνουν περιπολίες εκεί όπου ήδη έψαχναν ιστορικά οι αρχές.
- Τα “βρώμικα δεδομένα” (dirty data) από παλιές καταγραφές μολύνουν την εκπαίδευση των νευρωνικών δικτύων.
- Η ευρωπαϊκή νομοθεσία θέτει πλέον φραγμούς, καθιστώντας υποχρεωτικό τον ανθρώπινο έλεγχο και τις τεχνικές εξηγήσιμης τεχνητής νοημοσύνης (Explainable AI).
Πώς λειτουργεί ο βρόχος ανατροφοδότησης
Η βράβευση του Adrian Dredge με το Young Science Writer Award 2026 της ABSW έφερε ξανά στην επιφάνεια ένα δομικό πρόβλημα. Όπως δημοσιεύθηκε και στο BBC, η χρήση προγνωστικών μοντέλων στην αστυνόμευση δεν δημιουργεί νέα γνώση. Αντίθετα, λειτουργεί σαν ένας χαρτογράφος κλεισμένος σε δωμάτιο που σχεδιάζει το παρόν κοιτάζοντας αποκλειστικά χάρτες 50 ετών.
Στην πράξη, αν ένα σύστημα στείλει περιπολικά σε μια συγκεκριμένη γειτονιά βάσει παλιών αναφορών, οι αστυνομικοί θα καταγράψουν περισσότερα περιστατικά εκεί. Αυτό συμβαίνει απλά επειδή υπάρχουν περισσότερα μάτια στο σημείο και όχι επειδή αυξήθηκε αναλογικά η εγκληματικότητα. Ο αλγόριθμος εκλαμβάνει αυτές τις νέες συλλήψεις ως “επιβεβαίωση” της πρόβλεψής του και στέλνει ακόμα περισσότερες δυνάμεις την επόμενη ημέρα.
Η κοινωνιολόγος Sarah Brayne από το Πανεπιστήμιο του Τέξας απέδειξε μελετώντας το LAPD ότι αυτός ο μηχανισμός μετατρέπει τις στατιστικές πιθανότητες σε προκαθορισμένα αποτελέσματα. Το λογισμικό δεν εντοπίζει το έγκλημα στον πραγματικό κόσμο, αλλά καταγράφει τις συνήθειες καταστολής του παρελθόντος. Όταν εξετάζουμε ζητήματα όπως η προστασία προσωπικών δεδομένων, τέτοιου είδους πρακτικές δημιουργούν σοβαρούς κινδύνους μαζικού φακελώματος.
Τα βρώμικα δεδομένα στα αρχεία
Τα νευρωνικά δίκτυα είναι τόσο αξιόπιστα όσο τα δεδομένα με τα οποία τροφοδοτούνται. Ερευνητές από το Πανεπιστήμιο της Νέας Υόρκης (NYU) ανέδειξαν τον όρο “dirty data” (βρώμικα δεδομένα). Πρόκειται για καταχωρήσεις που προέκυψαν από παράνομες πρακτικές, στημένα στοιχεία ή αυθαίρετες προσαγωγές προηγούμενων δεκαετιών, τα οποία παραμένουν αποθηκευμένα στα κρατικά αρχεία.
Σε εννέα από τις δεκατρείς αστυνομικές διευθύνσεις των ΗΠΑ που αναλύθηκαν, τα συστήματα εκπαιδεύτηκαν ακριβώς πάνω σε τέτοια αλλοιωμένα αρχεία. Ένα μοντέλο μηχανικής μάθησης δεν διαθέτει ηθική κρίση ώστε να απορρίψει μια άδικη σύλληψη του 1995. Αντιθέτως, τη θεωρεί έγκυρο μοτίβο προς αναπαραγωγή.
Το πρόβλημα ξεπερνά τα όρια των δρόμων και αγγίζει κάθε κρίσιμο τομέα. Χαρακτηριστική παραμένει η έρευνα στο περιοδικό Science για αλγόριθμο δημόσιας υγείας στις ΗΠΑ. Το σύστημα καθόριζε ποιοι ασθενείς χρειάζονταν επιπλέον βοήθεια εξετάζοντας το ιστορικό ιατρικών δαπανών, αγνοώντας ότι οι μειονότητες είχαν ιστορικά μικρότερη πρόσβαση σε ασφαλιστική κάλυψη. Μόλις το κριτήριο άλλαξε από το “κόστος” στη “σοβαρότητα της νόσου”, η αναλογία επιλογής ασθενών διορθώθηκε άμεσα από το 18% στο 47%.
Η ευρωπαϊκή νομοθεσία και AI Act
Στην Ευρωπαϊκή Ένωση, η απάντηση σε αυτούς τους κινδύνους διαμορφώνεται θεσμικά μέσα από τις ρυθμίσεις που επιβάλλει το νέο πλαίσιο για την νομοθεσία τεχνητής νοημοσύνης (AI Act). Σε αντίθεση με τις ΗΠΑ, όπου ιδιωτικές εταιρείες πουλούν κλειστούς αλγορίθμους πρόβλεψης σε δήμους χωρίς διαφάνεια, η Ευρώπη κατηγοριοποιεί τη βιομετρική ταυτοποίηση και το predictive policing στην κατηγορία υψηλού ρίσκου (High Risk) ή ακόμα και στις απαγορευμένες πρακτικές.
Η Δρ Carolyn McKay από τη Νομική Σχολή του Πανεπιστημίου του Σίδνεϊ υπογραμμίζει ότι ακόμη και τα συστήματα γεωγραφικού εντοπισμού (place-based) συνδέονται αναπόφευκτα με τους κατοίκους συγκεκριμένων περιοχών. Αν ένα λογισμικό στοχεύει αποκλειστικά ταχυδρομικούς κώδικες χαμηλού εισοδήματος, οι πολίτες αυτών των περιοχών υφίστανται διαρκείς ελέγχους, ανεξάρτητα από την ατομική τους συμπεριφορά.
Για τις ευρωπαϊκές αρχές επιβολής του νόμου, η χρήση τέτοιων εργαλείων απαιτεί πλέον εξαντλητικά stress tests. Οποιοσδήποτε αλγόριθμος χρησιμοποιηθεί σε δημόσιο χώρο πρέπει να αποδεικνύει ότι δεν εισάγει συστημικές στρεβλώσεις εις βάρος ευάλωτων κοινωνικών ομάδων.
| Μέθοδος Επιτήρησης | Πηγή Δεδομένων | Κίνδυνος Μεροληψίας | Συμβατότητα AI Act |
|---|---|---|---|
| Παραδοσιακή Αστυνόμευση | Αναφορές πολιτών & περιπολίες | Υψηλός (ανθρώπινος παράγοντας) | Πλήρης (εκτός πεδίου AI) |
| Μη ελεγχόμενη AI (Black Box) | Ιστορικά αστυνομικά αρχεία (Dirty Data) | Κρίσιμος (Αυτοεκπληρούμενος βρόχος) | Απαγορευμένη / Υψηλού Ρίσκου |
| Audited AI (Explainable) | Φιλτραρισμένα, ανωνυμοποιημένα metrics | Ελεγχόμενος (με ανθρώπινο veto) | Συμβατή υπό αυστηρούς όρους |
Τεχνικός έλεγχος και Explainable AI
Ο Δρ Δημήτριος Κόλλιας, αναπληρωτής καθηγητής στο Queen Mary University of London, θέτει μια τεχνική διάσταση που συχνά παραβλέπεται. Τα σύγχρονα πολυτροπικά μοντέλα δεν αναπαράγουν απλώς στατικά δεδομένα, αλλά μπορούν να συνδυάζουν ετερογενείς πηγές πληροφοριών. Αυτή η αυξημένη αυτονομία απαιτεί νέα εργαλεία ελέγχου, γνωστά ως Explainable AI (XAI).
Όταν ένα νευρωνικό δίκτυο βγάζει ένα αποτέλεσμα επικινδυνότητας, οι τεχνικοί πρέπει να γνωρίζουν ποια βάρη (weights) οδήγησαν σε αυτή την απόφαση. Αν το σύστημα βασίζεται σε “μαύρα κουτιά” (black-box architectures), όπου ούτε οι ίδιοι οι προγραμματιστές μπορούν να εξηγήσουν την έξοδο, η τεχνολογία δεν μπορεί να θεωρηθεί ασφαλής για κρίσιμες υποδομές.
Η λύση απαιτεί ανεξάρτητους τεχνικούς ελέγχους (algorithmic audits) από τρίτους φορείς πριν από κάθε deployment. Οι εταιρείες λογισμικού δεν μπορούν να ελέγχουν μόνες τους τα προϊόντα που πωλούν σε κρατικές υπηρεσίες, καθώς υπάρχει προφανής σύγκρουση συμφερόντων.
Η άποψή μας στο Psifiaka.gr
Η τεχνητή νοημοσύνη είναι ένα εξαιρετικό εργαλείο βελτιστοποίησης, αλλά αποδεικνύεται καταστροφικός κριτής κοινωνικών συμπεριφορών. Στην πράξη, κάθε προσπάθεια πρόβλεψης ανθρώπινης παραβατικότητας μέσω αλγορίθμων καταλήγει να τιμωρεί τη φτώχεια και να αυτοματοποιεί τις ιστορικές αδικίες των αστυνομικών αρχείων.
Δεν χρειαζόμαστε ψηφιακά “μαντεία” που καθοδηγούν περιπολικά βάσει στατιστικών λαθών του παρελθόντος. Χρειαζόμαστε διαφανή συστήματα, αυστηρό έλεγχο στα dataset εκπαίδευσης και απόλυτη ανθρώπινη ευθύνη για κάθε επιχειρησιακή απόφαση. Οποιοδήποτε σύστημα αρνείται να ανοίξει τον κώδικά του σε ανεξάρτητο δημόσιο έλεγχο πρέπει απλά να μένει εκτός των ευρωπαϊκών πόλεων.
Συχνές Ερωτήσεις για την AI στην Αστυνόμευση
Τι είναι το predictive policing;
Είναι η χρήση αλγορίθμων και στατιστικών μοντέλων μηχανικής μάθησης για την πρόβλεψη περιοχών ή χρονικών στιγμών όπου υπάρχει αυξημένη πιθανότητα τέλεσης εγκλημάτων.
Πώς δημιουργείται η προκατάληψη στα αλγοριθμικά μοντέλα;
Προκύπτει όταν τα δεδομένα εκπαίδευσης περιέχουν ιστορικές ανισότητες ή στοχευμένες καταγραφές, κάνοντας το σύστημα να θεωρεί τις προηγούμενες πρακτικές ως αντικειμενική πραγματικότητα.
Τι ορίζεται ως “dirty data” στην επιστήμη δεδομένων;
Είναι δεδομένα που περιλαμβάνουν πλαστά στοιχεία, παράνομες συλλήψεις ή μεροληπτικές αναφορές από το παρελθόν, τα οποία μολύνουν την εκπαίδευση των αλγορίθμων.
Επιτρέπει το ευρωπαϊκό AI Act την προληπτική αστυνόμευση;
Το ευρωπαϊκό πλαίσιο απαγορεύει συστήματα που αξιολογούν τον κίνδυνο διάπραξης εγκλήματος αποκλειστικά βάσει προφίλ ή προσωπικών χαρακτηριστικών, θέτοντας πολύ αυστηρούς περιορισμούς.
Μπορεί η τεχνητή νοημοσύνη να απαλλαγεί πλήρως από τη μεροληψία;
Όχι πλήρως, αλλά με ανεξάρτητους τεχνικούς ελέγχους, καθαρισμό των dataset και χρήση εξηγήσιμων μοντέλων (Explainable AI), τα σφάλματα μπορούν να περιοριστούν σημαντικά.
Ποιος φέρει την τελική ευθύνη για ένα αλγοριθμικό σφάλμα;
Σύμφωνα με τα σύγχρονα νομικά πρότυπα, η ευθύνη βαραίνει πάντα τον ανθρώπινο χειριστή και τον φορέα υλοποίησης, καθώς απαγορεύεται η πλήρως αυτοματοποιημένη λήψη αποφάσεων.
