Renè Magritte -Το διπλό μυστικό

Μτφρ: Γιώργος Κουτσαντώνης

Στις 21 Απριλίου 2021, η Ευρωπαϊκή Επιτροπή παρουσίασε πρόταση Κανονισμού για την Τεχνητή Νοημοσύνη (ΤΝ) και το αντίστοιχο σχέδιο συντονισμού μεταξύ των κρατών μελών. Αυτή είναι η πρώτη πρόταση δημιουργίας εξειδικευμένου Κανονισμού που υποβάλλεται σε ευρωπαϊκό επίπεδο για την Τεχνητή Νοημοσύνη και που αποκτά μία συνολική μορφή. Η αρμόδια Επίτροπος, Margrethe Vestager, ατύπως, τόνισε ότι η «εμπιστοσύνη» είναι το κεντρικό θέμα της πρότασης και του νέου ρυθμιστικού σχεδίου.

Τεχνητή νοημοσύνη: Για ποιο πράγμα μιλάμε;

Το Ευρωπαϊκό Κοινοβούλιο, στον ισότοπό του, ορίζει την Τεχνητή Νοημοσύνη ως εξής: «Η Τεχνητή Νοημοσύνη αναφέρεται στην ικανότητα μιας μηχανής να αναπαράγει τις γνωστικές λειτουργίες ενός ανθρώπου, όπως είναι η μάθηση, ο σχεδιασμός και η δημιουργικότητα. Η ΤΝ καθιστά τις μηχανές ικανές να ‘κατανοούν’ το περιβάλλον τους, να επιλύουν προβλήματα και να δρουν προς την επίτευξη ενός συγκεκριμένου στόχου. Ο υπολογιστής λαμβάνει δεδομένα (ήδη έτοιμα ή μέσω αισθητήρων, π.χ. βιντεοκάμερας), τα επεξεργάζεται και ανταποκρίνεται βάσει αυτών. Τα συστήματα ΤΝ είναι ικανά να προσαρμόζουν τη συμπεριφορά τους, σε ένα ορισμένο βαθμό, αναλύοντας τις συνέπειες προηγούμενων δράσεων και επιλύοντας προβλήματα με αυτονομία»

Μέχρι σήμερα, η συντριπτική πλειονότητα των τεχνολογιών ΤΝ που χρησιμοποιούνται χρειάζονται ανθρώπινη παρέμβαση σε κάποιο στάδιο της διαδικασίας λήψης αποφάσεων. Όπως αναφέρει ο ορισμός του Ευρωπαϊκού Κοινοβουλίου, ο υπολογιστής «λαμβάνει δεδομένα» και το σύστημα λήψης δεδομένων (συμπεριλαμβανομένων των αισθητήρων ή μιας βιντεοκάμερας) πρέπει να «εκπαιδευτεί» από τον άνθρωπο προκειμένου να είναι σε θέση να αναγνωρίζει επαρκώς το αντικείμενο και την κατάσταση την οποία αντιμετωπίζει.

Στην ποπ λογοτεχνία, η συλλογή διηγημάτων του Ισαάκ Ασίμωφ «Εγώ, Το Ρομπότ» προσέφερε κάποια αρχικά φιλοσοφικά θεμέλια στην ΤΝ και προέβλεψε ορισμένα από τα πλεονεκτήματα και τους περιορισμούς της, ήδη από τη δεκαετία του 1940. Το «χαμένο μικρό ρομπότ» που εξαφανίζεται αφού παίρνει στην κυριολεξία την εντολή (get lost!/άντε χάσου!) που του δόθηκε ακούσια από έναν άνθρωπο που είχε χάσει την ψυχραιμία του, είναι ένα μάλλον αληθινό παράδειγμα των δυσκολιών που μπορεί να αντιμετωπίσει η ΤΝ σήμερα. Ωστόσο, το ρομπότ που είναι ικανό να «διαβάσει το μυαλό», και εμφανίζεται σε μία μεταγενέστερη ιστορία, παραμένει στη σφαίρα της επιστημονικής φαντασίας.

Έχοντας κάνει αυτή τη διάκριση, η ΤΝ είναι υψηλής στρατηγικής σημασίας επειδή χρησιμοποιείται όλο και περισσότερο στη διαχείριση κρίσιμων υποδομών (από τις μεταφορές ως το Διαδίκτυο), στον ιατρικό τομέα (χειρουργικές επεμβάσεις με ρομπότ), σε ποινικές διαδικασίες (π.χ. τεχνολογίες αναγνώρισης προσώπου) και στις διαδικασίες πρόσληψης (με αυτόματη ανάλυση βιογραφικών σημειωμάτων).

Για να λειτουργήσει σωστά, η ΤΝ χρειάζεται τεράστιο όγκο δεδομένων (big data). Για παράδειγμα, στην αναγνώριση προσώπου, το αλγοριθμικό σύστημα πρέπει να είναι σε θέση να «συγκεντρώσει» έναν τεράστιο αριθμό συγκεκριμένων χαρακτηριστικών του ανθρώπινου προσώπου για να μπορεί να επιβεβαιώσει – με σχετική βεβαιότητα – ότι το παρατηρούμενο πρόσωπο είναι ενός συγκεκριμένου ανθρώπου. Αυτό έχει σημαντικές επιπτώσεις και στο επίπεδο της ηθικής: εξαιτίας της χρήσης ευαίσθητων βιομετρικών δεδομένων, αλλά και της ορθής λειτουργίας και χειρισμού αυτών των τεχνολογιών. Σε έναν κόσμο όπου το λευκό αρσενικό, στο σύμπαν της υψηλής τεχνολογίας, εξακολουθεί να είναι μια εξαιρετικά προνομιακή και αριθμητικά (αλλά όχι μόνο) κυρίαρχη κατηγορία, μελέτες δείχνουν ότι υπάρχει έλλειψη δεδομένων σχετικών με τα χαρακτηριστικά του προσώπου ατόμων (ειδικά γυναικών) με άλλες εθνοτικές ρίζες. Τα σφάλματα στην απόδοση των χαρακτηριστικών του προσώπου έχουν και επικίνδυνες συνέπειες. Για παράδειγμα, σε πολλές περιπτώσεις αυτές οι δυσλειτουργίες στον αλγόριθμο ΤΝ οδήγησαν στη σύλληψη αθώων μαύρων ανθρώπων, ένας κίνδυνος που είναι μικρότερος ανάμεσα στους πληθυσμούς των λευκών. Έτσι, τα δεδομένα γίνονται η πρώτη ύλη («το καύσιμο») της ΤΝ και ένας πόρος του οποίου ο έλεγχος είναι στρατηγικής σημασίας.

Τι προβλέπει ο προτεινόμενος Ευρωπαϊκός Κανονισμός;

Σύμφωνα με επίσημες δηλώσεις της Ευρωπαϊκής Επιτροπής, ο νέος Κανονισμός αποσκοπεί στην απαγόρευση της απομακρυσμένης συλλογής βιομετρικών δεδομένων (για παράδειγμα, μέσω κάμερας παρακολούθησης βίντεο αναγνώρισης προσώπου), επιτρέποντας μόνο καλά τεκμηριωμένες εξαιρέσεις και για λόγους δημόσιας ασφάλειας. Επιπλέον, στοχεύει στην ενίσχυση της υποχρέωσης παροχής πληροφοριών σχετικά με τη σωστή χρήση (και τους πιθανούς κινδύνους) προϊόντων και υπηρεσιών ΤΝ. Μια ιδιαίτερα σημαντική πτυχή, υπό το φως των προηγούμενων παραγράφων, είναι η συμπερίληψη της ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου. Όλες αυτές οι πλευρές του ζητήματος ενδέχεται να υπόκεινται σε αλλαγές κατά τη νομοθετική διαδικασία, στις οποίες θα συμμετέχουν το Συμβούλιο των Υπουργών της ΕΕ και το Ευρωπαϊκό Κοινοβούλιο.

Πολιτικές επιπτώσεις

Από την ΕΕ, υπάρχει μια γενική αναγνώριση της ανάγκης, στρατηγικής και ηθικής σημασίας, για ρύθμιση της συλλογής και της μετάδοσης δεδομένων (βιομετρικών ή μη). Αφενός τα big data αντιπροσωπεύουν τη θεμελιώδη πτυχή για την ανάπτυξη της ΤΝ, αφετέρου αντιπροσωπεύουν ένα συγκεκριμένο κίνδυνο όσον αφορά την προστασία των ανθρωπίνων δικαιωμάτων σε μια εποχή όπου τα άτομα μοιράζονται δεδομένα συνεχώς, συχνά χωρίς να το γνωρίζουν.

Γενικότερα, αυτό το ζήτημα μπαίνει στην ευρύτερη συζήτηση σχετικά με την ψηφιακή κυριαρχία και τη ρυθμιστική ισχύ της ΕΕ. Σε μια εποχή όπου όλο και περισσότερες δημόσιες αρχές προσπαθούν να διατηρήσουν μια μορφή ελέγχου επί της ψηφιακής σφαίρας (ανεξάρτητα από τους ορισμούς της), με την ευρύτερη ερμηνεία του, ο ευρωπαϊκός ρόλος της ΕΕ είναι αυτό του ρυθμιστή «regulatory power». Σύμφωνα με αυτήν την προσέγγιση, ελλείψει «εγχώριων» τεχνολογικών γιγάντων, η ΕΕ επιδιώκει να επηρεάσει την παγκόσμια ψηφιακή αγορά μέσω κανονισμών, συχνά με εξωεδαφικό χαρακτήρα. Ο λεγόμενος Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR) είναι ένα παράδειγμα: εφαρμοζόμενος σε καθετί που συλλέγει ή διαχειρίζεται δεδομένα πολιτών της ΕΕ, ο GDPR παράγει και ένα εξωεδαφικό αποτέλεσμα. Δεδομένης της σημασίας της ευρωπαϊκής αγοράς για πολλές εταιρείες, αυτές είναι πρόθυμες να προσαρμόσουν τις πρακτικές τους στους κανόνες που επιβάλλει η ΕΕ. Ανεξάρτητα από τα πιθανά όρια αυτής της προσέγγισης, η αλήθεια παραμένει: η συζήτηση για την ψηφιακή κυριαρχία αναπτύσσεται και στην ΕΕ, από τον Κανονισμό GDPR και έπειτα, έχουν γίνει προσπάθειες για την περαιτέρω ρύθμιση αυτών των νέων τεχνολογιών.

(Άρθρο του Riccardo Nanni, Geopolitica.info – Università di Bologna)