Έχει νομικές ευθύνες ένα ρομπότ που σκοτώνει;

02.04.2014
  • Γραμματοσειρά
    - +
    K2_DOUBLE_INCREASE_FONT_SIZE
Έχει νομικές ευθύνες ένα ρομπότ που σκοτώνει;
Jake Parker
Στα δύο προηγούμενα μέρη ο καλύψαμε και τις τρεις πτυχές της πρώτης προϋπόθεσης ως προς την απονομή «άδειας φόνου» σε έναν άνθρωπο ή μια μηχανή ή ακόμα και ένα υβρίδιο ανθρώπου-μηχανής, που θα δράσει π.χ. ως αυτόνομος αστυνομικός φύλακας. Οι άλλες δυο είναι αρκετά απλούστερες: η δυνατότητα ακριβούς και γρήγορης στόχευσης, και η νομική ευθύνη.

 

 

 

 

 

Το πρώτο είναι θέμα μηχανικής κατασκευής και αισθητηριο-κινητικών μηχανισμών – και εκεί φαίνεται οι μηχανές να προπορεύονται ήδη των ανθρώπων, και έτσι ακόμα και ο υβριδικός Άλεξ του Ρόμποκοπ, που έχει εφοδιαστεί με ηλεκτρονικά συστήματα στόχευσης και πυροδότησης-σε-δράση, υπερτερεί του προγενέστερου ανθρώπινου Άλεξ.

 

Το δεύτερο όμως είναι αρκετά πιο σύνθετο, όπως υποδεικνύει και η δυσκολία νομικής ευθύνης υπογραφής μηχανικού για έργα πληροφορικής: ένα πληροφοριακό σύστημα που αλληλεπιδρά μέσω αισθητήρων και κινητήρων με το περιβάλλον, είναι αδύνατο να ελεγχθεί διεξοδικά σε σχέση με την ορθότητα της λειτουργίας του, μια και απλούστατα υπάρχουνε χιλιάδες διαφορετικές συνθήκες περιβάλλοντος και λειτουργίας που μπορεί να προκύψουν. Έτσι, ακόμα και αν χρησιμοποιηθούν οι ελάχιστες (και ιδιαίτερα δύσχρηστες) μέθοδοι που υπάρχουν για τον εγγυημένα ορθό σχεδιασμό λογισμικού (formal design methods), υπάρχουνε πολλές περιπτώσεις για τις οποίες ένα σφάλμα λειτουργίας (ενδεχομένως προκαλώντας αναίτιους θανάτους στην περίπτωση του Ρομποφρουρού) δεν μπορεί να αποδοθεί στην ευθύνη ενός προγραμματιστή που σχεδίασε το σύστημα.  Ακόμα περισσότερο, για ένα πολύ σύνθετο έργο όπως ένα μελλοντικό Ρόμποκοπ, υπάρχουνε πολλοί που μπορεί να φταίνε για ένα ατύχημα: ο αγοραστής-χρήστης, η εταιρεία κατασκευής, κάποιοι σχεδιαστές, ή ακόμα και μια λάθος πληροφορία που έφτασε στο σύστημα μέσω του διαδικτύου ή μέσω μιας κάμερας. Έτσι, όχι μόνο δεν υπάρχει αυτή τη στιγμή νομικό πλαίσιο για απόδοση ευθυνών ενός αυτόνομου μηχανήματος με άδεια φόνου, αλλά και η απόδοση ευθυνών για μια δυσλειτουργία μάλλον θα απαιτεί μακροπρόθεσμες έρευνες παρόμοιες με αυτές που συμβαίνουν μετά από αεροπορικά ατυχήματα.

 Ο επόμενος μεγάλος πόλεμος, πιθανότατα να διεξαχθεί με ρομπότ. Και δεν θα είναι μόνο ρομπότ εναντίον ρομπότ, αλλά και ρομπότ εναντίον ανθρώπων. Τι διαφορά έχει αυτό από ένα τανκ που στοχεύει σε ένα ακάλυπτο στρατιώτη, θα μου πείτε; Έχει, και δεν έχει.

 

Είναι αξιοσημείωτο ότι στις ένοπλες δυνάμεις των ΗΠΑ, όπου έχουνε αρχίσει να χρησιμοποιούνται πειραματικά τα ένοπλα ρομπότ, και όπου τηλεχειριζόμενα αεροπλάνα χωρίς πιλότο επιχειρούν και φονεύουν καθημερινά στο Αφγανιστάν, ακόμα η άδεια φόνου δίνεται μόνο σε ανθρώπους – και δεν επιτρέπεται σε αυτόνομες μηχανές να αποφασίσουν μόνες τους πότε θα τραβήξουν την σκανδάλη, αλλά πάντα κάποιος άνθρωπος δίνει την εντολή, ώστε να υπάρχει και υπαιτιότητα. Παραταύτα, σε περιπτώσεις συμπλοκών που ο χρόνος απόκρισης είναι σημαντικότατος, αυτό δίνει ένα συγκριτικό μειονέκτημα σε σχέση με την άδεια φόνου σε μηχανές. Βέβαια, υπάρχει μεγάλη ελαστικότητα στο τι σημαίνει «να δίνεις την εντολή»: μπορεί απλά να σημαίνει «να επιτρέπεις στο σύστημα να αποφασίζει αυτόνομα για το αν θα τραβήξει την σκανδάλη ή όχι από εδώ και πέρα». Εκτός αυτού, αν το σκεφτεί κανείς καλύτερα, η «άδεια φόνου» σε μηχανές με μεγάλο χρονικό ορίζοντα και χωρίς άμεση ανθρώπινη εποπτεία δεν είναι κάτι το καινούργιο στην στρατιωτική ιστορία. Ένα από τα πιο απάνθρωπα όπλα, οι νάρκες, που στοχεύουν στην ακινητοποίηση προσωπικού και εκμεταλλέυονται τον εγγενή πόνο για το συνάνθρωπο για να δημιουργήσουνε περισσότερους νεκρούς, με τα εκατομμύρια άμαχα θύματά τους με απώλειες μελών, αποτελούνε λαμπρά μελανό παράδειγμα αυτής της κτηνωδίας.

 

Πέρα από τα καθαρά τεχνητά αυτόνομα ρομπότ, και τους απλούς ανθρώπους – που τοποθετείται ο υβριδικός Άλεξ της ταινίας, με μηχανικό σώμα και βιολογικό μυαλό; Ενώ φαίνεται πως αυτό το πρωτότυπο βιονικό κατασκεύασμα αποτελεί εξεχόντος ιδιαίτερη κατηγορία, ίσως τελικά και να μην είναι. Πρώτα από όλα, ένα σημαντικό ερώτημα σε τέτοια υβρίδια είναι το που τελειώνει ο άνθρωπος και που αρχίζει η μηχανή; Παραδείγματος χάριν, σήμερα υπάρχει ερευνητικά τεχνολογία για εξωσκελετικά ρομποτικά πρόσθετα (exoskeletons), που επιτρέπουν αύξηση σωματικών δυνατοτήτων σε στρατιώτες, χωρίς να χάνουνε κανένα βιολογικό σωματικό μέρος τους. Εκτός αυτού, υπάρχουνε ερευνητικά και νοητικά πρόσθετα για ανθρώπους: παραδείγματος χάριν μια φορητή έξυπνη κάμερα με αποθήκευση που αναγνωρίζει πρόσωπα και θυμάται προηγούμενες συναντήσεις και διαλόγους – ένα νοητικό πρόσθετο μνήμης δηλαδή. Επίσης, κάτι πολύ απλούστερο που μπορεί να θεωρηθεί ως ένα χαλαρά συζευγμένο υβρίδιο ανθρώπου-μηχανής είναι ένα τανκ με έναν ανθρώπινο χειριστή. Και ένα άλλο παράδειγμα υβριδίου, με μερική απώλεια βιολογικού σώματος (ακούσια βέβαια), αποτελεί ένα προσθετικό ρομποτικό χέρι για αναπήρους.

 

Τι συμβαίνει όμως όταν έχουμε ένα θωρακισμένο τανκ με δύο ανθρώπινους χειριστές, και μάλιστα ένα που να υποστηρίζεται μέσω ασυρμάτου από εξωτερικούς παρατηρητές; Τότε σιγά-σιγά ξεφεύγουμε από τα όρια της ατομικής τεχνητής ή βιολογικής νοημοσύνης, και των υβριδίων ανθρώπων-μηχανών, χαλαρά ή στενά συζευγμένων, και εισερχόμαστε στην ενσώματη υβριδική συλλογική νοημοσύνη (collective intelligence) με ένα μίγμα ανθρώπων και μηχανών σε σύζευξη και διάδραση. Αυτό το μίγμα αρχίζει και δρα σαν μια συλλογική ευφυής οντότητα με κατανεμημένο σώμα, τα όρια της νοημοσύνης και δυνατοτήτων της οποίας ενδέχεται να ξεπερνούνε πολύ όχι μόνο τους μεμονωμένους ανθρώπους ή ρομπότ, αλλά και τις μη μικτές ομάδες ανθρώπων η ρομπότ. Και κάπου εκεί βρίσκεται το μέλλον της αστυνόμευσης, του στρατού, αλλά και της νοημοσύνης γενικότερα: στην δυνατότητα δημιουργίας ισχυρά αποδοτικών και αρμονικών ομάδων ανθρώπων και μηχανών, με την νοημοσύνη τους να αντλείται και να διανείμεται μέσω δικτύων. Και περίπου έτσι είναι τα πράγματα και στον Ρόμποκοπ: η πραγματική αύξηση δυνατοτήτων έρχεται όχι μόνο από το μηχανικό σώμα, αλλά από το δίκτυο καμερών, τα άμεσα προσβάσιμα αποθηκευμένα αρχεία της αστυνομίας με πληροφοριακό και οπτικοακουστικό υλικό, τις αυτόματες εκτιμήσεις επικινδυνότητας, και όλα αυτά τα στοιχεία κατανεμημένης νοημοσύνης.

 

Καλύψαμε λοιπόν ένα μεγάλο αριθμό από θεμελιώδη ερωτήματα που προκύπτουν από την νέα ταινία, όπως: ποιά είναι η σχέση ανθρώπινης και τεχνητής νοημοσύνης; Υπερτερούν τα ρομπότ των ανθρώπων, ή τα υβρίδια όπως ο Άλεξ; Είναι το συναίσθημα αντίπαλος της λογικής; Γίνεται οι μηχανές να έχουν συναισθήματα; Πότε θα έπρεπε να δίνεται η άδεια φόνου σε έναν άνθρωπο η μια μηχανή; Τι είναι η ρομπο-ηθική, και ποιά η σχέση της με την φιλοσοφική ηθική, το δίκαιο, και την υπολογιστική υλοποίηση ηθικής συλλογιστικής; Για να φτάσουμε έτσι σιγά-σιγά στα νοητικά και μηχανικά πρόσθετα, και στην κατανεμημένη και συλλογική νοημοσύνη, και να εξετάσουμε αν όντως τα ρομπότ σήμερα έχουνε την άδεια να σκοτώνουνε.

 

Πολλά από τα άλλα βασικά ερωτήματα του ρόμποκοπ, όπως η ελεύθερη βούληση, η θέση των Δημοσίων Διανοουμένων και η σχέση κυβερνήσεων και μεγάλων ιδιωτικών συμφερόντων, αλλά και το θέμα της οικογένειας για τους φύλακες, δεν καλύφθηκαν, αλλά θα ασχοληθούμε μαζί τους σε επόμενο άρθρο.

 

Παραταύτα, αξίζει να κλείσουμε με μια άλλη επίκαιρη σχετική παρατήρηση. Το 1981, εμφανίσθηκε ο πρώτος «προσωπικός υπολογιστής», το περίφημο IBM PC. Πέρα όμως από την ονομασία του, κατάφερε να διαδοθεί τόσο και να γίνει πραγματικά ο πρώτος «προσωπικός» υπολογιστής, χάριν σε δυο εφαρμογές που τρέχανε σε αυτόν: τον επεξεργαστή κειμένου και το λογιστικό φύλλο Lotus 123. Αυτά λοιπόν ήταν τα «killer apps» που υποστήριξαν την μεγάλη διάδοση των υπολογιστών. Παρόμοιες εφαρμογές που να επιτρέψουν την ραγδαία διάδοση των ρομπότ, δεν έχουνε προκύψει ακόμα. Ίσως να είναι η οικιακή βοήθεια; ίσως κάποια άλλη υποστηρικτική εφαρμογή. Και υπάρχει ένα ευρύ φάσμα κοινωνικά ωφέλιμων τομέων που άρχισαν να καλύπτονται: από βοηθητικά ρομπότ για ηλικιωμένους και άτομα με ειδικές ανάγκες, μέχρι ρομπότ διάσωσης, ιατρικά ρομπότ, και πολλά άλλα.

 

Παραμένει όμως το ερώτημα: ποια θα είναι η «killer app» που θα καθιερώσει την ευρύτατη χρήση ρομπότ έξω από την βιομηχανία; Ελπίζω δυστυχώς να μην είναι έτσι, αλλά πολύ φοβάμαι, ότι η απάντηση είναι ότι αυτή η «killer app» δεν θα είναι μόνο μεταφορικά “killer”, αλλά δυστυχώς και κυριολεκτικά. Ο επόμενος μεγάλος πόλεμος, πιθανότατα να διεξαχθεί με ρομπότ. Και δεν θα είναι μόνο ρομπότ εναντίον ρομπότ, αλλά και ρομπότ εναντίον ανθρώπων. Τι διαφορά έχει αυτό από ένα τανκ που στοχεύει σε ένα ακάλυπτο στρατιώτη, θα μου πείτε; Έχει, και δεν έχει. Και ένα μεγάλο μέρος όλων των θεμελιωδών ερωτημάτων που αγγίξαμε εδώ, έχουνε άμεση σχέση με αυτή τη διαφορά. Ας ελπίσουμε ότι τουλάχιστον η μη στρεβλωμένη επίγνωσή τους, και οι συζητήσεις που θα προκύψουνε, οι νέοι δημόσιοι διανοούμενοι, τα ΜΜΕ και η κοινή γνώμη θα βοηθήσουνε ώστε η ανθρωπότητα να μην ανακαλύψει και πάλι το εύρος της διττής της υπόστασης, που εκτείνεται από την μέγιστη ωφέλιμη δημιουργία ως την μέγιστη επιζήμια κτηνωδία, μετά από ένα ακόμα μεγάλο ανθρωπιστικό δράμα, όπως προέκυψε μετά την εισαγωγή των χημικών και των πυρηνικών όπλων. Πολύ πιθανόν όμως και εμείς να το ζήσουμε, και τα παιδιά μας. Σκεφτείτε λοιπόν καλά, και κινητοποιηθείτε!

 

 

Δώστε το σχόλιο σας ...