Το Συμβούλιο της Ευρώπης ζητά δεσμευτικούς κανόνες για τα αυτόνομα όπλα, ενόψει των συνομιλιών στη Γενεύη. Οι προειδοποιήσεις κορυφαίων επιστημόνων και επικεφαλής της τεχνολογικής βιομηχανίας για τους κινδύνους της ανεξέλεγκτης ανάπτυξης της AI.
Οι αποφάσεις για το ποιος θα ζήσει και ποιος θα πεθάνει σε έναν πόλεμο δεν μπορούν να ανατίθενται στις μηχανές. Αυτό είναι το κεντρικό μήνυμα της παρέμβασης του επιτρόπου Ανθρωπίνων Δικαιωμάτων του Συμβουλίου της Ευρώπης, Μάικλ Ο’ Φλάχερτι, ο οποίος καλεί τις κυβερνήσεις να προχωρήσουν άμεσα σε διεθνείς, νομικά δεσμευτικούς κανόνες για τα αυτόνομα οπλικά συστήματα. Με τίτλο «Η τεχνητή νοημοσύνη στις συγκρούσεις: Η ώρα να την αφοπλίσουμε είναι τώρα», το κείμενό του δημοσιεύεται ενόψει της συνάντησης κρατών στη Γενεύη, από τις 16 έως τις 20 Νοεμβρίου, όπου θα εξεταστεί η έναρξη διαπραγματεύσεων για τη ρύθμιση αυτών των όπλων.
Η παρέμβαση προστίθεται στις δημόσιες προειδοποιήσεις κορυφαίων προσώπων της τεχνητής νοημοσύνης. Πρωτοπόροι ερευνητές, όπως ο Τζέφρι Χίντον και ο Γιόσουα Μπέντζιο, αλλά και επικεφαλής εταιρειών όπως η OpenAI, η Google DeepMind και η Anthropic, έχουν ζητήσει να αντιμετωπιστούν οι σοβαρότεροι κίνδυνοι της τεχνολογίας ως παγκόσμια προτεραιότητα. Οι εκκλήσεις τους δεν ταυτίζονται όλες ως προς τα μέτρα που προτείνουν. Συγκλίνουν, όμως, στην ανάγκη να μη μείνει η ανάπτυξη ισχυρών συστημάτων χωρίς ουσιαστικές δικλίδες ασφαλείας.
Από τη δυστοπία στο «εργοστάσιο στόχων»
Ο Ο’ Φλάχερτι ξεκινά με μια εικόνα που παραπέμπει σε δυστοπικό σενάριο: αλγόριθμοι δημιουργούν προφίλ ανθρώπων, μετατρέπουν τη στρατιωτική στοχοποίηση σε αυτοματοποιημένο «εργοστάσιο στόχων» και παρακολουθούν πρόσωπα μέχρι τα οικογενειακά τους σπίτια, πριν εγκριθούν αεροπορικά πλήγματα. «Αυτό δεν είναι πλέον δυστοπία», προειδοποιεί.
Όπως επισημαίνει, η τεχνητή νοημοσύνη ενσωματώνεται με ταχύτητα στις στρατιωτικές επιχειρήσεις: στη συλλογή πληροφοριών, στην αναγνώριση στόχων, στα οπλικά συστήματα και στις αποφάσεις για τη χρήση βίας. Παράλληλα, αναπτύσσονται και χρησιμοποιούνται ήδη αυτόνομα όπλα που, μετά την ενεργοποίησή τους, μπορούν να επιλέγουν και να πλήττουν στόχους χωρίς ανθρώπινη παρέμβαση.
Το κρίσιμο ερώτημα, υπογραμμίζει, δεν είναι απλώς εάν ένα στρατιωτικό σύστημα χρησιμοποιεί AI. Είναι εάν ο άνθρωπος διατηρεί πραγματική εποπτεία, εάν μπορεί να ελέγξει τις ενέργειές του και εάν η χρήση του συμμορφώνεται με το διεθνές δίκαιο. Αναγνωρίζει, μάλιστα, ότι η υπεύθυνη αξιοποίηση μη επανδρωμένων συστημάτων και εφαρμογών τεχνητής νοημοσύνης μπορεί να συμβάλει στην προστασία αμάχων ή στη μείωση των απωλειών στρατιωτών.
Όταν ο ανθρώπινος έλεγχος γίνεται τυπική έγκριση
Ο κίνδυνος αρχίζει όταν η ανθρώπινη κρίση υποχωρεί μπροστά στην υποτιθέμενη ακρίβεια της μηχανής. Σύμφωνα με τον επίτροπο, τα συστήματα AI μπορεί να λειτουργούν με αδιαφάνεια, να αξιοποιούν παρωχημένα ή μεροληπτικά δεδομένα και να παράγουν αποτελέσματα που δεν μπορούν να προβλεφθούν επαρκώς. Η ταχύτητα των επιχειρήσεων ενδέχεται, επιπλέον, να αφήνει ελάχιστο χρόνο για την επιβεβαίωση ενός στόχου ή την αξιολόγηση της νομιμότητας ενός πλήγματος.
«Ο ανθρώπινος έλεγχος κινδυνεύει να μετατραπεί σε απλή τυπική επικύρωση», επισημαίνει, όταν οι χειριστές υποχωρούν μπροστά στις εισηγήσεις συστημάτων που θεωρούν πιο αξιόπιστα ή ακριβή από τους ίδιους. Οι συνέπειες αφορούν τόσο τον κίνδυνο παράνομων επιθέσεων όσο και τη δυνατότητα απόδοσης ευθυνών για παραβιάσεις.
Η ανησυχία δεν περιορίζεται στο πεδίο της μάχης. Τεχνολογίες που αναπτύσσονται για στρατιωτικούς σκοπούς μπορούν να περάσουν στον έλεγχο των συνόρων, στην αστυνόμευση συγκεντρώσεων ή στα χέρια μη κρατικών δρώντων. Ο Ο’ Φλάχερτι προειδοποιεί επίσης για τη χρήση της AI στη χειραγώγηση της πληροφόρησης και στη διατάραξη πολιτικών υποδομών.
Χίντον, Μπέντζιο, Άλτμαν: Η κοινή προειδοποίηση για τους ακραίους κινδύνους
Η σημερινή συζήτηση για τα αυτόνομα όπλα συνδέεται με έναν ευρύτερο προβληματισμό που έχουν εκφράσει δημόσια οι ίδιοι οι δημιουργοί και οι επικεφαλής της τεχνητής νοημοσύνης.
Στις 30 Μαΐου 2023, το Center for AI Safety δημοσίευσε μια σύντομη δήλωση, την οποία υπέγραψαν, μεταξύ άλλων, οι Τζέφρι Χίντον και Γιόσουα Μπέντζιο, ο Σαμ Άλτμαν της OpenAI, ο Ντέμης Χασάμπης της Google DeepMind και ο Ντάριο Αμοντέι της Anthropic:
«Ο περιορισμός του κινδύνου εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης θα πρέπει να αποτελεί παγκόσμια προτεραιότητα, δίπλα σε άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος».
Η δήλωση δεν υποστήριζε ότι μια τέτοια καταστροφή είναι αναπόφευκτη ούτε αποτελούσε ειδική έκκληση για απαγόρευση των αυτόνομων όπλων. Έθετε, όμως, το ζήτημα των ακραίων κινδύνων από προηγμένα μελλοντικά συστήματα AI στην ατζέντα της διεθνούς ασφάλειας, με υπογραφές από την κορυφή της επιστημονικής έρευνας και της τεχνολογικής βιομηχανίας.
Στην ίδια παρέμβαση, ο διευθυντής του Center for AI Safety, Νταν Χέντρικς, ζητούσε να δημιουργηθούν εγκαίρως θεσμοί και περιορισμοί: «Δεν είναι πολύ νωρίς για να τεθούν δικλίδες ασφαλείας και να δημιουργηθούν θεσμοί, ώστε οι κίνδυνοι της AI να μη μας βρουν απροετοίμαστους». Παράλληλα, τόνιζε ότι η αντιμετώπιση των μελλοντικών απειλών δεν πρέπει να παραμερίζει ήδη υπαρκτά προβλήματα, όπως η κακόβουλη χρήση και η παραπληροφόρηση
Η έκκληση για εξάμηνη παύση και ανεξάρτητη εποπτεία
Ακόμη πιο συγκεκριμένη ήταν η ανοιχτή επιστολή που δημοσίευσε το Future of Life Institute στις 22 Μαρτίου 2023, με υπογραφές, μεταξύ άλλων, του Γιόσουα Μπέντζιο, του ερευνητή Στιούαρτ Ράσελ, του Έλον Μασκ και του συνιδρυτή της Apple, Στιβ Βόζνιακ. Το αίτημα ήταν σαφές:
«Καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να διακόψουν αμέσως, για τουλάχιστον έξι μήνες, την εκπαίδευση συστημάτων AI ισχυρότερων από το GPT-4».
Οι συντάκτες ζητούσαν η παύση να είναι δημόσια και επαληθεύσιμη, να περιλαμβάνει όλους τους βασικούς παράγοντες του κλάδου και, εάν δεν μπορούσε να εφαρμοστεί γρήγορα, να παρέμβουν οι κυβερνήσεις επιβάλλοντας μορατόριουμ. Προειδοποιούσαν για μια «ανεξέλεγκτη κούρσα» ανάπτυξης ολοένα ισχυρότερων συστημάτων, τα οποία ούτε οι δημιουργοί τους μπορούσαν να κατανοήσουν, να προβλέψουν ή να ελέγξουν αξιόπιστα.
Η επιστολή δεν ζητούσε να σταματήσει συνολικά η έρευνα στην τεχνητή νοημοσύνη. Ζητούσε χρόνο για κοινά πρωτόκολλα ασφαλείας, ανεξάρτητους ελέγχους και ισχυρότερους μηχανισμούς διακυβέρνησης. «Τα ισχυρά συστήματα AI θα πρέπει να αναπτύσσονται μόνο όταν είμαστε βέβαιοι ότι οι επιπτώσεις τους θα είναι θετικές και οι κίνδυνοί τους διαχειρίσιμοι», ανέφερε χαρακτηριστικά.
Το ρυθμιστικό κενό και η ευκαιρία της Γενεύης
Στη στρατιωτική χρήση της AI, ο Ο’ Φλάχερτι εντοπίζει ένα ιδιαίτερα κρίσιμο ρυθμιστικό κενό. Το διεθνές δίκαιο ανθρωπίνων δικαιωμάτων και το διεθνές ανθρωπιστικό δίκαιο εξακολουθούν να εφαρμόζονται. Ωστόσο, όπως επισημαίνει, δεν επιλύουν από μόνα τους όλα τα νέα ζητήματα που δημιουργεί η τεχνολογία. Ταυτόχρονα, οι στρατιωτικές χρήσεις εξαιρούνται από το πεδίο εφαρμογής τόσο του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη όσο και της σχετικής Σύμβασης-Πλαισίου του Συμβουλίου της Ευρώπης.
Γι’ αυτό καλεί τα κράτη να στηρίξουν επείγουσες διαπραγματεύσεις, με σαφές χρονοδιάγραμμα, για μια παγκόσμια και νομικά δεσμευτική συμφωνία σχετικά με τα αυτόνομα όπλα. Ζητά, παράλληλα, να προχωρήσει η ρύθμιση και άλλων στρατιωτικών εφαρμογών της AI. Η συνάντηση στη Γενεύη αποτελεί, κατά τον ίδιο, ευκαιρία να κατοχυρωθεί νομικά η αρχή ότι ο άνθρωπος πρέπει να διατηρεί ουσιαστικό έλεγχο στη χρήση βίας και να παραμένει υπόλογος γι’ αυτήν.
Ευθύνη αποδίδει και στις επιχειρήσεις που σχεδιάζουν, αναπτύσσουν ή προμηθεύουν αυτά τα συστήματα. Τις καλεί να αξιολογούν τις επιπτώσεις στα ανθρώπινα δικαιώματα, να περιορίζουν τους κινδύνους και να ενσωματώνουν τις απαιτήσεις του ανθρωπιστικού δικαίου ήδη από τον σχεδιασμό των προϊόντων τους.
Το όριο που θέτει είναι κατηγορηματικό: «Οι αποφάσεις ζωής και θανάτου πρέπει να παραμένουν θεμελιωμένες στην ανθρώπινη κρίση, ευθύνη και λογοδοσία. Η χρήση βίας πρέπει να διέπεται από ανθρώπους που ενεργούν βάσει σαφών κανόνων και σέβονται τα ανθρώπινα δικαιώματα — ποτέ να μην ανατίθεται στις μηχανές».
