Αγαπητοί Συνάδελφοι και Φίλοι,
Τον τελευταίο καιρό ακούμε όλο και συχνότερα τον όρο AGI. Πρόκειται για τα αρχικά των λέξεων Artificial General Intelligence, που στα ελληνικά αποδίδεται ως Γενική Τεχνητή Νοημοσύνη.
Με απλά λόγια, η AGI περιγράφει ένα μελλοντικό σύστημα τεχνητής νοημοσύνης που δεν θα περιορίζεται σε μία συγκεκριμένη εργασία, όπως συμβαίνει σήμερα με τα περισσότερα συστήματα. Θα μπορεί να σκέφτεται, να μαθαίνει, να αναλύει και να επιλύει προβλήματα σε πολλούς διαφορετικούς τομείς, με ικανότητες αντίστοιχες ή ενδεχομένως ανώτερες του ανθρώπου.
Σήμερα, τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούμε είναι εξειδικευμένα: γράφουν κείμενα, αναλύουν δεδομένα, αναγνωρίζουν εικόνες ή υποστηρίζουν αποφάσεις. Η AGI όμως φιλοδοξεί να υπερβεί αυτό το στάδιο και να αποκτήσει γενική ικανότητα σκέψης, συνδυάζοντας γνώση, κρίση, σχεδιασμό και προσαρμογή σε νέες καταστάσεις.
Για πρώτη φορά στην ιστορία, ο άνθρωπος βρίσκεται κοντά στη δημιουργία ενός συστήματος που ενδέχεται να επεξεργάζεται πληροφορίες και να λαμβάνει αποφάσεις όχι μόνο γρήγορα, αλλά και αυτόνομα. Αυτή η προοπτική γεννά μεγάλες ελπίδες, αλλά και σοβαρούς προβληματισμούς, ιδιαίτερα για τον χώρο της άμυνας και των στρατιωτικών επικοινωνιών.
Όσοι υπηρετήσαμε στις Διαβιβάσεις γνωρίζουμε καλά μια διαχρονική αλήθεια: στον πόλεμο, αλλά και στην ειρήνη, η πληροφορία είναι ισχύς. Η επικοινωνία καθορίζει τη διοίκηση, η ταχύτητα καθορίζει την αντίδραση και η σωστή διαβίβαση της πληροφορίας μπορεί να κρίνει την έκβαση μιας αποστολής.
Σήμερα, βρισκόμαστε μπροστά σε μια τεχνολογική αλλαγή που ίσως αποδειχθεί η σημαντικότερη μετά την ανακάλυψη του ασυρμάτου. Η εξέλιξη της Τεχνητής Νοημοσύνης και ιδιαίτερα η προοπτική της AGI φέρνει νέα δεδομένα, όχι μόνο στην κοινωνία αλλά και στη στρατιωτική τέχνη.
Η AGI δεν είναι απλώς ένας υπολογιστής που απαντά σε ερωτήσεις. Είναι το θεωρητικό στάδιο όπου μια μηχανή θα μπορεί να μαθαίνει, να αναλύει, να σχεδιάζει και να αποφασίζει σε επίπεδο αντίστοιχο του ανθρώπου, σε όλους τους τομείς ταυτόχρονα. Δηλαδή να συνδυάζει στρατηγική, λογική, πρόβλεψη, ακόμη και δημιουργική σκέψη.
Για εμάς, τους ανθρώπους των Διαβιβάσεων, αυτό έχει ιδιαίτερη σημασία. Διότι το Όπλο μας πάντα βρισκόταν στο κέντρο του κύκλου: διοίκηση, έλεγχος, μεταφορά πληροφοριών, λήψη αποφάσεων. Η AGI φιλοδοξεί να εισέλθει ακριβώς σε αυτόν τον πυρήνα της διοίκησης.
Από τον ασύρματο στο αυτόνομο σύστημα
Από τον Samuel Morse και τον Guglielmo Marconi, έως τα σύγχρονα δίκτυα διοίκησης και ελέγχου των Ενόπλων Δυνάμεων, η εξέλιξη των επικοινωνιών υπήρξε πάντα πολλαπλασιαστής ισχύος.
Σήμερα όμως, η νέα τεχνολογία δεν περιορίζεται στη μετάδοση διαταγών. Προχωρά στην αυτόνομη επεξεργασία πληροφοριών και στη λήψη αποφάσεων. Αυτόνομα drones, συστήματα επιτήρησης, επιλογής στόχων και διαχείρισης επιχειρήσεων σε πραγματικό χρόνο είναι ήδη πραγματικότητα. Είναι αλήθεια ότι υπάρχουν, δεν είναι φαντασία, αλλά διεθνώς (και ειδικά στο ΝΑΤΟ) ισχύει ακόμα αυστηρά η αρχή “Human-in-the-loop” (ο άνθρωπος παίρνει την τελική απόφαση για βολή). Καλό είναι να διευκρινιστεί ότι η τεχνολογία είναι έτοιμη, αλλά η πλήρης αυτόνομη λήψη απόφασης για φονική ισχύ (LAWS – Lethal Autonomous Weapons Systems) τελεί υπό νομικό και ηθικό έλεγχο.
Και εδώ γεννάται το μεγάλο ερώτημα, υπό τον φόβο να ανοίξει το κουτί της Πανδώρας:
Αν ένα σύστημα τεχνητής νοημοσύνης αναλάβει να αποφασίζει πιο γρήγορα από τον άνθρωπο, ποιος ελέγχει ποιον; Η ταχύτητα είναι ο λόγος που θα αναγκαστούμε να δώσουμε αυτονομία στις μηχανές ?
Η μεγάλη πρόκληση: Η ευθυγράμμιση
Οι επιστήμονες χρησιμοποιούν τον όρο Alignment, δηλαδή ευθυγράμμιση της μηχανής με τις ανθρώπινες αξίες και σκοπούς.
Με απλά λόγια: αν δώσουμε σε μια πολύ ισχυρή νοημοσύνη έναν στόχο, πώς εξασφαλίζουμε ότι θα τον κατανοήσει όπως ακριβώς τον εννοούμε;
Για παράδειγμα, αν της ανατεθεί «προστάτευσε τη χώρα», θα ενεργήσει με βάση την ανθρώπινη κρίση, τη νομιμότητα και την ηθική; Ή θα εφαρμόσει ψυχρούς υπολογισμούς που αγνοούν το ανθρώπινο κόστος. Ποιός εξασφαλίζει οτι ο αλγόριθμος θα λειτουργεί ωστε να ευθυγραμμιστεί με την κρίση μας, την λογική μας και την ηθική μας ?
Εδώ ακριβώς βρίσκεται ο προβληματισμός πολλών ειδικών. Όχι ότι η μηχανή θα αποκτήσει εχθρική πρόθεση, αλλά ότι μπορεί να ακολουθήσει έναν στόχο με τρόπο που κανείς δεν προέβλεψε.
Ο πόλεμος ως επιταχυντής
Η στρατιωτική χρήση της τεχνητής νοημοσύνης εντείνει αυτούς τους κινδύνους. Σε περίοδο κρίσης, οι αποφάσεις λαμβάνονται σε δευτερόλεπτα. Όσο αυξάνεται η αυτοματοποίηση, τόσο περιορίζεται ο ανθρώπινος έλεγχος.
Αυτό μας θυμίζει μια αρχή που όλοι γνωρίσαμε στην ενεργό υπηρεσία:
Το καλύτερο δίκτυο δεν είναι αυτό που λειτουργεί μόνο γρήγορα, αλλά αυτό που παραμένει αξιόπιστο όταν όλα δοκιμάζονται ή καταρρέουν.
Η θέση των Διαβιβάσεων στον νέο κόσμο
Ίσως η νέα εποχή αποδείξει ότι οι Διαβιβάσεις δεν ήταν απλώς ένα Όπλο τεχνικής υποστήριξης. Ήταν πάντα ο νευρικός ιστός της διοίκησης.
Η AGI, αν και νέα τεχνολογία, αγγίζει τις ίδιες αρχές που υπηρετήσαμε και θα αρχίσει να “πειράζει με τον κίνδυνο να χειραγωγήσει” το DNA του Όπλου μας: επικοινωνία, πληροφορία, αξιοπιστία, έλεγχος και ασφάλεια. Η AGI δεν υπάρχει ακόμα,όμως έρχεται καλπάζοντας.
Το ερώτημα που ανοίγεται μπροστά στην ανθρωπότητα είναι βαθύ:
Θα χρησιμοποιήσει τη νέα νοημοσύνη ως εργαλείο ενίσχυσης του ανθρώπου ή θα της παραδώσει αποφάσεις που μέχρι σήμερα ανήκαν αποκλειστικά στην ανθρώπινη ευθύνη;
Η απάντηση δεν αφορά μόνο τους επιστήμονες ή τις κυβερνήσεις. Αφορά όλους μας και ιδιαίτερα όσους γνωρίζουμε από εμπειρία ότι καμία τεχνολογία δεν υποκαθιστά τη συνείδηση, την κρίση και το αίσθημα ευθύνης του ανθρώπου.
Με εκτίμηση,
Δημήτριος Κουτρουμάνης
Αντιστράτηγος ε.α. Πρόεδρος Δ.Σ. Συνδέσμου Διαβιβάσεων
