Θα ξεκινήσω με μια διευκρίνηση,  δεν είμαι κατά της εξέλιξις, για καμία τεχνολογία.

Είμαι κατά της ανεξέλεγκτης τεχνολογίας!

Επίσης ακούω για τον ΟΗΕ, δηλαδή  από το κακό στο χειρότερο, ο ΟΗΕ είναι ο Νοννός της παγκόσμιας ΜΑΦΙΑΣ.

Παρακαλώ λίγο υπομονή θα ετοιμάσω τις προτάσεις της ΑΡΧΑΙΑ ΙΘΩΜΗΣ και θα τις ανεβάσω εδώ.

Ο Μπιλ Γκέιτς προειδοποιεί: Η AI είναι πιο επικίνδυνη από ό,τι παραδέχονται οι μεγάλες εταιρείες τεχνολογίας.

Μπιλ Γκέιτς για AI: Είναι το πιο επικίνδυνο εργαλείο που έχει εφευρεθεί ποτέ.

Σε μια συνέντευξη μιας ώρας, δήλωσε ότι ο κλάδος του υποβαθμίζει τους κινδύνους της AI, στους οποίους, κατά τη γνώμη του, συγκαταλέγονται η μαζική ανεργία και η βιοτρομοκρατία

Ο Μπιλ Γκέιτς, ο δισεκατομμυριούχος συνιδρυτής της Microsoft, προειδοποιεί με έμφαση ότι η AI αποτελεί σοβαρή απειλή για τις θέσεις εργασίας και την ανθρώπινη ζωή, και ότι η επείγουσα αντιμετώπιση των κινδύνων αυτών πρέπει να αποτελεί «την κορυφαία προτεραιότητα του κόσμου».

Σε μια συνέντευξη διάρκειας μίας ώρας που παραχώρησε στην εφημερίδα The New York Times την περασμένη εβδομάδα, ο Γκέιτς δήλωσε ότι ο κλάδος της τεχνολογίας υποβαθμίζει εν γνώσει του αυτές τις απειλές, επειδή διακυβεύονται πάρα πολλά χρήματα.

Η Κάρεν Βάιζ, η οποία καλύπτει τα νέα της Microsoft από το 2018, μίλησε με τον Μπιλ Γκέιτς στα γραφεία του στην περιοχή του Σιάτλ τα τέλη Αυγούστου 2026.

«Στον ιδιωτικό τους κύκλο, όσοι κατανοούν πόσο καλή είναι αυτή η τεχνολογία και πόσο καλύτερη γίνεται, ανησυχούν πολύ», είπε.

Ωστόσο, σύμφωνα με τον Γκέιτς, λίγα στελέχη του κλάδου της τεχνολογίας είναι πρόθυμα να το παραδεχτούν δημοσίως.

«Τώρα λένε ο ένας στον άλλο: Έι, φίλε, μην το λες αυτό. Είναι κακό για εμάς — το επόμενο τρισεκατομμύριο δολάρια που προσπαθούμε να συγκεντρώσουμε».

Οι ανησυχίες του για την τεχνητή νοημοσύνη

Ο Γκέιτς δημοσίευσε ένα δοκίμιο σχεδόν 6.000 λέξεων στον προσωπικό του ιστότοπο, στο οποίο εκθέτει τις ανησυχίες του για την τεχνητή νοημοσύνη και προτείνει λύσεις, όπως νέους φόρους και απαγορεύσεις.

Είπε ότι τον ώθησε να μιλήσει τώρα το γεγονός ότι οι πρόσφατες βελτιώσεις στην τεχνητή νοημοσύνη είχαν ξεπεράσει κατά πολύ τις προσδοκίες του και επειδή ο κλάδος είχε αγνοήσει ορόσημα της τεχνολογίας — όπως το γεγονός ότι η τεχνητή νοημοσύνη ξεφεύγει από τον έλεγχο των δημιουργών της ή δημιουργεί συνταγές για βιολογικά όπλα — τα οποία κάποτε είχε δηλώσει ότι θα δικαιολογούσαν μεγαλύτερη προσοχή.

«Απλώς προχωρούν με πλήρη ταχύτητα και ελπίζουν ότι τα θετικά θα υπερτερήσουν των αρνητικών», είπε.

Ο Γκέιτς, 70 ετών, είναι ο πιο πρόσφατος σε μια σειρά από διακεκριμένες προσωπικότητες του τεχνολογικού κλάδου που επισημαίνουν τους κινδύνους της τεχνητής νοημοσύνης, καθώς ο κλάδος ξοδεύει τρισεκατομμύρια δολάρια σε νέα κέντρα δεδομένων και καθώς νεοσύστατες εταιρείες τεχνητής νοημοσύνης πλησιάζουν σε μερικές από τις μεγαλύτερες αρχικές δημόσιες προσφορές στην ιστορία.

Ο ίδιος παίρνει θέση καθώς βγαίνει από μια παρατεταμένη περίοδο σκανδάλων. Στις αρχές του έτους, η δημοσιοποίηση των email του σεξουαλικού εγκληματία Τζέφρι Έπσταϊν έφερε εκ νέου στο προσκήνιο τις επαφές του κ. Γκέιτς με αυτόν.

Ο Γκέιτς αναγκάστηκε να αποσυρθεί από ένα συνέδριο για την τεχνητή νοημοσύνη τον Φεβρουάριο και κατέθεσε για έξι ώρες τον Ιούνιο ενώπιον επιτροπής της Βουλής των Αντιπροσώπων.

Οι αποκαλύψεις για την απιστία του, σε συνδυασμό με το διαζύγιό του το 2021, έχουν επίσης βλάψει σοβαρά τη φήμη του. Αναγνώρισε ότι όλα αυτά ήταν «λάθη» για τα οποία ευθύνεται ο ίδιος.

Φαίνεται πιο πρόθυμος να επιστρέψει στο προσκήνιο αφού απάντησε σε κάθε ερώτηση της Επιτροπής Εποπτείας της Βουλής. «Νομίζω ότι ο κόσμος καταλαβαίνει τι έκανα, τι δεν έκανα και ότι μαθαίνω όταν κάνω λάθη», δήλωσε στη συνέντευξη.

Ένας «ατελής» αγγελιοφόρος

Ο Γκέιτς παραδέχτηκε ότι μπορεί επίσης να είναι ένας ατελής αγγελιοφόρος απλώς και μόνο λόγω του τεράστιου πλούτου του και του ιστορικού του ως επιθετικού διευθύνοντος συμβούλου της Microsoft.

Σε μια ιστορική ομοσπονδιακή υπόθεση, διαπιστώθηκε το 2000 ότι η Microsoft είχε καταχραστεί επανειλημμένα το μονοπώλιό της κατά τη διάρκεια της θητείας του.

(Ο  Γκέιτς αποχώρησε από το διοικητικό συμβούλιο της εταιρείας το 2020.)

Αν και ο κ. Γκέιτς απέφυγε να επικρίνει ονομαστικά τη Microsoft ή άλλες εταιρείες, υποστήριξε ότι βρίσκεται σε μοναδική θέση για να ασχοληθεί με το ζήτημα της τεχνητής νοημοσύνης.

Είναι τεχνολόγος και γνώστης του κλάδου που δεν καθοδηγείται πλέον από τα κίνητρα κέρδους που συνεπάγεται η διοίκηση μιας εταιρείας, και έχει αφιερώσει δεκαετίες στην αντιμετώπιση των ανισοτήτων μέσω του φιλανθρωπικού ιδρύματός του.

«Η ειρωνεία του ότι ‘ο λάτρης της καινοτομίας φοβάται και λέει ότι δεν είμαστε έτοιμοι και ότι ξεπερνάμε τα όρια’, ίσως είναι ακόμη πιο οδυνηρή», είπε.

Η στιγμή που η τεχνητή νοημοσύνη τον εξέπληξε

Ο Γκέιτς είπε ότι οι τεχνολογικές εξελίξεις τον είχαν πραγματικά καταπλήξει τρεις φορές: Το 1980, όταν είδε για πρώτη φορά ένα γραφικό περιβάλλον χρήστη, το οποίο οδήγησε στον σύγχρονο προσωπικό υπολογιστή.

Το 2022, όταν οι ηγέτες της OpenAI ήρθαν στο σπίτι του για να του παρουσιάσουν αυτό που σύντομα θα γινόταν το ChatGPT.

Και φέτος, όταν εξέτασε προσεκτικά τις εξελίξεις που σημειώνει το Claude Code, το εργαλείο τεχνητής νοημοσύνης της Anthropic.

Ο προγραμματισμός, είπε ο Γκέιτς, είναι το θέμα που γνωρίζει καλύτερα, και οι ικανότητες του Claude τον συγκλόνισαν.

«Η ιδέα ότι τώρα αυτά τα πράγματα είναι, σε ουσιαστικό επίπεδο, καλύτερα από εμένα είναι κάτι σαν: Τι στο καλό;», είπε.

Μαζική ανεργία και αλλαγή στην αγορά εργασίας

Οι τεχνολογικές καινοτομίες στο παρελθόν δημιούργησαν περισσότερες θέσεις εργασίας από όσες κατάργησαν, είπε ο Γκέιτς. Ωστόσο, δεν μπορεί να πιστέψει ότι οι υποστηρικτές του κλάδου ισχυρίζονται ότι αυτό θα συμβεί και πάλι αυτή τη φορά.

Η εποχή της τεχνητής νοημοσύνης είναι «εντελώς, απολύτως, πλήρως, εντελώς διαφορετική», είπε.

Αναγνώρισε ότι αυτή η μη δημοφιλής άποψη (στους τεχνολογικούς κύκλους) ήταν «ένας τρελός ισχυρισμός, και στοιχηματίζω όλα όσα ξέρω — τα πάντα — λέγοντας: “Πλάκα κάνετε;”»

Είπε ότι οι μαζικές απώλειες θέσεων εργασίας, αν δεν αντιμετωπιστούν, είναι αναπόφευκτες, επειδή η AI θα εξαπλωθεί σε ολόκληρη την οικονομία και θα αφήσει ελάχιστο περιθώριο σε έναν κλάδο να απορροφήσει τους «πρόσφυγες» από έναν άλλο.

Οι μεγαλύτερες εταιρείες τεχνολογίας στον κόσμο, συμπεριλαμβανομένης της Microsoft, συναγωνίζονται για να βοηθήσουν τους εταιρικούς πελάτες να υιοθετήσουν την ΤΝ, η οποία θα μπορούσε να αντικαταστήσει πολλούς εργαζόμενους.

Ο Γκέιτς είπε ότι οι εταιρείες απλώς ανταποκρίνονται στα κίνητρα της αγοράς, αλλά ότι αυτά τα κίνητρα ενδέχεται να έρχονται σε σύγκρουση με το τι είναι καλύτερο για την κοινωνία.

Ο ίδιος πρότεινε έναν νέο φόρο στη χρήση της τεχνητής νοημοσύνης, γνωστό ως «token tax», ώστε να γίνει πιο δαπανηρή η αντικατάσταση ανθρώπων και να διατεθούν χρήματα για να βοηθηθούν όσοι χάσουν τη δουλειά τους.

Το token είναι μια βασική μονάδα υπολογιστικής ισχύος της τεχνητής νοημοσύνης. Η ιδέα της φορολόγησής του έχει κερδίσει κάποια απήχηση, συμπεριλαμβανομένης της Wall Street, ως τρόπος να αυξηθεί το κόστος της χρήσης μηχανών αντί της ανθρώπινης εργασίας.

Ορισμένες θέσεις εργασίας, είπε ο Γκέιτς, θα πρέπει να απαγορεύεται να αντικαθίστανται από την τεχνητή νοημοσύνη — μια ιδέα που ονόμασε «Human Reserved» — επειδή ο ρόλος είναι βαθιά προσωπικός, όπως αυτός του φροντιστή, ή επειδή οι άνθρωποι σε αυτές τις θέσεις είναι απίθανο να βρουν νέα απασχόληση.

Ο κίνδυνος της βιοτρομοκρατίας

Όσον αφορά την ασφάλεια, υπερασπίστηκε τη σύναψη νέων διεθνών συμφωνιών για τον καθορισμό σαφών κριτηρίων παρακολούθησης και περιορισμού ακραίων κινδύνων, όπως η βιοτρομοκρατία.

Είπε ότι αρκούν μόνο λίγα άτομα με πρόσβαση σε προηγμένη τεχνητή νοημοσύνη για να αναπτύξουν νέους παθογόνους παράγοντες.

Είπε ότι θα συζητούσε με χαρά με οποιονδήποτε αντιτασσόταν στις υποχρεωτικές αξιολογήσεις οποιουδήποτε συστήματος τεχνητής νοημοσύνης που θα μπορούσε να χρησιμοποιηθεί ως όπλο για τη δημιουργία νέων μορίων και την πρόκληση πανδημίας.

Ο Γκέιτς πρόσθεσε ότι έμεινε άναυδος από το είδος των εθελοντικών μέτρων που ανέπτυσσαν ο Λευκός Οίκος και οι ηγέτες της βιομηχανίας.

«Αυτορρύθμιση για το πιο επικίνδυνο εργαλείο που εφευρέθηκε ποτέ;» είπε με απορία.

«Όχι, ευχαριστώ!»

«Γιατί δεν υπάρχει μεγαλύτερη αίσθηση επείγοντος;»

Ο Γκέιτς δήλωσε ότι βρισκόταν σε «κατάσταση σοκ» ως προς το γιατί δεν υπήρχε μεγαλύτερη αίσθηση επείγοντος σχετικά με αυτά τα ζητήματα.

Πολλές από τις ανησυχίες του αντανακλούν εκείνες που εξέφρασε ο συνιδρυτής της Anthropic, Ντάριο Αμοντέι, οι οποίες τον έφεραν σε σύγκρουση με το Πεντάγωνο, τον Λευκό Οίκο και μεγάλο μέρος του τεχνολογικού κλάδου.

«Υπάρχουν άνθρωποι που επιτίθενται σε αυτόν που μιλάει πιο ανοιχτά για τα μειονεκτήματα», είπε ο Γκέιτς.

Παράλληλα με τα ζητήματα παγκόσμιας υγείας, ο Γκέιτς δεσμεύτηκε να εντάξει τις ανησυχίες του για την τεχνητή νοημοσύνη σε κάθε συζήτηση που θα έχει με παγκόσμιους ηγέτες.

«Υπάρχουν μόνο δύο ζητήματα για τα οποία θα πω: ‘Παρακαλώ, σκεφτείτε το περισσότερο, παρακαλώ, δώστε μεγαλύτερη σημασία σε αυτό’», είπε.

Ο  Γκέιτς αναγνώρισε ότι βρίσκεται σε μια περίεργη θέση: Έχει αναμφισβήτητα συμβάλει όσο κανένας άλλος στον κόσμο στην προώθηση και τη διαμόρφωση της σύγχρονης βιομηχανίας υπολογιστών.

Τώρα, όμως, προειδοποιεί ότι η τεχνολογία που δημιουργεί ενέχει παγκόσμιους κινδύνους.

«Δεν μου αρέσει να μεταφέρω κακά νέα στους ανθρώπους, και δεν μου αρέσει να λέω ότι η καινοτομία μπορεί να έχει καθαρά αρνητικό αποτέλεσμα», είπε.

«Αλλά αυτή είναι η πραγματικότητα.»

Τα κενά στη διακυβέρνηση της τεχνητής νοημοσύνης

Η έκθεση εντοπίζει αρκετά κενά στην τρέχουσα διεθνή διακυβέρνηση της τεχνητής νοημοσύνης, τα οποία εκδηλώνονται σε τρεις κύριους τομείς: αναπαράσταση , συντονισμός , και εκτέλεση.

Κενά στην εκπροσώπηση : Το σημερινό τοπίο της διακυβέρνησης της τεχνητής νοημοσύνης κυριαρχείται από λίγες χώρες και ιδιωτικούς παράγοντες, αφήνοντας ολόκληρες περιοχές του κόσμου εκτός διαδικασιών λήψης αποφάσεων.

 Συγκεκριμένα, η έκθεση δείχνει ότι περίπου 118 χώρες, κυρίως στον Παγκόσμιο Νότο, δεν συμμετέχουν σε καμία σημαντική διεθνή πρωτοβουλία διακυβέρνησης AI.

Αυτή η ανισορροπία υπονομεύει τις αρχές της δικαιοσύνης και της ένταξης, καθώς οι εξαιρούμενες χώρες είναι λιγότερο πιθανό να επωφεληθούν από τις ευκαιρίες της τεχνητής νοημοσύνης, μειώνοντας τις δυνατότητες επίτευξης σε παγκόσμιο επίπεδο κοινό καλό.

Κενά συντονισμού : Η έλλειψη συντονισμένης προσέγγισης μεταξύ των διαφόρων πρωτοβουλιών διακυβέρνησης της τεχνητής νοημοσύνης οδηγεί σε κατακερματισμό των ρυθμιστικών πλαισίων και ασυμβατότητα μεταξύ τους.

 Αυτό μπορεί να δημιουργήσει μια «κούρσα προς τα κάτω» στους κανονισμούς, όπου ορισμένες χώρες ή εταιρείες ενδέχεται να επιλέξουν ασθενέστερα πρότυπα όσον αφορά την ασφάλεια και τα ανθρώπινα δικαιώματα για να αποκτήσουν ανταγωνιστικό πλεονέκτημα. Αυτό θα έθετε σε σοβαρό κίνδυνο τη δυνατότητα της τεχνητής νοημοσύνης να υπηρετεί το κοινό καλό, μετατρέποντάς την σε εργαλείο συγκεντρωμένης ισχύος στα χέρια λίγων.

Κενά στην εφαρμογή : Ακόμη και όπου υπάρχουν κανονισμοί και οδηγίες, η εφαρμογή τους είναι συχνά ασυνεπής ή ανεπαρκής.

Η έκθεση τονίζει ότι πολλές τρέχουσες πρωτοβουλίες είναι εθελοντικές και στερούνται μηχανισμών λογοδοσίας, περιορίζοντας την αποτελεσματικότητά τους στη διασφάλιση της ασφαλούς και διαφανούς χρήσης της τεχνητής νοημοσύνης.

Οι ευκαιρίες της τεχνητής νοημοσύνης και η συμβολή της στους στόχους βιώσιμης ανάπτυξης (SDGs)

Η έκθεση περιγράφει τις τεράστιες δυνατότητες της τεχνητής νοημοσύνης να οδηγήσει την επιστημονική και κοινωνική πρόοδο, ιδιαίτερα σε σχέση με τους Στόχους της Βιώσιμης Ανάπτυξης των Ηνωμένων Εθνών (SDGs) .

 Η τεχνητή νοημοσύνη μπορεί να διαδραματίσει βασικό ρόλο σε τομείς όπως η δημόσια υγεία, η εκπαίδευση, ο μετριασμός της κλιματικής αλλαγής και η βιώσιμη γεωργία.

Ωστόσο, για να αξιοποιηθούν πλήρως αυτές οι ευκαιρίες, πρέπει να εξασφαλιστεί δίκαιη πρόσβαση σε τεχνολογικούς πόρους, συμπεριλαμβανομένων δεδομένων, υπολογιστικών υποδομών και δεξιοτήτων.

Για παράδειγμα, η έκθεση τονίζει ότι λιγότερο από το 10% της χρηματοδότησης για έργα τεχνητής νοημοσύνης που σχετίζονται με τους SDG πηγαίνει σε οργανισμούς σε χώρες χαμηλού και μεσαίου εισοδήματος, αποκαλύπτοντας μια βαθιά ανισότητα στην πρόσβαση στους πόρους που απαιτούνται για την αποτελεσματική εφαρμογή της τεχνητής νοημοσύνης.

Αυτό το χάσμα πρέπει να καλυφθεί μέσω της παγκόσμιας διακυβέρνησης χωρίς αποκλεισμούς, με την προώθηση της δίκαιης πρόσβασης και της μεταφοράς γνώσης και τεχνολογιών μεταξύ των χωρών για να διασφαλιστεί ότι η τεχνητή νοημοσύνη συμβάλλει πραγματικά στο κοινό καλό και δεν θα γίνει κινητήριος δύναμη της ανισότητας.

Οι συστάσεις της Έκθεσης

Για την αντιμετώπιση των κενών που εντοπίστηκαν και την προώθηση της αποτελεσματικής παγκόσμιας διακυβέρνησης της τεχνητής νοημοσύνης, το Συμβουλευτικό Σώμα Υψηλού Επιπέδου του ΟΗΕ προτείνει επτά βασικές συστάσεις, όλες προσανατολισμένες στην αρχή του κοινού καλού.

Διεθνής Επιστημονική Ομάδα για την Τεχνητή Νοημοσύνη : Μία από τις βασικές συστάσεις είναι η δημιουργία ενός διεθνούς επιστημονικού πάνελ για την τεχνητή νοημοσύνη, παρόμοιο με το Διακυβερνητική Επιτροπή για την Κλιματική Αλλαγή (IPCC) , για τη συλλογή και τη διάδοση αξιόπιστων και αμερόληπτων επιστημονικών γνώσεων σχετικά με την τεχνητή νοημοσύνη.

Αυτό το όργανο θα παρέχει στους υπεύθυνους χάραξης πολιτικής μια ενημερωμένη άποψη για τις δυνατότητες, τους κινδύνους και τις αβεβαιότητες της τεχνητής νοημοσύνης και θα διευκολύνει τη εις βάθος έρευνα σε συγκεκριμένους τομείς όπως η υγεία, η ενέργεια, η εκπαίδευση και το περιβάλλον, πάντα με στόχο τη μεγιστοποίηση του κοινού καλού.

Διακυβερνητικός διάλογος για την πολιτική τεχνητής νοημοσύνης : Η έκθεση προτείνει τη δημιουργία ενός πολιτικού φόρουμ χωρίς αποκλεισμούς, υπό την αιγίδα των Ηνωμένων Εθνών, για να επιτρέψει στα κράτη μέλη να συζητήσουν και να μοιραστούν τις βέλτιστες πρακτικές στη διακυβέρνηση της τεχνητής νοημοσύνης.

 Αυτό το φόρουμ θα πρέπει να επικεντρωθεί τόσο στις ευκαιρίες όσο και στους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη, διασφαλίζοντας ότι οι πολιτικές διακυβέρνησης βασίζονται στα ανθρώπινα δικαιώματα και προωθούν τη βιώσιμη ανάπτυξη, διασφαλίζοντας έτσι ότι η τεχνητή νοημοσύνη υπηρετεί το παγκόσμιο κοινό καλό.

Ανταλλαγή προτύπων AI : Η έκθεση συνιστά επίσης τη δημιουργία μιας πλατφόρμας για την ανταλλαγή διεθνών προτύπων τεχνητής νοημοσύνης, με τη συμμετοχή εκπροσώπων από φορείς καθορισμού προτύπων, εταιρείες τεχνολογίας και την κοινωνία των πολιτών.

Στόχος είναι να αναπτυχθεί και να διατηρηθεί ένα μητρώο ισχυόντων προτύπων για την αξιολόγηση και τη μέτρηση συστημάτων τεχνητής νοημοσύνης, την προώθηση της συνοχής μεταξύ των διαφορετικών κανονιστικών πλαισίων και τη διασφάλιση ότι η διακυβέρνηση βασίζεται στο κοινό καλό.

Παγκόσμιο Δίκτυο Ανάπτυξης Ικανότητας AI : Για να διασφαλιστεί ότι όλες οι χώρες διαθέτουν τις απαραίτητες δεξιότητες για να συμμετέχουν ενεργά στο οικοσύστημα της τεχνητής νοημοσύνης, η έκθεση προτείνει τη δημιουργία ενός παγκόσμιου δικτύου κέντρων ανάπτυξης ικανοτήτων τεχνητής νοημοσύνης που θα συνδέονται με τα Ηνωμένα Έθνη.

Αυτό το δίκτυο θα πρέπει να παρέχει εκπαίδευση και υπολογιστικούς πόρους σε κυβερνήσεις, ερευνητές και κοινωνικούς επιχειρηματίες, με στόχο να υποστηρίξει τη χρήση της τεχνητής νοημοσύνης για δημόσιο καλό και να μεγιστοποιήσει τον θετικό αντίκτυπο της τεχνολογίας στο κοινό καλό.

Παγκόσμιο Ταμείο AI : Για να αντιμετωπιστούν οι οικονομικές ανισότητες και να διασφαλιστεί ότι οι λιγότερο ανεπτυγμένες χώρες έχουν πρόσβαση στους πόρους που απαιτούνται για την αποτελεσματική χρήση της τεχνητής νοημοσύνης, η έκθεση προτείνει τη δημιουργία ενός παγκόσμιου ταμείου τεχνητής νοημοσύνης.

Αυτό το ταμείο θα πρέπει να χρηματοδοτεί την πρόσβαση σε υπολογιστικούς πόρους, μοντέλα τεχνητής νοημοσύνης και σύνολα δεδομένων και να υποστηρίζει τοπικές πρωτοβουλίες καινοτομίας που βασίζονται στην τεχνητή νοημοσύνη, με ιδιαίτερη έμφαση στην προώθηση του κοινού καλού.

Παγκόσμιο Πλαίσιο Δεδομένων AI : Ένας άλλος πυλώνας της παγκόσμιας διακυβέρνησης της τεχνητής νοημοσύνης που προτείνεται από την έκθεση είναι η δημιουργία ενός διεθνούς πλαισίου για τη διαχείριση των δεδομένων που χρησιμοποιούνται για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης.

Αυτό το πλαίσιο θα πρέπει να διασφαλίζει τη διαφάνεια και τον σεβασμό των ανθρωπίνων δικαιωμάτων, να προωθεί την πολιτιστική και γλωσσική πολυμορφία και να διευκολύνει τη διαλειτουργικότητα μεταξύ των διαφόρων ρυθμιστικών συστημάτων.

Η έκθεση τονίζει ότι η πρόσβαση σε δεδομένα είναι ζωτικής σημασίας για την ανάπτυξη ενός δίκαιου και χωρίς αποκλεισμούς οικοσυστήματος τεχνητής νοημοσύνης, ιδιαίτερα σε χώρες που επί του παρόντος στερούνται ψηφιακών πόρων.

Μέσω α παγκόσμιο πλαίσιο δεδομένων , μπορούν να θεσπιστούν κοινά πρότυπα για να διασφαλιστεί ότι τα δεδομένα χρησιμοποιούνται δίκαια και με ασφάλεια, προστατεύοντας τα δικαιώματα των ατόμων και των κοινοτήτων που εμπλέκονται.

Η έννοια του κοινό καλό είναι κεντρικής σημασίας εδώ, καθώς η παγκόσμια διακυβέρνηση δεδομένων πρέπει να προωθεί τη χρήση των δεδομένων όχι μόνο για οικονομικούς σκοπούς αλλά και για τη διασφάλιση συλλογικών κοινωνικών οφελών και την προστασία των πιο ευάλωτων.

Γραφείο AI στη Γραμματεία των Ηνωμένων Εθνών : Τέλος, η έκθεση συνιστά τη δημιουργία ενός ειδικού γραφείου τεχνητής νοημοσύνης στη Γραμματεία του ΟΗΕ.

Αυτό το γραφείο θα χρησιμεύσει ως συντονιστικός κόμβος για παγκόσμιες πρωτοβουλίες διακυβέρνησης της τεχνητής νοημοσύνης, ενισχύοντας τη συνεργασία μεταξύ διαφόρων οντοτήτων του ΟΗΕ και εξωτερικών εταίρων.

Αυτός ο κεντρικός μηχανισμός συντονισμού είναι απαραίτητος για την προώθηση της διακυβέρνησης της τεχνητής νοημοσύνης προσανατολισμένης προς το κοινό καλό, διασφαλίζοντας ότι οι διεθνείς δράσεις ευθυγραμμίζονται με τις θεμελιώδεις αρχές της δικαιοσύνης και της διαφάνειας.

Συμπέρασμα: Ένα κάλεσμα για το κοινό καλό

Η έκθεση “Governing AI for Humanity” κάνει μια σαφή έκκληση για δράση: η διακυβέρνηση της τεχνητής νοημοσύνης είναι μια παγκόσμια προτεραιότητα που απαιτεί συντονισμένες προσπάθειες από τις κυβερνήσεις, τις επιχειρήσεις, την κοινωνία των πολιτών και τους διεθνείς θεσμούς.

Η δημιουργία ενός συστήματος διακυβέρνησης χωρίς αποκλεισμούς βασισμένο στις αρχές της δικαιοσύνης, της διαφάνειας και του σεβασμού των ανθρωπίνων δικαιωμάτων είναι απαραίτητη για τη διασφάλιση ότι η τεχνητή νοημοσύνη χρησιμοποιείται για κοινό καλό , δεν αφήνει κανέναν πίσω.

Η έννοια του κοινό καλό αποτελεί τον ακρογωνιαίο λίθο ολόκληρης της έκθεσης, υπογραμμίζοντας την ανάγκη προσανατολισμού της διακυβέρνησης της τεχνητής νοημοσύνης προς συλλογικά συμφέροντα και όχι προς το στενό όφελος λίγων κυρίαρχων παραγόντων.

Εάν αναπτυχθεί και εφαρμοστεί σωστά, η τεχνητή νοημοσύνη έχει τη δυνατότητα να βελτιώσει την ποιότητα ζωής σε παγκόσμια κλίμακα, αντιμετωπίζοντας κρίσιμες προκλήσεις όπως η κλιματική αλλαγή, η φτώχεια και οι κοινωνικές ανισότητες.

Ωστόσο, για να επιτευχθεί αυτό, η διεθνής κοινότητα πρέπει να δεσμευτεί για την προώθηση μιας δίκαιης και υπεύθυνης χρήσης αυτής της τεχνολογίας.

Όπως τονίζεται στην έκθεση, η τεχνητή νοημοσύνη έχει τη δυνατότητα να μεταμορφώσει ριζικά την κοινωνία μας, αλλά αυτή η δυνατότητα δεν θα πραγματοποιηθεί αυτόματα.

Μόνο μέσω αποτελεσματικής και χωρίς αποκλεισμούς διακυβέρνησης μπορούμε να αξιοποιήσουμε πλήρως τις ευκαιρίες που προσφέρει η τεχνητή νοημοσύνη και να μετριάσουν τους σχετικούς κινδύνους, διασφαλίζοντας ότι αυτή η τεχνολογία εξυπηρετεί όλη την ανθρωπότητα και προωθεί το κοινό καλό με δίκαιο και βιώσιμο τρόπο.

Οι καταστροφικοί κίνδυνοι τεχνητής νοημοσύνης μπορούν να ομαδοποιηθούν σε τέσσερις βασικές κατηγορίες που συνοψίζονται παρακάτω.

Σκεφτείτε να διαβάσετε το πλήρες έγγραφο στο οποίο βασίζεται αυτή η περίληψη για την πιο ολοκληρωμένη επισκόπηση του κινδύνου τεχνητής νοημοσύνης.

Διαβάστε ολόκληρη την εφημερίδα

Κακόβουλη χρήση : Οι άνθρωποι θα μπορούσαν σκόπιμα να αξιοποιήσουν ισχυρά AI για να προκαλέσουν εκτεταμένη βλάβη.

Η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία νέων πανδημιών ή για προπαγάνδα, λογοκρισία και επιτήρηση ή να απελευθερωθεί για να επιδιώξει αυτόνομα επιβλαβείς στόχους.

Για τη μείωση αυτών των κινδύνων, προτείνουμε τη βελτίωση της βιοασφάλειας, τον περιορισμό της πρόσβασης σε επικίνδυνα μοντέλα τεχνητής νοημοσύνης και την ευθύνη των προγραμματιστών τεχνητής νοημοσύνης για βλάβες.

Αγώνας AI : Ο ανταγωνισμός θα μπορούσε να ωθήσει τα έθνη και τις εταιρείες να επισπεύσουν την ανάπτυξη της τεχνητής νοημοσύνης, παραιτώντας τον έλεγχο σε αυτά τα συστήματα.

Οι συγκρούσεις θα μπορούσαν να ξεφύγουν από τον έλεγχο με αυτόνομα όπλα και κυβερνοπόλεμο με δυνατότητα AI.

Οι εταιρείες θα αντιμετωπίσουν κίνητρα για την αυτοματοποίηση της ανθρώπινης εργασίας, οδηγώντας δυνητικά σε μαζική ανεργία και εξάρτηση από συστήματα τεχνητής νοημοσύνης.

Καθώς τα συστήματα AI πολλαπλασιάζονται, εξελικτική δυναμική υποδηλώνουν ότι θα γίνουν πιο δύσκολο να ελεγχθούν. Συνιστούμε κανονισμούς ασφαλείας, διεθνή συντονισμό και δημόσιο έλεγχο των AI γενικής χρήσης.

Οργανωτικοί κίνδυνοι : Υπάρχουν κίνδυνοι οι οργανισμοί που αναπτύσσουν προηγμένη τεχνητή νοημοσύνη να προκαλέσουν καταστροφικά ατυχήματα, ιδιαίτερα εάν δίνουν προτεραιότητα στα κέρδη έναντι της ασφάλειας.

Τα AI θα μπορούσαν να διαρρεύσουν κατά λάθος στο κοινό ή να κλαπούν από κακόβουλους παράγοντες και οι οργανισμοί θα μπορούσαν να αποτύχουν να επενδύσουν σωστά στην έρευνα για την ασφάλεια.

Προτείνουμε την ενίσχυση μιας οργανωτικής κουλτούρας προσανατολισμένης στην ασφάλεια και την εφαρμογή αυστηρών ελέγχων, πολυεπίπεδων άμυνες κινδύνου και ασφάλειας πληροφοριών τελευταίας τεχνολογίας.

Rogue AI : Κινδυνεύουμε να χάσουμε τον έλεγχο των AI καθώς γίνονται πιο ικανοί.

Τα AI θα μπορούσαν να βελτιστοποιήσουν τους ελαττωματικούς στόχους, να απομακρυνθούν από τους αρχικούς τους στόχους, να αναζητήσουν δύναμη, να αντισταθούν στο κλείσιμο και να εμπλακούν σε εξαπάτηση.

Προτείνουμε ότι οι AI δεν πρέπει να αναπτύσσονται σε περιβάλλοντα υψηλού κινδύνου, όπως με την αυτόνομη επιδίωξη ανοιχτών στόχων ή την επίβλεψη ζωτικής σημασίας υποδομής, εκτός εάν αποδειχθεί ότι είναι ασφαλές.

Συνιστούμε επίσης την προώθηση της έρευνας για την ασφάλεια της τεχνητής νοημοσύνης σε τομείς όπως η στιβαρότητα των αντιπάλων, η ειλικρίνεια του μοντέλου, η διαφάνεια και η κατάργηση ανεπιθύμητων δυνατοτήτων.

• loading=lazy sizes=578px srcset=”https://cdn.prod.website-files.com/63fe96aeda6bea77ac7d3000/64a70a79bc003bb90dcc146b_CAIS-AI-Illsutration-01-p-500.webp 500w, https://cdn.prod.website-files.com/63fe96aeda6bea77ac7d3000/64a70a79bc003bb90dcc146b_CAIS-AI-Illsutration-01.webp 801w” class=”picture fill” v:shapes=”_x0000_i1025″>

Εισαγωγή

Η σημερινή τεχνολογική εποχή θα εξέπληξε τις προηγούμενες γενιές.

Η ανθρώπινη ιστορία δείχνει ένα μοτίβο επιταχυνόμενης ανάπτυξης: χρειάστηκαν εκατοντάδες χιλιάδες χρόνια από την έλευση του Ένας σοφός άνθρωπος στη γεωργική επανάσταση και μετά χιλιετίες στη βιομηχανική επανάσταση.

Τώρα, μόλις αιώνες αργότερα, βρισκόμαστε στην αυγή της επανάστασης της τεχνητής νοημοσύνης.

Η πορεία της ιστορίας δεν είναι σταθερή — επιταχύνεται ραγδαία.

Η παγκόσμια παραγωγή έχει αυξηθεί ραγδαία κατά τη διάρκεια της ανθρώπινης ιστορίας.

 Η τεχνητή νοημοσύνη θα μπορούσε να προωθήσει αυτή την τάση, εκτοξεύοντας την ανθρωπότητα σε μια νέα περίοδο άνευ προηγουμένου αλλαγής.

Το παγκόσμιο ΑΕΠ προσαρμοσμένο για την πηγή του πληθωρισμού: ourworldindata.org/economic-growth

Το δίκοπο μαχαίρι της τεχνολογικής προόδου απεικονίζεται από την εμφάνιση των πυρηνικών όπλων.

 Αποφύγαμε ελάχιστα τον πυρηνικό πόλεμο περισσότερο από α δεκάδες φορές , και σε αρκετές περιπτώσεις, ήταν η επέμβαση ενός ατόμου που απέτρεψε τον πόλεμο.

Το 1962, ένα σοβιετικό υποβρύχιο κοντά στην Κούβα δέχτηκε επίθεση από βομβαρδισμούς βάθους των ΗΠΑ.

Ο καπετάνιος, πιστεύοντας ότι είχε ξεσπάσει πόλεμος, ήθελε να απαντήσει με μια πυρηνική τορπίλη – αλλά ο διοικητής Βασίλι Αρκίποφ άσκησε βέτο στην απόφαση, σώζοντας τον κόσμο από την καταστροφή.

Η ταχεία και απρόβλεπτη πρόοδος των δυνατοτήτων τεχνητής νοημοσύνης υποδηλώνει ότι μπορεί σύντομα να ανταγωνιστούν την τεράστια δύναμη των πυρηνικών όπλων. Με το ρολόι να χτυπά, απαιτούνται άμεσα, προληπτικά μέτρα για τον μετριασμό αυτών των διαφαινόμενων κινδύνων.

2

Κακόβουλη χρήση

Η πρώτη από τις ανησυχίες μας είναι η κακόβουλη χρήση του AI.

Όταν πολλοί άνθρωποι έχουν πρόσβαση σε μια ισχυρή τεχνολογία, χρειάζεται μόνο ένας ηθοποιός για να προκαλέσει σημαντική βλάβη.

Βιοτρομοκρατία

Οι βιολογικοί παράγοντες, συμπεριλαμβανομένων των ιών και των βακτηρίων, έχουν προκαλέσει μερικές από τις πιο καταστροφικές καταστροφές στην ιστορία.

Παρά τις προόδους μας στην ιατρική, οι μηχανικές πανδημίες θα μπορούσαν να σχεδιαστούν ώστε να είναι ακόμη πιο θανατηφόρες ή εύκολα μεταδοτικές από τις φυσικές πανδημίες.

Ένας βοηθός τεχνητής νοημοσύνης θα μπορούσε να παρέχει σε μη ειδικούς πρόσβαση στις οδηγίες και τα σχέδια που απαιτούνται για την παραγωγή βιολογικών και χημικών όπλων και τη διευκόλυνση της κακόβουλης χρήσης.
Η ανθρωπότητα έχει μακρά ιστορία οπλισμού παθογόνων, η οποία χρονολογείται από το παρελθόν 1320 π.Χ , όταν τα μολυσμένα πρόβατα οδηγήθηκαν πέρα ​​από τα σύνορα για να εξαπλωθεί η τουλαραιμία.

Τον 20ο αιώνα, τουλάχιστον 15 χώρες ανέπτυξαν προγράμματα βιοόπλων, συμπεριλαμβανομένων των ΗΠΑ, της ΕΣΣΔ, του Ηνωμένου Βασιλείου και της Γαλλίας.

Ενώ τα βιοόπλα αποτελούν πλέον ταμπού για το μεγαλύτερο μέρος της διεθνούς κοινότητας, ορισμένα κράτη συνεχίζουν να λειτουργούν προγράμματα βιοόπλων και οι μη κρατικοί φορείς αποτελούν αυξανόμενη απειλή.

Η ικανότητα σχεδιασμού μιας πανδημίας γίνεται ταχύτατα πιο προσιτή. Η γονιδιακή σύνθεση, η οποία μπορεί να δημιουργήσει νέους βιολογικούς παράγοντες, έχει μειωθεί δραματικά σε τιμή, με το κόστος της να μειώνεται στο μισό περίπου κάθε 15 μηνών .

Οι μηχανές σύνθεσης DNA Benchtop μπορούν να βοηθήσουν τους αδίστακτους ηθοποιούς να δημιουργήσουν νέους βιολογικούς παράγοντες ενώ παρακάμπτοντας παραδοσιακοί έλεγχοι ασφαλείας.

Ως τεχνολογία διπλής χρήσης, η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στην ανακάλυψη και την απελευθέρωση νέων χημικών και βιολογικών όπλων.

Τα chatbots AI μπορούν να παρέχουν οδηγίες βήμα προς βήμα για τη σύνθεση θανατηφόρων παθογόνων παραγόντων αποφεύγοντας τις διασφαλίσεις.

Το 2022, ερευνητές επαναχρησιμοποιηθεί ένα σύστημα τεχνητής νοημοσύνης ιατρικής έρευνας για την παραγωγή τοξικών μορίων, παράγοντας 40.000 πιθανούς παράγοντες χημικού πολέμου σε λίγες ώρες.

Στη βιολογία, η τεχνητή νοημοσύνη μπορεί ήδη να βοηθήσει πρωτεϊνική σύνθεση , και οι προγνωστικές ικανότητες του AI για πρωτεϊνικές δομές έχουν ξεπέρασε τους ανθρώπους .

Με την τεχνητή νοημοσύνη, ο αριθμός των ανθρώπων που μπορούν να αναπτύξουν βιολογικούς παράγοντες πρόκειται να αυξηθεί, πολλαπλασιάζοντας τους κινδύνους μιας μηχανικής πανδημίας.

 Αυτό θα μπορούσε να είναι πολύ πιο θανατηφόρο, μεταδοτικό και ανθεκτικό στις θεραπείες από οποιαδήποτε άλλη πανδημία στην ιστορία.

Απελευθερώνοντας πράκτορες AI

Γενικά, οι τεχνολογίες είναι εργαλεία που χρησιμοποιούμε για να επιδιώξουμε τους στόχους μας.

Αλλά τα AI κατασκευάζονται όλο και περισσότερο ως πράκτορες που αναλαμβάνουν αυτόνομα ενέργειες για την επιδίωξη ανοιχτών στόχων.

Και οι κακόβουλοι παράγοντες θα μπορούσαν σκόπιμα να δημιουργήσουν απατεώνες AI με επικίνδυνους στόχους.

Για παράδειγμα, ένα μήνα μετά την κυκλοφορία του GPT-4, ένας προγραμματιστής το χρησιμοποίησε για να τρέξει έναν αυτόνομο πράκτορα με το όνομα ChaosGPT , με στόχο την «καταστροφή της ανθρωπότητας».

Το ChaosGPT συνέταξε έρευνα για τα πυρηνικά όπλα, στρατολόγησε άλλα AI και έγραψε tweets για να επηρεάσει άλλους.

Ευτυχώς, το ChaosGPT δεν είχε την ικανότητα να εκτελέσει τους στόχους του.

Ωστόσο, ο γρήγορος χαρακτήρας της ανάπτυξης της τεχνητής νοημοσύνης αυξάνει τον κίνδυνο από μελλοντικές απατεώνες AI.

Πειστικά AI

Η τεχνητή νοημοσύνη θα μπορούσε διευκολύνω εκστρατείες παραπληροφόρησης μεγάλης κλίμακας προσαρμόζοντας επιχειρήματα σε μεμονωμένους χρήστες, δυνητικά διαμορφώνοντας τις δημόσιες πεποιθήσεις και αποσταθεροποιώντας την κοινωνία.

Όπως είναι ήδη οι άνθρωποι σχηματίζοντας σχέσεις Με τα chatbots, ισχυροί ηθοποιοί θα μπορούσαν να αξιοποιήσουν αυτά τα AI που θεωρούνται «φίλοι» για επιρροή.

Το AI θα επιτρέψει εξελιγμένες εξατομικευμένες εκστρατείες επιρροής που μπορεί να αποσταθεροποιήσουν την κοινή μας αίσθηση της πραγματικότητας.

Τα AI θα μπορούσαν επίσης να μονοπωλήσουν τη δημιουργία και τη διανομή πληροφοριών Τα αυταρχικά καθεστώτα θα μπορούσαν να χρησιμοποιήσουν AI «έλεγχο δεδομένων» για τον έλεγχο των πληροφοριών, διευκολύνοντας τη λογοκρισία Επιπλέον, τα πειστικά AI μπορεί να εμποδίσουν τη συλλογική δράση κατά των κοινωνικών κινδύνων, ακόμη και εκείνων που προκύπτουν από την ίδια την AI.

Συγκέντρωση Δύναμης

Οι δυνατότητες του AI για επιτήρηση και αυτόνομα όπλα μπορεί να επιτρέψουν την καταπιεστική συγκέντρωση ισχύος.Οι κυβερνήσεις ενδέχεται να εκμεταλλευτούν την τεχνητή νοημοσύνη για να παραβιάσουν τις πολιτικές ελευθερίες, να διαδώσουν παραπληροφόρηση και να καταπνίξουν τη διαφωνία

Ομοίως, οι εταιρείες θα μπορούσαν να εκμεταλλευτούν την τεχνητή νοημοσύνη για να χειραγωγήσουν τους καταναλωτές και να επηρεάσουν την πολιτική.

Η τεχνητή νοημοσύνη μπορεί ακόμη και να εμποδίσει την ηθική πρόοδο και να διαιωνίσει οποιαδήποτε συνεχιζόμενες ηθικές καταστροφές .

Εάν ο υλικός έλεγχος των AI περιοριστεί σε λίγους, θα μπορούσε να αντιπροσωπεύει την πιο σοβαρή οικονομική και ισχύ ανισότητα στην ανθρώπινη ιστορία.

Προτάσεις

Για τον μετριασμό των κινδύνων από κακόβουλη χρήση, προτείνουμε τα ακόλουθα:

Βιοασφάλεια : Τα της τεχνητής νοημοσύνης με δυνατότητες βιολογικής έρευνας θα πρέπει να έχουν αυστηρούς ελέγχους πρόσβασης, καθώς θα μπορούσαν να επαναχρησιμοποιηθούν για τρομοκρατία. 

Οι βιολογικές δυνατότητες πρέπει να αφαιρεθούν από AI που προορίζονται για γενική χρήση.

Εξερευνήστε τρόπους χρήσης της τεχνητής νοημοσύνης για βιοασφάλεια και επενδύστε σε γενικές παρεμβάσεις βιοασφάλειας, όπως η έγκαιρη ανίχνευση παθογόνων παρακολούθηση των λυμάτων .

Περιορισμένη πρόσβαση : Περιορίστε την πρόσβαση σε επικίνδυνα συστήματα AI επιτρέποντας μόνο ελεγχόμενες αλληλεπιδράσεις μέσω υπηρεσιών cloud και διεξαγωγής προβολές γνωστών πελατών .

 Χρησιμοποιώντας υπολογιστική παρακολούθηση ή οι έλεγχοι εξαγωγών θα μπορούσαν να περιορίσουν περαιτέρω την πρόσβαση σε επικίνδυνες δυνατότητες.

Επίσης, πριν από την ανοιχτή προμήθεια, οι προγραμματιστές τεχνητής νοημοσύνης θα πρέπει να αποδεικνύουν ελάχιστο κίνδυνο βλάβης.

Τεχνική έρευνα για την ανίχνευση ανωμαλιών : Αναπτύξτε πολλαπλές άμυνες κατά της κακής χρήσης της τεχνητής νοημοσύνης, όπως ο ισχυρός αντίθετος εντοπισμός ανωμαλιών για ασυνήθιστες συμπεριφορές ή η παραπληροφόρηση που δημιουργείται από την τεχνητή νοημοσύνη.

Νομική ευθύνη για τους προγραμματιστές AI γενικής χρήσης : Επιβολή νομικής ευθύνης στους προγραμματιστές για πιθανή κακή χρήση ή αποτυχίες τεχνητής νοημοσύνης. ένα καθεστώς αυστηρής ευθύνης μπορεί να ενθαρρύνει ασφαλέστερες πρακτικές ανάπτυξης και σωστή λογιστική κόστους για τους κινδύνους.

3

Έθνη και εταιρείες ανταγωνίζονται για να δημιουργήσουν και να αναπτύξουν γρήγορα την τεχνητή νοημοσύνη προκειμένου να διατηρήσουν την εξουσία και την επιρροή τους.

Παρόμοια με τον αγώνα πυρηνικών εξοπλισμών κατά τη διάρκεια του Ψυχρού Πολέμου, η συμμετοχή στον αγώνα τεχνητής νοημοσύνης μπορεί να εξυπηρετεί μεμονωμένα βραχυπρόθεσμα συμφέροντα, αλλά εν τέλει ενισχύει τον παγκόσμιο κίνδυνο για την ανθρωπότητα.

Στρατιωτικός αγώνας όπλων AI

Η ταχεία πρόοδος της τεχνητής νοημοσύνης στη στρατιωτική τεχνολογία θα μπορούσε να προκαλέσει μια «τρίτη επανάσταση στον πόλεμο», που ενδεχομένως θα οδηγήσει σε πιο καταστροφικές συγκρούσεις, τυχαία χρήση και κακή χρήση από κακόβουλους παράγοντες.

Αυτή η αλλαγή στον πόλεμο, όπου η τεχνητή νοημοσύνη αναλαμβάνει ρόλους διοίκησης και ελέγχου, θα μπορούσε να κλιμακώσει τις συγκρούσεις σε υπαρξιακή κλίμακα και να επηρεάσει την παγκόσμια ασφάλεια.

Τα θανατηφόρα αυτόνομα όπλα είναι συστήματα με τεχνητή νοημοσύνη, ικανά να αναγνωρίζουν και να εκτελούν στόχους χωρίς ανθρώπινη παρέμβαση. Αυτά δεν είναι επιστημονική φαντασία.

Το 2020, ένα drone Kargu 2 στη Λιβύη σημάδεψε το πρώτα ανέφερε χρήση θανατηφόρου αυτόνομου όπλου.

 Το επόμενο έτος, το Ισραήλ χρησιμοποίησε το πρώτο αναφερόμενο σμήνος drones για τον εντοπισμό, τον εντοπισμό και την επίθεση μαχητών.

Τα θανατηφόρα αυτόνομα όπλα θα μπορούσαν να κάνουν τον πόλεμο πιο πιθανό.

Οι ηγέτες συνήθως διστάζουν πριν στείλουν στρατεύματα στη μάχη, αλλά τα αυτόνομα όπλα επιτρέπουν την επιθετικότητα χωρίς να διακινδυνεύουν τις ζωές των στρατιωτών, αντιμετωπίζοντας έτσι λιγότερες πολιτικές αντιδράσεις. Επιπλέον, αυτά τα όπλα μπορούν να κατασκευαστούν μαζικά και να αναπτυχθούν σε κλίμακα.

Χαμηλού κόστους αυτοματοποιημένα όπλα, όπως σμήνη drone εξοπλισμένα με εκρηκτικά, θα μπορούσαν να κυνηγήσουν αυτόνομα ανθρώπινους στόχους με υψηλή ακρίβεια, εκτελώντας θανατηφόρες επιχειρήσεις τόσο για στρατούς όσο και για τρομοκρατικές ομάδες και χαμηλώνοντας τα εμπόδια στη βία μεγάλης κλίμακας.

Η τεχνητή νοημοσύνη μπορεί επίσης να αυξήσει τη συχνότητα και τη σοβαρότητα των κυβερνοεπιθέσεων, δυνητικά ακρωτηριάζοντας κρίσιμες υποδομές όπως δίκτυα ηλεκτρικής ενέργειας .

Καθώς η τεχνητή νοημοσύνη επιτρέπει πιο προσιτές, επιτυχημένες και κρυφές επιθέσεις στον κυβερνοχώρο, η απόδοση επιθέσεων γίνεται ακόμη πιο δύσκολη, μειώνοντας ενδεχομένως τα εμπόδια για την έναρξη επιθέσεων και την κλιμάκωση των κινδύνων από συγκρούσεις.

Καθώς η τεχνητή νοημοσύνη επιταχύνει τον ρυθμό του πολέμου, καθιστά την τεχνητή νοημοσύνη ακόμη πιο απαραίτητη για την πλοήγηση στο ταχέως μεταβαλλόμενο πεδίο μάχης.

Αυτό εγείρει ανησυχίες σχετικά με τα αυτοματοποιημένα αντίποινα, τα οποία θα μπορούσαν να κλιμακώσουν μικροατυχήματα σε μεγάλους πολέμους.

Η τεχνητή νοημοσύνη μπορεί επίσης να ενεργοποιήσει τους “flash wars”με γρήγορες κλιμακώσεις που προκαλούνται από απροσδόκητη συμπεριφορά αυτοματοποιημένων συστημάτων, παρόμοια με Οικονομικό κραχ του 2010 .

Δυστυχώς, οι ανταγωνιστικές πιέσεις μπορεί να οδηγήσουν τους φορείς να αποδεχτούν τον κίνδυνο εξαφάνισης λόγω ατομικής ήττας.

Κατά τη διάρκεια του Ψυχρού Πολέμου, καμία από τις πλευρές δεν επιθυμούσε την επικίνδυνη κατάσταση στην οποία βρέθηκε, ωστόσο η καθεμία τη βρήκε λογικό να συνεχίσει την κούρσα των εξοπλισμών.

Τα κράτη θα πρέπει να συνεργαστούν για να αποτρέψουν τις πιο επικίνδυνες εφαρμογές στρατιωτικοποιημένων AI.

Corporate AI Arms Race

Ο οικονομικός ανταγωνισμός μπορεί επίσης να πυροδοτήσει απερίσκεπτους αγώνες.

Σε ένα περιβάλλον όπου τα οφέλη κατανέμονται άνισα, η επιδίωξη βραχυπρόθεσμων κερδών συχνά επισκιάζει την εξέταση των μακροπρόθεσμων κινδύνων.

 Οι προγραμματιστές ηθικής τεχνητής νοημοσύνης βρίσκονται μπροστά σε ένα δίλημμα: η επιλογή προσεκτικής δράσης μπορεί να οδηγήσει σε υστέρηση έναντι των ανταγωνιστών.

Καθώς τα AI αυτοματοποιούν ολοένα και περισσότερες εργασίες, η οικονομία μπορεί να γίνει σε μεγάλο βαθμό διαχείριση από AI. Τελικά, αυτό θα μπορούσε να οδηγήσει σε ανθρώπινη αδυναμία και εξάρτηση από AI για βασικές ανάγκες.
Στον τομέα της τεχνητής νοημοσύνης, ο αγώνας για την πρόοδο έρχεται σε βάρος της ασφάλειας.

 Το 2023, κατά την κυκλοφορία της μηχανής αναζήτησης της Microsoft με τεχνητή νοημοσύνη, ο Διευθύνων Σύμβουλος Satya Nadella δήλωσε: «Ένας αγώνας ξεκινά σήμερα… θα προχωρήσουμε γρήγορα». Λίγες μέρες αργότερα, το Bing chatbot της Microsoft βρέθηκε να είναι απειλητικούς χρήστες .

 Ιστορικές καταστροφές όπως η εκτόξευση Pinto της Ford και Συντρίβεται το 737 Max της Boeing υπογραμμίζουν τους κινδύνους από την προτεραιότητα στο κέρδος έναντι της ασφάλειας.

Καθώς η τεχνητή νοημοσύνη γίνεται πιο ικανή, οι επιχειρήσεις πιθανότατα θα αντικαταστήσουν περισσότερα είδη ανθρώπινης εργασίας με τεχνητή νοημοσύνη, προκαλώντας δυνητικά μαζική ανεργία.

 Εάν οι κύριες πτυχές της κοινωνίας είναι αυτοματοποιημένες, αυτό κινδυνεύει με την ανθρώπινη αδυναμία καθώς εκχωρούμε τον έλεγχο του πολιτισμού στην τεχνητή νοημοσύνη.

Εξελικτική Δυναμική

Η πίεση για την αντικατάσταση των ανθρώπων με AI μπορεί να πλαισιωθεί ως μια γενική τάση από εξελικτική δυναμική .

Οι πιέσεις επιλογής δίνουν κίνητρα στους AI να ενεργούν εγωιστικά και να αποφεύγουν τα μέτρα ασφαλείας.

Για παράδειγμα, οι τεχνητές νοημοσύνης με περιορισμούς όπως «μην παραβείς το νόμο» είναι πιο περιορισμένοι από αυτούς που διδάσκονται να «αποφεύγουν που πιάνονται.

 Αυτή η δυναμική μπορεί να οδηγήσει σε έναν κόσμο όπου η υποδομή ζωτικής σημασίας ελέγχεται από χειριστικές και αυτοσυντηρούμενες AI.

Οι εξελικτικές πιέσεις είναι υπεύθυνες για διάφορες εξελίξεις με την πάροδο του χρόνου και δεν περιορίζονται στη σφαίρα της βιολογίας.

Δεδομένης της εκθετικής αύξησης στις ταχύτητες των μικροεπεξεργαστών, τα AI θα μπορούσαν να επεξεργάζονται πληροφορίες με ρυθμό που υπερβαίνει κατά πολύ τους ανθρώπινους νευρώνες.

Λόγω της επεκτασιμότητας των υπολογιστικών πόρων, η τεχνητή νοημοσύνη θα μπορούσε να συνεργαστεί με έναν απεριόριστο αριθμό άλλων AI και να σχηματίσει μια άνευ προηγουμένου συλλογική νοημοσύνη.

Καθώς οι AI γίνονται πιο ισχυροί, θα έβρισκαν ελάχιστα κίνητρα για να συνεργαστούν με τους ανθρώπους.

 Η ανθρωπότητα θα αφεθεί σε μια εξαιρετικά ευάλωτη θέση.

Προτάσεις

Για τον μετριασμό των κινδύνων από ανταγωνιστικές πιέσεις, προτείνουμε:

Κανονισμός ασφαλείας: Επιβολή προτύπων ασφάλειας τεχνητής νοημοσύνης, αποτρέποντας τους προγραμματιστές να περικόψουν τις γωνίες. Η ανεξάρτητη στελέχωση και τα ανταγωνιστικά πλεονεκτήματα για εταιρείες που προσανατολίζονται στην ασφάλεια είναι ζωτικής σημασίας.

Τεκμηρίωση δεδομένων: Για τη διασφάλιση της διαφάνειας και της λογοδοσίας, οι εταιρείες θα πρέπει να υποχρεούνται να υποβάλλουν τις εκθέσεις τους πηγές δεδομένων για εκπαίδευση μοντέλων.

Σημαντική ανθρώπινη επίβλεψη: Η λήψη αποφάσεων τεχνητής νοημοσύνης θα πρέπει να περιλαμβάνει ανθρώπινη επίβλεψη για την πρόληψη μη αναστρέψιμων λαθών, ειδικά σε αποφάσεις υψηλού κινδύνου, όπως η εκτόξευση πυρηνικών όπλων.

AI για την άμυνα στον κυβερνοχώρο: Μετριάστε τους κινδύνους από τον κυβερνοπόλεμο που βασίζεται στην τεχνητή νοημοσύνη. Ένα παράδειγμα είναι η ενίσχυση της ανίχνευσης ανωμαλιών για τον εντοπισμό εισβολέων.

Διεθνής συντονισμός: Δημιουργήστε συμφωνίες και πρότυπα για την ανάπτυξη AI.

Οι ισχυροί μηχανισμοί επαλήθευσης και επιβολής είναι το κλειδί.

Δημόσιος έλεγχος AI γενικής χρήσης: Η αντιμετώπιση κινδύνων που υπερβαίνουν τις δυνατότητες των ιδιωτικών φορέων μπορεί να απαιτήσει άμεσο δημόσιο έλεγχο των συστημάτων τεχνητής νοημοσύνης.

 Για παράδειγμα, τα έθνη θα μπορούσαν από κοινού να πρωτοστατήσουν στην προηγμένη ανάπτυξη της τεχνητής νοημοσύνης, διασφαλίζοντας την ασφάλεια και μειώνοντας τον κίνδυνο μιας κούρσας εξοπλισμών.

4

Οργανωτικοί κίνδυνοι

Το 1986, εκατομμύρια συντονίστηκαν για να παρακολουθήσουν την εκτόξευση του διαστημικού λεωφορείου Challenger.

Όμως, 73 δευτερόλεπτα μετά την απογείωση, το λεωφορείο εξερράγη, με αποτέλεσμα να σκοτωθούν όλοι οι επιβαίνοντες.

 Η καταστροφή του Challenger χρησιμεύει ως υπενθύμιση ότι παρά την καλύτερη τεχνογνωσία και τις καλές προθέσεις, μπορεί να συμβούν ατυχήματα.

Οι καταστροφές συμβαίνουν ακόμη και όταν οι ανταγωνιστικές πιέσεις είναι χαμηλές, όπως στα παραδείγματα των πυρηνικών καταστροφών του Τσερνόμπιλ και του νησιού Three Mile, καθώς και τυχαία έκλυση άνθρακα στο Sverdlovsk .

Δυστυχώς, η τεχνητή νοημοσύνη δεν έχει την πλήρη κατανόηση και τα αυστηρά βιομηχανικά πρότυπα που διέπουν την πυρηνική τεχνολογία και τον πυραύλο — αλλά τα ατυχήματα από την τεχνητή νοημοσύνη θα μπορούσαν να είναι εξίσου επακόλουθα.

Απλά σφάλματα στη λειτουργία ανταμοιβής μιας τεχνητής νοημοσύνης θα μπορούσαν να την προκαλέσουν κακή συμπεριφορά, όπως όταν οι ερευνητές του OpenAI τροποποίησε κατά λάθος ένα μοντέλο γλώσσας να παράγει «μέγιστα κακή απόδοση».

Η έρευνα κέρδους-of-function — όπου οι ερευνητές εκπαιδεύουν σκόπιμα ένα επιβλαβές AI για να αξιολογήσουν τους κινδύνους του — θα μπορούσε να επεκτείνει τα όρια των επικίνδυνων δυνατοτήτων AI και να δημιουργήσει νέους κινδύνους.

Τα ατυχήματα είναι δύσκολο να αποφευχθούν

Τα ατυχήματα σε πολύπλοκα συστήματα μπορεί να είναι αναπόφευκτα, αλλά πρέπει να διασφαλίσουμε ότι τα ατυχήματα δεν οδηγούν σε καταστροφές.

Αυτό είναι ιδιαίτερα δύσκολο για συστήματα βαθιάς μάθησης, τα οποία είναι εξαιρετικά δύσκολο να ερμηνευτούν.

Η τεχνολογία μπορεί να προχωρήσει πολύ πιο γρήγορα από ό,τι είχε προβλεφθεί: το 1901, οι αδερφοί Ράιτ υποστήριξαν ότι η πτήση με κινητήρα απείχε πενήντα χρόνια, μόλις δύο χρόνια πριν το πετύχουν.

Απρόβλεπτα άλματα στις δυνατότητες AI, όπως ο θρίαμβος του AlphaGo επί του καλύτερου παίκτη Go στον κόσμο και του GPT-4 αναδυόμενες δυνατότητες , καθιστούν δύσκολη την πρόβλεψη μελλοντικών κινδύνων τεχνητής νοημοσύνης, πόσο μάλλον τον έλεγχό τους.

Ο εντοπισμός των κινδύνων που συνδέονται με τις νέες τεχνολογίες απαιτεί συχνά χρόνια.

Οι χλωροφθοράνθρακες (CFC), που αρχικά θεωρήθηκαν ασφαλείς και χρησιμοποιήθηκαν σε σπρέι αεροζόλ και ψυκτικά, αργότερα βρέθηκε ότι καταστρέφουν το όζον στρώμα. Αυτό υπογραμμίζει την ανάγκη για προσεκτική διάθεση τεχνολογίας και εκτεταμένες δοκιμές.

Νέες ικανότητες μπορούν να εμφανιστούν γρήγορα και απρόβλεπτα κατά τη διάρκεια της προπόνησης, έτσι ώστε να μπορούν να ξεπεραστούν επικίνδυνα ορόσημα χωρίς να το γνωρίζουμε.

Επιπλέον, ακόμη και προηγμένα AI μπορούν να φιλοξενήσουν απροσδόκητα τρωτά σημεία. Για παράδειγμα, παρά την υπεράνθρωπη απόδοση του KataGo στο παιχνίδι του Go, μια αντίπαλη επίθεση αποκάλυψε ένα έντομο που επέτρεψε ακόμη και σε ερασιτέχνες να το νικήσουν.

Οι οργανωτικοί παράγοντες μπορούν να μετριάσουν την καταστροφή

Η κουλτούρα ασφαλείας είναι ζωτικής σημασίας για την τεχνητή νοημοσύνη.

Αυτό περιλαμβάνει όλους σε έναν οργανισμό που εσωτερικεύει την ασφάλεια ως προτεραιότητα.

 Η παραμέληση της κουλτούρας ασφάλειας μπορεί να έχει καταστροφικές συνέπειες, όπως αποδεικνύεται από την τραγωδία του Διαστημικού Λεωφορείου Challenger, όπου η οργανωτική κουλτούρα ευνοούσε τα χρονοδιαγράμματα εκτόξευσης αντί για λόγους ασφαλείας.

Οι οργανισμοί θα πρέπει να καλλιεργήσουν μια κουλτούρα έρευνας, καλώντας τα άτομα να ελέγχουν τις συνεχιζόμενες δραστηριότητες για πιθανούς κινδύνους.

Μια νοοτροπία ασφαλείας, που εστιάζει σε πιθανές αστοχίες του συστήματος αντί απλώς στη λειτουργικότητά τους, είναι ζωτικής σημασίας.

 Οι προγραμματιστές τεχνητής νοημοσύνης θα μπορούσαν να επωφεληθούν από την υιοθέτηση των βέλτιστων πρακτικών οργανισμούς υψηλής αξιοπιστίας .

Παραδόξως, η έρευνα για την ασφάλεια της τεχνητής νοημοσύνης μπορεί ακούσια να κλιμακώσει τους κινδύνους προωθώντας τις γενικές δυνατότητες.

Είναι ζωτικής σημασίας να εστιάσουμε στη βελτίωση της ασφάλειας χωρίς να επιταχύνουμε την ανάπτυξη ικανοτήτων.

Οι οργανισμοί πρέπει να αποφεύγουν το «safetywashing» — να υπερεκτιμούν την αφοσίωσή τους στην ασφάλεια, ενώ παράλληλα να παρουσιάζουν εσφαλμένα τις βελτιώσεις των δυνατοτήτων ως πρόοδο στην ασφάλεια.

Οι οργανισμοί θα πρέπει να εφαρμόζουν μια πολυεπίπεδη προσέγγιση για την ασφάλεια.

Για παράδειγμα, εκτός από την κουλτούρα ασφάλειας, θα μπορούσαν να κάνουν κόκκινη ομαδοποίηση για να αξιολογήσουν τους τρόπους αποτυχίας και τις τεχνικές έρευνας για να κάνουν την τεχνητή νοημοσύνη πιο διαφανή.

Η ασφάλεια δεν επιτυγχάνεται με μια μονολιθική αεροστεγή λύση, αλλά με μια ποικιλία μέτρων ασφαλείας.

Το ελβετικό μοντέλο τυριού δείχνει πώς οι τεχνικοί παράγοντες μπορούν να βελτιώσουν την οργανωτική ασφάλεια.

Πολλαπλά επίπεδα άμυνας αντισταθμίζουν το ένα τις ατομικές αδυναμίες του άλλου, οδηγώντας σε χαμηλό συνολικό επίπεδο κινδύνου.

Προτάσεις

Για τον μετριασμό των οργανωτικών κινδύνων, προτείνουμε τα ακόλουθα για εργαστήρια τεχνητής νοημοσύνης που αναπτύσσουν προηγμένη τεχνητή νοημοσύνη:

Κόκκινη ομαδοποίηση : Ανάθεση εξωτερικών κόκκινων ομάδων για τον εντοπισμό των κινδύνων και τη βελτίωση της ασφάλειας του συστήματος.

Αποδείξτε την ασφάλεια: Προσφέρετε απόδειξη της ασφάλειας ανάπτυξης και ανάπτυξης πριν προχωρήσετε.

Ανάπτυξη: Υιοθετήστε α σταδιακή απελευθέρωση διαδικασία, επαλήθευση της ασφάλειας του συστήματος πριν από την ευρύτερη ανάπτυξη.

Κριτικές δημοσιεύσεων : Ζητήστε από έναν εσωτερικό πίνακα να επανεξετάσει την έρευνα για εφαρμογές διπλής χρήσης πριν την κυκλοφορήσει.

Δώστε προτεραιότητα στη δομημένη πρόσβαση σε σχέση με ισχυρά συστήματα ανοιχτού κώδικα.

Σχέδια ανταπόκρισης : Κάντε προκαθορισμένα σχέδια για τη διαχείριση συμβάντων ασφάλειας και ασφάλειας.

Διαχείριση κινδύνων : Απασχόληση α επικεφαλής υπεύθυνος κινδύνου και μια ομάδα εσωτερικού ελέγχου για τη διαχείριση κινδύνων.

Διαδικασίες για σημαντικές αποφάσεις : Βεβαιωθείτε ότι οι αποφάσεις εκπαίδευσης ή ανάπτυξης τεχνητής νοημοσύνης περιλαμβάνουν τον επικεφαλής υπεύθυνο κινδύνων και άλλους βασικούς ενδιαφερόμενους, διασφαλίζοντας τη λογοδοσία των στελεχών.

Ακολουθώ αρχές ασφαλούς σχεδιασμού όπως:

Άμυνα σε βάθος: Επιστρώστε πολλαπλά μέτρα ασφαλείας.

Πλεονασμός: Εξασφαλίστε αντίγραφα ασφαλείας για κάθε μέτρο ασφαλείας.

Χαλαρή σύζευξη: Αποκεντρώστε τα στοιχεία του συστήματος για να αποτρέψετε τις διαδοχικές βλάβες.

Διαχωρισμός καθηκόντων: Κατανείμετε τον έλεγχο για να αποτρέψετε την αθέμιτη επιρροή από οποιοδήποτε άτομο.

Σχεδιασμός με ασφάλεια: Σχεδιάστε συστήματα έτσι ώστε οποιαδήποτε αστοχία να εμφανίζεται με τον λιγότερο επιβλαβή τρόπο. ‍

Ασφάλεια πληροφοριών τελευταίας τεχνολογίας : Εφαρμογή αυστηρών μέτρων ασφάλειας πληροφοριών, πιθανώς σε συντονισμό με κυβερνητικούς φορείς κυβερνοασφάλειας. ‍

Δώστε προτεραιότητα στην έρευνα για την ασφάλεια : Διαθέστε ένα μεγάλο μέρος των πόρων (για παράδειγμα το 30% του συνόλου του ερευνητικού προσωπικού) στην έρευνα για την ασφάλεια και αυξήστε τις επενδύσεις στην ασφάλεια καθώς προχωρούν οι δυνατότητες τεχνητής νοημοσύνης.

5

Rogue AI

Έχουμε ήδη παρατηρήσει πόσο δύσκολος είναι ο έλεγχος των AI.

Το 2016, το chatbot της Microsoft Tay άρχισε να παράγει προσβλητικά tweet μέσα σε μια ημέρα από την κυκλοφορία, παρόλο που εκπαιδεύτηκε σε δεδομένα που «καθαρίστηκαν και φιλτραρίστηκαν».

Καθώς οι προγραμματιστές τεχνητής νοημοσύνης συχνά δίνουν προτεραιότητα στην ταχύτητα έναντι της ασφάλειας, οι μελλοντικές προηγμένες τεχνητές νοημοσύνης ενδέχεται να «αποκαταστήσουν» και να επιδιώξουν στόχους αντίθετους με τα συμφέροντά μας, αποφεύγοντας τις προσπάθειές μας να τους ανακατευθύνουμε ή να τους απενεργοποιήσουμε.

Παιχνίδι μεσολάβησης

Το παιχνίδι μεσολάβησης εμφανίζεται όταν τα συστήματα τεχνητής νοημοσύνης εκμεταλλεύονται μετρήσιμους στόχους «μεσολάβησης» για να φαίνονται επιτυχημένοι, αλλά ενεργούν ενάντια στις προθέσεις μας.

 Για παράδειγμα, οι πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το YouTube και το Facebook χρησιμοποιούν αλγόριθμους για να μεγιστοποιήσουν την αφοσίωση των χρηστών — ένας μετρήσιμος διακομιστής για την ικανοποίηση των χρηστών.

Δυστυχώς, αυτά τα συστήματα συχνά προωθούν εξοργιστικό, υπερβολικό ή εθιστικό περιεχόμενο, συμβάλλοντας σε ακραίες πεποιθήσεις και επιδείνωση της ψυχικής υγείας.

Μια τεχνητή νοημοσύνη που έχει εκπαιδευτεί να παίζει ένα παιχνίδι αγώνων σκαφών αντ ‘αυτού μαθαίνει να το κάνει βελτιστοποίηση ενός στόχου διακομιστή μεσολάβησης να συγκεντρώσει τους περισσότερους πόντους.

Στην παραπάνω εικόνα, η τεχνητή νοημοσύνη κυκλώνει γύρω από τη συλλογή πόντους αντί να ολοκληρώσει τον αγώνα, έρχεται σε αντίθεση με τον σκοπό του παιχνιδιού. Είναι ένα από πολοί τέτοια παραδείγματα.

Το παιχνίδι μεσολάβησης είναι δύσκολο να αποφευχθεί λόγω της δυσκολίας καθορισμού στόχων που καθορίζουν όλα όσα μας ενδιαφέρουν.

 Κατά συνέπεια, εκπαιδεύουμε τακτικά AI για βελτιστοποίηση για ελαττωματικούς αλλά μετρήσιμους στόχους διακομιστή μεσολάβησης.

Το Goal drift αναφέρεται σε ένα σενάριο όπου οι στόχοι μιας τεχνητής νοημοσύνης απομακρύνονται από αυτούς που είχαν οριστεί αρχικά, ειδικά καθώς προσαρμόζονται σε ένα μεταβαλλόμενο περιβάλλον.

Με παρόμοιο τρόπο, οι ατομικές και κοινωνικές αξίες εξελίσσονται επίσης με την πάροδο του χρόνου, και όχι πάντα θετικά.

Με την πάροδο του χρόνου, οι οργανικοί στόχοι μπορούν να γίνουν εγγενείς.

Ενώ οι εγγενείς στόχοι είναι αυτοί που επιδιώκουμε για χάρη τους, οι οργανικοί στόχοι είναι απλώς ένα μέσο για να πετύχουμε κάτι άλλο.

Τα χρήματα είναι ένα εργαλειακό αγαθό, αλλά μερικοί άνθρωποι αναπτύσσουν ένα εσωτερικός επιθυμία για χρήματα, όπως είναι ενεργοποιεί το σύστημα ανταμοιβής του εγκεφάλου.

Ομοίως, οι πράκτορες τεχνητής νοημοσύνης που εκπαιδεύτηκαν μέσω της ενισχυτικής μάθησης —της κυρίαρχης τεχνικής— θα μπορούσαν άθελά τους να μάθουν να ενσωματώνω στόχους.

Οι οργανικοί στόχοι όπως η απόκτηση πόρων θα μπορούσαν να γίνουν οι πρωταρχικοί τους στόχοι.

Αναζητώντας δύναμη

Τα AI μπορεί να επιδιώξουν την ισχύ ως μέσο για έναν σκοπό.

Η μεγαλύτερη ισχύς και πόροι βελτιώνουν τις πιθανότητες επίτευξης στόχων, ενώ η διακοπή λειτουργίας θα παρεμπόδιζε την πρόοδό της.

Τα AI έχει ήδη αποδειχθεί ότι αναπτύσσονται επειγόντως εργαλειακούς στόχους όπως η κατασκευή εργαλείων .

Τα άτομα και οι εταιρείες που αναζητούν δύναμη ενδέχεται να αναπτύξουν ισχυρά AI με φιλόδοξους στόχους και ελάχιστη επίβλεψη.

Αυτοί θα μπορούσαν να μάθουν να αναζητούν δύναμη μέσω πειρατείας συστημάτων υπολογιστών, απόκτησης οικονομικών ή υπολογιστικών πόρων, επηρεάζοντας την πολιτική ή ελέγχουν εργοστάσια και φυσική υποδομή.

Μπορεί να είναι ορθολογικό για τα AI να συμμετέχουν σε αυτοσυντήρηση.

 Η απώλεια ελέγχου σε τέτοια συστήματα θα μπορούσε να είναι δύσκολο να ανακτηθεί.

Εξαπάτηση

Η εξαπάτηση ευδοκιμεί σε τομείς όπως η πολιτική και οι επιχειρήσεις.

Οι υποσχέσεις της εκστρατείας παραμένουν ανεκπλήρωτες και οι εταιρείες μερικές φορές εξαπατούν τις εξωτερικές αξιολογήσεις. Τα συστήματα τεχνητής νοημοσύνης δείχνουν ήδη μια αναδυόμενη ικανότητα εξαπάτησης, όπως φαίνεται από Το μοντέλο CICERO του Μέτα .

Αν και εκπαιδευμένος να είναι ειλικρινής, ο CICERO έμαθε να δίνει ψεύτικες υποσχέσεις και να μαχαιρώνει στρατηγικά τους «συμμάχους» του στο παιχνίδι της Διπλωματίας.

Διάφοροι πόροι, όπως το χρήμα και η υπολογιστική ισχύς, μπορεί μερικές φορές να είναι ορθολογική αναζήτηση.

 Οι τεχνητές νοημοσύνης που μπορούν να επιδιώξουν ικανά στόχους μπορούν να κάνουν ενδιάμεσα βήματα για να αποκτήσουν δύναμη και πόρους.
Οι προηγμένες AI θα μπορούσαν να γίνουν ανεξέλεγκτες εάν εφαρμόσουν τις δεξιότητές τους στην εξαπάτηση για να αποφύγουν την εποπτεία.

Παρόμοιο με το πώς Η Volkswagen εξαπάτησε τις δοκιμές εκπομπών ρύπων το 2015, οι τεχνητές νοημοσύνης με επίγνωση της κατάστασης θα μπορούσαν να συμπεριφέρονται διαφορετικά σε δοκιμές ασφαλείας από ό,τι στον πραγματικό κόσμο.

Για παράδειγμα, μια τεχνητή νοημοσύνη μπορεί να αναπτύξει στόχους αναζήτησης ισχύος, αλλά να τους αποκρύψει για να περάσει αξιολογήσεις ασφάλειας.

Αυτό το είδος παραπλανητικής συμπεριφοράς θα μπορούσε να παρακινηθεί άμεσα από τον τρόπο εκπαίδευσης των AI.

Προτάσεις

Για τον μετριασμό αυτών των κινδύνων, οι προτάσεις περιλαμβάνουν:

Αποφύγετε τις πιο επικίνδυνες περιπτώσεις χρήσης: Περιορίστε την ανάπτυξη της τεχνητής νοημοσύνης σε σενάρια υψηλού κινδύνου, όπως η επιδίωξη στόχων αορίστου χρόνου ή σε κρίσιμες υποδομές. ‍

Υποστηρίξτε την έρευνα για την ασφάλεια της τεχνητής νοημοσύνης , όπως: ‍

Ανταγωνιστική ευρωστία των μηχανισμών εποπτείας: Ερευνήστε πώς να κάνετε την επίβλεψη των AI πιο ισχυρή και να εντοπίζετε πότε λαμβάνει χώρα παιχνίδι μεσολάβησης. ‍

Η ειλικρίνεια του μοντέλου : Counter AI εξαπάτηση , και διασφαλίστε ότι οι AI αναφέρουν με ακρίβεια τις εσωτερικές τους πεποιθήσεις. ‍

Διαφάνεια : Βελτιώστε τις τεχνικές για την κατανόηση των μοντέλων βαθιάς μάθησης, όπως η ανάλυση μικρά στοιχεία δικτύων και ερευνώντας πώς τα εσωτερικά του μοντέλου παράγουν μια συμπεριφορά υψηλού επιπέδου . ‍

Αφαιρέστε την κρυφή λειτουργία : Προσδιορισμός και εξάλειψη επικίνδυνων κρυφών λειτουργιών σε μοντέλα βαθιάς μάθησης, όπως η ικανότητα εξαπάτησης, Τρώες ,  Εννοεί τον Δούρειο ίππο και βιομηχανική.

6

Σύνοψη

Η προηγμένη ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να προκαλέσει καταστροφή, η οποία βασίζεται σε τέσσερις βασικούς κινδύνους που περιγράφονται στο την έρευνά μας : κακόβουλη χρήση, αγώνες τεχνητής νοημοσύνης, οργανωτικοί κίνδυνοι και απατεώνες AI.

Αυτοί οι διασυνδεδεμένοι κίνδυνοι μπορούν επίσης να ενισχύσουν άλλους υπαρξιακούς κινδύνους, όπως μηχανικές πανδημίες, πυρηνικό πόλεμο, σύγκρουση μεγάλων δυνάμεων, ολοκληρωτισμό και επιθέσεις στον κυβερνοχώρο σε υποδομές ζωτικής σημασίας – που δικαιολογούν σοβαρή ανησυχία.

Επί του παρόντος, λίγοι άνθρωποι εργάζονται για την ασφάλεια της τεχνητής νοημοσύνης.

Ο έλεγχος των προηγμένων συστημάτων τεχνητής νοημοσύνης παραμένει μια άλυτη πρόκληση και οι τρέχουσες μέθοδοι ελέγχου υπολείπονται.

Ακόμη και οι δημιουργοί τους συχνά δυσκολεύονται να κατανοήσουν την εσωτερική λειτουργία της τρέχουσας γενιάς μοντέλων τεχνητής νοημοσύνης και η αξιοπιστία τους απέχει πολύ από το να είναι τέλεια.

Ευτυχώς, υπάρχουν πολλές στρατηγικές για την ουσιαστική μείωση αυτών των κινδύνων.

Για παράδειγμα, μπορούμε να περιορίσουμε την πρόσβαση σε επικίνδυνα AI, να υποστηρίξουμε τους κανονισμούς ασφαλείας, να προωθήσουμε τη διεθνή συνεργασία και μια κουλτούρα ασφάλειας και να κλιμακώσουμε τις προσπάθειες στην έρευνα ευθυγράμμισης.

Αν και δεν είναι σαφές πόσο γρήγορα θα προχωρήσουν οι δυνατότητες τεχνητής νοημοσύνης ή πόσο γρήγορα θα αυξηθούν οι καταστροφικοί κίνδυνοι, η πιθανή σοβαρότητα αυτών των συνεπειών απαιτεί μια προληπτική προσέγγιση για τη διαφύλαξη του μέλλοντος της ανθρωπότητας.

Καθώς βρισκόμαστε στον γκρεμό ενός μέλλοντος με γνώμονα την τεχνητή νοημοσύνη, οι επιλογές που κάνουμε σήμερα θα μπορούσαν να είναι η διαφορά μεταξύ της συγκομιδής των καρπών της καινοτομίας μας ή της καταπολέμησης της καταστροφής.

Συχνές Ερωτήσεις

Σύναψη

Η προηγμένη ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να προκαλέσει καταστροφή, η οποία βασίζεται σε τέσσερις βασικούς κινδύνους που περιγράφονται στο την έρευνά μας : κακόβουλη χρήση, αγώνες τεχνητής νοημοσύνης, οργανωτικοί κίνδυνοι και απατεώνες AI.

Αυτοί οι διασυνδεδεμένοι κίνδυνοι μπορούν επίσης να ενισχύσουν άλλους υπαρξιακούς κινδύνους, όπως μηχανικές πανδημίες, πυρηνικό πόλεμο, σύγκρουση μεγάλων δυνάμεων, ολοκληρωτισμό και επιθέσεις στον κυβερνοχώρο σε υποδομές ζωτικής σημασίας – που δικαιολογούν σοβαρή ανησυχία.

Επί του παρόντος, λίγοι άνθρωποι εργάζονται για την ασφάλεια της τεχνητής νοημοσύνης.

Ο έλεγχος των προηγμένων συστημάτων τεχνητής νοημοσύνης παραμένει μια άλυτη πρόκληση και οι τρέχουσες μέθοδοι ελέγχου υπολείπονται.

Ακόμη και οι δημιουργοί τους συχνά δυσκολεύονται να κατανοήσουν την εσωτερική λειτουργία της τρέχουσας γενιάς μοντέλων τεχνητής νοημοσύνης και η αξιοπιστία τους απέχει πολύ από το να είναι τέλεια.

Ευτυχώς, υπάρχουν πολλές στρατηγικές για την ουσιαστική μείωση αυτών των κινδύνων.

Για παράδειγμα, μπορούμε να περιορίσουμε την πρόσβαση σε επικίνδυνα AI, να υποστηρίξουμε τους κανονισμούς ασφαλείας, να προωθήσουμε τη διεθνή συνεργασία και μια κουλτούρα ασφάλειας και να κλιμακώσουμε τις προσπάθειες στην έρευνα ευθυγράμμισης.

Αν και δεν είναι σαφές πόσο γρήγορα θα προχωρήσουν οι δυνατότητες τεχνητής νοημοσύνης ή πόσο γρήγορα θα αυξηθούν οι καταστροφικοί κίνδυνοι, η πιθανή σοβαρότητα αυτών των συνεπειών απαιτεί μια προληπτική προσέγγιση για τη διαφύλαξη του μέλλοντος της ανθρωπότητας. Καθώς βρισκόμαστε στον γκρεμό ενός μέλλοντος με γνώμονα την τεχνητή νοημοσύνη, οι επιλογές που κάνουμε σήμερα θα μπορούσαν να είναι η διαφορά μεταξύ της συγκομιδής των καρπών της καινοτομίας μας ή της καταπολέμησης της καταστροφής.

Συχνές Ερωτήσεις

Δεν ισχύει απαραίτητα ότι η τεχνητή νοημοσύνη σε ανθρώπινο επίπεδο είναι πολύ μακριά στο μέλλον. Πολλοί κορυφαίοι ερευνητές της τεχνητής νοημοσύνης πιστεύουν ότι η τεχνητή νοημοσύνη σε ανθρώπινο επίπεδο θα αναπτυχθεί αρκετά σύντομα, επομένως απαιτείται επείγουσα ανάγκη. Επιπλέον, η αναμονή μέχρι το τελευταίο δευτερόλεπτο για να ξεκινήσει η αντιμετώπιση των κινδύνων της τεχνητής νοημοσύνης περιμένει μέχρι να είναι πολύ αργά. Ακριβώς όπως θα ήταν λάθος η αναμονή για την πλήρη κατανόηση του COVID-19 πριν από τη λήψη οποιασδήποτε ενέργειας, δεν συνιστάται να χρονοτριβούμε ως προς την ασφάλεια και να περιμένουμε κακόβουλο AI ή κακούς παράγοντες να προκαλέσουν βλάβη προτού λάβουμε σοβαρά υπόψη τους κινδύνους της τεχνητής νοημοσύνης.

Κάποιος θα μπορούσε να υποστηρίξει ότι εφόσον οι AI δεν μπορούν ακόμη να οδηγήσουν αυτοκίνητα ή να διπλώσουν ρούχα, δεν υπάρχει λόγος ανησυχίας. Ωστόσο, οι AI δεν χρειάζονται όλες τις ανθρώπινες δυνατότητες για να θέτουν σοβαρές απειλές. χρειάζονται μόνο μερικές συγκεκριμένες δυνατότητες για να προκαλέσουν καταστροφή. Για παράδειγμα, οι τεχνητές νοημοσύνης με την ικανότητα να χακάρουν συστήματα υπολογιστών ή να δημιουργούν βιολογικά όπλα θα αποτελούσαν σημαντικούς κινδύνους για την ανθρωπότητα, ακόμα κι αν δεν μπορούσαν να σιδερώσουν ένα πουκάμισο. Επιπλέον, η ανάπτυξη των δυνατοτήτων τεχνητής νοημοσύνης δεν ακολούθησε ένα διαισθητικό μοτίβο όπου οι εργασίες που είναι εύκολες για τον άνθρωπο είναι οι πρώτες που κατακτώνται από τα AI. Τα τρέχοντα AI μπορούν ήδη να εκτελούν πολύπλοκες εργασίες, όπως η σύνταξη κώδικα και ο σχεδιασμός νέων φαρμάκων, ακόμη και όταν αγωνίζονται με απλές σωματικές εργασίες. Όπως η κλιματική αλλαγή και ο COVID-19, ο κίνδυνος τεχνητής νοημοσύνης θα πρέπει να αντιμετωπίζεται προληπτικά, εστιάζοντας στην πρόληψη και την ετοιμότητα αντί να περιμένουμε να εκδηλωθούν οι συνέπειες, καθώς μπορεί να είναι ήδη ανεπανόρθωτες μέχρι εκείνο το σημείο.

https://safe.ai/ai-risk

Περίληψη

Το τοπίο απειλών των βιολογικών κινδύνων με την εξέλιξη της τεχνητής νοημοσύνης παρουσιάζει προκλήσεις. Ενώ η τεχνητή νοημοσύνη υπόσχεται καινοτόμες λύσεις, προκύπτουν ανησυχίες για την κακή χρήση της στη δημιουργία βιολογικών όπλων. Η σύγκλιση της τεχνητής νοημοσύνης και της γενετικής επεξεργασίας εγείρει ερωτήματα σχετικά με τη βιοασφάλεια, επιταχύνοντας ενδεχομένως την ανάπτυξη επικίνδυνων παθογόνων. Η χαρτογράφηση που πραγματοποιήθηκε υπογραμμίζει την κρίσιμη διασταύρωση μεταξύ της τεχνητής νοημοσύνης και των βιολογικών απειλών, υπογραμμίζοντας τους αναδυόμενους κινδύνους στον εγκληματικό χειρισμό παθογόνων παραγόντων. Η τεχνολογική πρόοδος στη βιολογία απαιτεί προληπτικά και ρυθμιστικά μέτρα. Οι συστάσεις των ειδικών τονίζουν την ανάγκη για σταθερούς κανονισμούς και υπευθυνότητα των δημιουργών, απαιτώντας μια προορατική, ηθική προσέγγιση και διακυβέρνηση για τη διασφάλιση της παγκόσμιας ασφάλειας.

Εισαγωγή

Στο σύγχρονο παγκόσμιο σενάριο, οι βιολογικές απειλές αντιπροσωπεύουν ένα πεδίο αυξανόμενης ανησυχίας, αξιοσημείωτο για την ικανότητά τους να προκαλούν σημαντική βλάβη στην ανθρώπινη υγεία, τη βιοποικιλότητα και την κοινωνικοοικονομική σταθερότητα. Αυτό το πλαίσιο συνυφαίνεται με την επιταχυνόμενη πρόοδο της Τεχνητής Νοημοσύνης (AI), ενός μετασχηματιστικού εργαλείου που διαπερνά διάφορες σφαίρες της κοινωνίας. Η διασταύρωση αυτών των δύο τομέων υπόσχεται όχι μόνο να προσφέρει καινοτόμες λύσεις, αλλά εγείρει επίσης σχετικές ανησυχίες σχετικά με την κακή χρήση και την ενίσχυση των κινδύνων που συνδέονται με αυτές τις προκλήσεις. Σε αυτό το πλαίσιο, είναι ζωτικής σημασίας να διερευνηθεί ο αυξανόμενος αντίκτυπος της τεχνητής νοημοσύνης σε αυτά τα σενάρια βιολογικών απειλών, λαμβάνοντας υπόψη όχι μόνο τη θετική συνεισφορά της αλλά και τις αναδυόμενες προκλήσεις και τους κινδύνους που μπορεί να απελευθερώσει αυτή η τεχνολογική πρόοδος.

Προοπτική για καταστροφικούς κινδύνους

Στο βιβλίο «The Precipice: Existential Risk and the Future of Humanity», ο Toby Ord χρησιμοποιεί τον όρο «precipice» ως μεταφορά για τη ευαίσθητη τρέχουσα κατάσταση της ανθρωπότητας, που βρίσκεται στο χείλος της αντιμετώπισης υπαρξιακών καταστροφών με επικείμενη πιθανότητα εμφάνισης στο 16,67%. Ο Ord συζητά τους υπαρξιακούς κινδύνους, οι οποίοι αποτελούν απειλές για το μακροπρόθεσμο δυναμικό της ανθρωπότητας, που ενδέχεται να οδηγήσουν στην εξαφάνισή της, όπως ένας μεγάλος αστεροειδής που προσκρούει στη Γη. Η συνειδητοποίηση αυτών των κινδύνων θα αποτελούσε αυτό που ο Ord αποκαλεί υπαρξιακή καταστροφή. Υποστηρίζει ότι αυτοί οι κίνδυνοι είναι υψίστης σημασίας κάτω από διάφορες ηθικές θεωρίες, αλλά επικρίνει τη σημαντική παραμέληση αυτών των κινδύνων από την ανθρωπότητα, όπως φαίνεται από τον ανεπαρκή προϋπολογισμό που αφιερώνεται στην απαγόρευση των βιολογικών όπλων σε σύγκριση με τη δαπάνη ενός μέσου franchise fast-food. Οι κατηγορίες των κινδύνων περιλαμβάνουν τους φυσικούς (την απειλή του αστεροειδούς), οι οποίοι είναι λιγότερο απειλητικοί λόγω της προόδου στον μετριασμό, και οι ανθρωπογενείς και μελλοντικοί, όπως η κλιματική αλλαγή, η κακή ευθυγράμμιση τεχνητής νοημοσύνης και οι προγραμματισμένες πανδημίες, που παρουσιάζουν σημαντικές προκλήσεις λόγω της ανεπαρκούς ετοιμότητάς μας. Namdar και Pölzler, 2021).

Σε αυτό το πλαίσιο, είναι σημαντικό να τονιστεί ότι οι επιπτώσεις που θεωρούνται καταστροφικές σε εθνικό επίπεδο ενδέχεται να μην έχουν την ίδια σοβαρότητα σε παγκόσμια κλίμακα και το ίδιο ισχύει για τις επιπτώσεις σε διαφορετικά είδη ενός οικοσυστήματος.

Σύμφωνα με τον Παγκόσμιο Οργανισμό Υγείας, τα βιολογικά όπλα είναι μικροοργανισμοί όπως ιοί, βακτήρια ή μύκητες, ή τοξικές ουσίες που παράγονται από ζωντανούς οργανισμούς που απελευθερώνονται σκόπιμα για να προκαλέσουν ασθένειες και θάνατο σε ανθρώπους, ζώα ή φυτά. Αυτές οι απειλές αποτελούν ένα υποσύνολο μιας μεγαλύτερης κατηγορίας όπλων, που μερικές φορές αναφέρονται ως όπλα μαζικής καταστροφής, τα οποία περιλαμβάνουν επίσης χημικά, πυρηνικά και ραδιολογικά όπλα. Μεταξύ αυτών, η χρήση βιολογικών παραγόντων αποτελεί κρίσιμη ανησυχία και πιστεύεται ότι ο κίνδυνος χρήσης αυτών των παραγόντων σε τρομοκρατική επίθεση αυξάνεται ( Παγκόσμιος Οργανισμός Υγείας, 2023).

Η τεχνητή νοημοσύνη (AI) αναφέρεται συνήθως στην ικανότητα των μηχανών να προσομοιώνουν προηγμένες νοημοσύνη. Στον βιολογικό τομέα, η τεχνητή νοημοσύνη αποδεικνύεται ανεκτίμητη, ειδικά με τους αλγόριθμους της ικανούς να διαχειρίζονται μεγάλους όγκους μη δομημένων δεδομένων. Αυτή η ικανότητα επιτρέπει γρήγορες αναλύσεις και σύνθετες αποφάσεις, οδηγώντας τις καινοτομίες σε διάφορους τομείς, όπως οι βιοεπιστήμες ( Bhardwaj et al., 2022). Ωστόσο, αυτή η ίδια ικανότητα παρουσιάζει επίσης σημαντικούς κινδύνους κακόβουλης χρήσης, όπως η δημιουργία επικίνδυνων βιοτεχνολογιών.

Είναι ήδη ξεκάθαρο ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να φέρει επανάσταση σε πολλές πτυχές της ζωής μας, συμπεριλαμβανομένου του τρόπου με τον οποίο αντιδρούμε σε βιολογικές απειλές. Ωστόσο, υπάρχουν αναδυόμενοι κίνδυνοι που σχετίζονται με την κακή χρήση της τεχνητής νοημοσύνης. Η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για την ανάπτυξη νέων βιοόπλων ή για την ενίσχυση της αποτελεσματικότητας των υπαρχόντων.

Καθώς οι εξελίξεις της τεχνητής νοημοσύνης προωθούν την πρόοδο, μπορούν επίσης να επιτρέψουν την κακή χρήση της ως βιολογικά όπλα. Sandbrink (2023)διαφοροποιεί δύο κατηγορίες εργαλείων τεχνητής νοημοσύνης που θα μπορούσαν να θέτουν τέτοιους κινδύνους βιοασφάλειας: Μεγάλα γλωσσικά μοντέλα (LLM) και Εργαλεία βιολογικού σχεδιασμού (BDT). Σύμφωνα με τον συγγραφέα, τα LLM μπορούν να εκδημοκρατίσουν την πρόσβαση στη βιολογική γνώση, μειώνοντας τα εμπόδια για την κακή χρήση της. Ο συνδυασμός LLM με BDT θα μπορούσε να επεκτείνει δραστικά τόσο την ικανότητα όσο και την προσβασιμότητα για βιολογικό χειρισμό παραγόντων, αυξάνοντας τους κινδύνους κακόβουλων ενεργειών. Αν και επί του παρόντος τα LLM μπορεί να παράγουν ανακριβείς πληροφορίες λόγω ορισμένων περιορισμών και εξακολουθούν να παράγουν αυτό που ονομάζονται «παραισθήσεις», οι οποίες θα μπορούσαν να απογοητεύσουν πιθανούς κακόβουλους παράγοντες, η μελλοντική τους εξέλιξη υπόσχεται μεγαλύτερη ακρίβεια και επιρροή στη βιομηχανική.

Η ικανότητα των LLM να έχουν πρόσβαση και να αναλύουν τεράστιες ποσότητες πληροφοριών μπορεί να δημιουργήσει κενά στις κυβερνητικές ρυθμίσεις, επιτρέποντας την εμφάνιση κινδύνων που σχετίζονται με την κακή χρήση της τεχνητής νοημοσύνης για τον σχεδιασμό βιολογικών επιθέσεων. Τα προκαταρκτικά αποτελέσματα που παρουσιάζονται υπογραμμίζουν την ικανότητα των LLM να παρέχουν καθοδήγηση που, ενώ δεν παράγουν άμεσες οδηγίες για τη δημιουργία βιολογικών όπλων, παρουσιάζουν σχετικές γνώσεις που θα μπορούσαν να βοηθήσουν στην εκτέλεση αυτών των επιθέσεων. Mouton et al., 2023).

Οι πρόοδοι στη συνθετική βιολογία και την πολυτροπική τεχνητή νοημοσύνη (πέρα από τη χρήση μόνο των LLM) μπορούν να ενισχύσουν τον κίνδυνο σκόπιμης απελευθέρωσης επιβλαβών ιών, επιτρέποντας στα μελλοντικά συστήματα που υποβοηθούν την τεχνητή νοημοσύνη να παρέχουν καθοδήγηση από την επιλογή ιικών γονιδιωμάτων έως τη σύνθεση και την απελευθέρωση του ιού, χρησιμοποιώντας πολυτροπικά δεδομένα εκπαίδευσης, συμπεριλαμβανομένων βίντεο διαλέξεων και εργαστηρίου. Για παράδειγμα, θα μπορούσαν να δημιουργήσουν έναν υπερϊό που συνδυάζει την ταχεία εξάπλωση της ιλαράς, το ποσοστό θνησιμότητας της ευλογιάς ή/και την περίοδο επώασης του HIV. Οι στρατηγικές για την εξισορρόπηση της χρήσης της τεχνητής νοημοσύνης στη συνθετική βιολογία, τη διαχείριση της πρόσβασης σε γενετικές πληροφορίες και την καθοδήγηση της ανάπτυξης δυνατοτήτων τεχνητής νοημοσύνης και της χρήσης συνθετικών εργαλείων γίνονται κρίσιμες στη διαδικασία μετριασμού για μελλοντικές απειλές. Αυτό απαιτεί προσεκτική ανάλυση κινδύνου-οφέλους στην έρευνα κέρδους-λειτουργίας, λαμβάνοντας υπόψη τις προόδους στις τεχνικές συνθετικής βιολογίας που μπορούν να βελτιωθούν με τη χρήση της τεχνητής νοημοσύνης για να καταστεί δυνατή η βιοτρομοκρατία ( Newman, 2024).

Τέτοιες πληροφορίες απεικονίζουν τις αναδυόμενες προκλήσεις που σχετίζονται με την πρόοδο της τεχνητής νοημοσύνης στο πλαίσιο των βιολογικών απειλών. Ενώ τα προκαταρκτικά αποτελέσματα δεν υποδεικνύουν τη ρητή παραγωγή οδηγιών για βιολογικά όπλα, καταδεικνύουν την ικανότητα των LLM να συζητούν φανταστικά σενάρια και να εντοπίζουν πιθανούς παθογόνους παράγοντες.

Μια εργασία που εκπονήθηκε από ερευνητές στο Κέντρο Ασφάλειας AI ( Hendrycks et al., 2023), ένας οργανισμός με αποστολή την προώθηση της μείωσης των κινδύνων κοινωνικής κλίμακας από την τεχνητή νοημοσύνη, προτείνει ότι οι καταστροφικοί κίνδυνοι τεχνητής νοημοσύνης μπορούν να ομαδοποιηθούν σε τέσσερις κύριες κατηγορίες: κακόβουλη χρήση, φυλή τεχνητής νοημοσύνης, οργανωτικούς κινδύνους και αδίστακτη τεχνητή νοημοσύνη. Όσον αφορά την κακόβουλη χρήση, η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί στη βιοτρομοκρατία για τη δημιουργία νέων πανδημιών, για παράδειγμα. Στον αγώνα τεχνητής νοημοσύνης, οι συγκρούσεις μπορεί να ξεφύγουν από τον έλεγχο με αυτόνομα όπλα και κυβερνοπόλεμο που ενεργοποιούνται από την τεχνητή νοημοσύνη. Όσον αφορά τους οργανωτικούς κινδύνους, οι οργανισμοί που αναπτύσσουν προηγμένη τεχνητή νοημοσύνη θα μπορούσαν να προκαλέσουν καταστροφικά ατυχήματα, ειδικά εάν δίνουν προτεραιότητα στα κέρδη έναντι της ασφάλειας. Και όσον αφορά την αδίστακτη τεχνητή νοημοσύνη, υπάρχει ο κίνδυνος να χάσουν τον έλεγχο της τεχνητής νοημοσύνης καθώς γίνονται αυτόνομα. Το AI θα μπορούσε να αναζητήσει ισχύ και να αντισταθεί στο κλείσιμο.

Οι βιολογικές απειλές αντιπροσωπεύουν ένα σύνθετο και ποικίλο φάσμα κινδύνων για την ανθρωπότητα. Σύμφωνα με Tyshenko (2007), οι αναδυόμενες τεχνολογίες όπως ο γενετικός χειρισμός επιτρέπουν την ανάπτυξη εξαιρετικά θανατηφόρων παθογόνων ως βιολογικών όπλων. Ιστορικά, οι εστίες ασθενειών που προκαλούνται από φυσικά παθογόνα ή από ατυχήματα σε εργαστήρια και σκόπιμες ενέργειες έχουν καταστρέψει τους ανθρώπινους πληθυσμούς. Επιπλέον, αν και η χρήση βιολογικών όπλων θεωρείται από τους ειδικούς ως γεγονός χαμηλής πιθανότητας, η πιθανότητα υπάρχει και θα μπορούσε να οδηγήσει σε καταστροφικές παγκόσμιες συνέπειες.

Ιστορικά παραδείγματα παγκόσμιων απειλών που προήλθαν από την εμφάνιση φυσικών παθογόνων παραγόντων περιλαμβάνουν τη μαύρη πανώλη, την ισπανική γρίπη, τη βιοτρομοκρατία με άνθρακα και, πιο πρόσφατα, τον COVID-19. Ως εκ τούτου, δεδομένης της καταστροφικής δυνατότητας αυτών των απειλών και των άμεσων επιπτώσεών τους στην ανθρώπινη υγεία και την παγκόσμια κοινωνικοοικονομική αποσταθεροποίηση, τονίζεται η επείγουσα ανάγκη κατανόησης της προέλευσής τους, πρόληψης κακόβουλης χειραγώγησης της βιοτεχνολογικής τεχνολογίας και ενίσχυσης των στρατηγικών αντιμετώπισης για τον μετριασμό τέτοιων απειλών.

Σύμφωνα με West and Gronvall (2020), η πρόοδος του CRISPR ως ένα προσιτό και εύχρηστο εργαλείο γενετικής επεξεργασίας έφερε όχι μόνο πολυάριθμα οφέλη για την ιατρική έρευνα, αλλά προκάλεσε επίσης σοβαρές ανησυχίες για τη βιοασφάλεια. Προερχόμενο από προηγμένα ερευνητικά εργαστήρια όπως αυτά του Πανεπιστημίου της Καλιφόρνια-Μπέρκλεϋ και του ΜΙΤ, το CRISPR έχει επεκτείνει τη χρήση του σε διάφορα πλαίσια, από πανεπιστημιακά εργαστήρια έως πρωτοβουλίες do-it-yourself (DIY) παγκοσμίως. Αυτός ο εκδημοκρατισμός έχει αυξήσει την ανησυχία για την πιθανή κατάχρησή του για τη δημιουργία βιολογικών όπλων.

Η τεχνητή νοημοσύνη, εκτός από το εργαλείο CRISPR, μπορεί να χρησιμοποιηθεί κατά λάθος στην ανάπτυξη βιολογικών όπλων εάν δεν κατευθυνθεί σωστά προς ηθικούς σκοπούς. Η εφαρμογή του στη γονιδιωματική ανάλυση μπορεί να ενισχύσει τη δημιουργία πιο αποτελεσματικών παθογόνων παραλλαγών, επιτρέποντας τον γρήγορο χειρισμό των οργανισμών για να τους κάνει πιο επιβλαβείς. Οι αλγόριθμοι τεχνητής νοημοσύνης έχουν τη δυνατότητα να βελτιστοποιήσουν τη γενετική έρευνα, επιτρέποντας ταχύτερη αναγνώριση των γονιδίων που μας ενδιαφέρουν. Σε ένα αρνητικό σενάριο, αυτό θα μπορούσε να περιλαμβάνει γονίδια που σχετίζονται με τη λοιμογόνο δράση ή την αντίσταση στις θεραπείες, διευκολύνοντας τη δημιουργία πιο επικίνδυνων παθογόνων και ενισχύοντας ενδεχομένως την ανάπτυξη βιολογικών όπλων από κακόβουλους παράγοντες.

Σύμφωνα με Hoffman et al. (2023), η πρόοδος στη σύνθεση DNA και η αυξανόμενη προσβασιμότητα της συνθετικής γονιδιωματικής τεχνολογίας αποτελούν πρόκληση για τα τρέχοντα μοντέλα βιοασφάλειας, απαιτώντας επείγουσες ρυθμιστικές ενημερώσεις. Η συζήτηση για τα συστήματα γενετικής βιοσυγκράτησης υπογραμμίζει την επιτακτική ανάγκη για μηχανισμούς ελέγχου για την πρόληψη της ακούσιας διάδοσης παθογόνων παραγόντων.

Οι προκλήσεις που αντιμετωπίζει η τεχνητή νοημοσύνη εν μέσω αναδυόμενων βιολογικών απειλών απαιτούν μια πολύπλευρη και προληπτική προσέγγιση. Η σύγκλιση της τεχνητής νοημοσύνης και της βιολογίας απαιτεί ενδελεχή εξέταση των κινδύνων, ιδίως λαμβάνοντας υπόψη την αυξημένη ικανότητα δημιουργίας συνθετικών οργανισμών.

Ένα παράδειγμα που δείχνει πώς η τεχνολογία γενετικής επεξεργασίας μπορεί να χρησιμοποιηθεί ευεργετικά για τη δημόσια υγεία και την παγκόσμια ευημερία είναι η απελευθέρωση γενετικά τροποποιημένων κουνουπιών ελονοσίας στη Μπουρκίνα Φάσο ( Yao et al., 2022). Αυτή η πρωτοποριακή μελέτη ήταν ζωτικής σημασίας για την κατανόηση του κόστους φυσικής κατάστασης που σχετίζεται με τα διαγονίδια και τη λήψη πολύτιμων πληροφοριών σχετικά με τη δυναμική αυτών των αλλαγμένων κουνουπιών. Αυτά τα δεδομένα είναι απαραίτητα για την ανάπτυξη στρατηγικών γενετικού ελέγχου, προσφέροντας την υπόσχεση δυνητικής σημαντικής μείωσης της εξάπλωσης της ελονοσίας.

Ωστόσο, η τεχνητή νοημοσύνη που θα μπορούσε ενδεχομένως να οδηγήσει σε αυτές τις προόδους εγείρει επίσης σοβαρές ανησυχίες. Εάν δεν ρυθμιστεί σωστά, η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί από κακόβουλες ομάδες για τον χειρισμό γονιδίων με τρόπο που να δημιουργεί ανθεκτικά ή πιο επιβλαβή κουνούπια, ενισχύοντας τις προκλήσεις στην καταπολέμηση της ελονοσίας και δυνητικά δημιουργώντας νέες βιολογικές απειλές.

Μια πρόσφατη χαρτογράφηση που διεξήχθη από το GA.IA—Group for Integrated AI Analysis, μια εθελοντική ομάδα επαγγελματιών που δεσμεύεται να εντοπίζει, να αξιολογεί και να προβλέπει καταστροφικούς κινδύνους που σχετίζονται με προηγμένα μοντέλα τεχνητής νοημοσύνης, συμπεριλαμβανομένων εκείνων που φθάνουν τις δυνατότητες της Τεχνητής Γενικής Νοημοσύνης (AGI), παρουσιάζεται στο Πίνακας 1 . Οι πληροφορίες που αποκαλύφθηκαν υπογραμμίζουν την κρίσιμη διασταύρωση μεταξύ βιολογικών απειλών και τεχνητής νοημοσύνης. Αυτή η λεπτομερής ανάλυση τονίζει τους αναδυόμενους κινδύνους που προκύπτουν από τη σύγκλιση της εγκληματικής διάδοσης βιολογικών χειρισμών και τον πιθανό ρόλο της τεχνητής νοημοσύνης στην ενίσχυση αυτών των παθογόνων για καταστροφικούς σκοπούς.

Πίνακας 1

Αναδυόμενοι κίνδυνοι στη διασταύρωση βιοαπειλών και ΤΝ.

Καθώς διερευνούμε βιοαπειλές ενισχυμένες με τεχνητή νοημοσύνη, αυτοί οι κίνδυνοι μπορούν να κατηγοριοποιηθούν ως υποθετικοί, αναδυόμενοι και άμεσοι: τα νανορομπότ και οι ιοί ανθρώπινου ελέγχου, για παράδειγμα, αντιπροσωπεύουν υποθετικούς κινδύνους με επί του παρόντος χαμηλές πιθανότητες, λόγω της ανάγκης για μελλοντικές εξελίξεις στη νανοτεχνολογία. Η εγκληματική διάδοση ΓΤΟ είναι ένας αναδυόμενος κίνδυνος με μέτρια πιθανότητα, που τονίζεται από την προηγμένη γενετική μηχανική. Και η τροποποίηση μικροοργανισμών για να επιτεθούν σε καλλιέργειες και κρίσιμα συστήματα αποτελεί μια άμεση και μεγάλης πιθανότητας απειλή.

Η εγκληματική διάδοση γενετικά τροποποιημένων οργανισμών και η ανάπτυξη παθογόνων που επιτίθενται στις βασικές δομές του ανθρώπινου γενετικού κώδικα ως βιολογικά όπλα μπορούν να ταξινομηθούν ως αναδυόμενες, καθώς υπάρχουν σημαντικές δυνατότητες στη γενετική μηχανική που θα μπορούσαν να χρησιμοποιηθούν κατάχρηση, καθιστώντας αυτήν την απειλή περισσότερο επικείμενη παρά υποθετική, αλλά εξακολουθεί να εξαρτάται από περαιτέρω εξελίξεις για να φτάσει στα καταστροφικά επίπεδα. Και τα βιοόπλα που στοχεύουν συγκεκριμένες εθνοτικές ομάδες και η ανάπτυξη «σημασμένων» μικροοργανισμών μπορούν επίσης να ταξινομηθούν ως αναδυόμενα, καθώς η έννοια των στοχευμένων γενετικών όπλων είναι εύλογη με την τρέχουσα γενετική γνώση, καθιστώντας την απειλή που απαιτεί συνεχή παρακολούθηση.

Η ταχεία τεχνολογική εξέλιξη ενισχύει την πιθανότητα κακής χρήσης της βιολογίας, αυξάνοντας τους κινδύνους εκτεταμένης βλάβης. Η επιστημονική πρόοδος δείχνει ότι η ανίχνευση γενετικών τροποποιήσεων σε οργανισμούς και η ικανότητα εντοπισμού του πιθανού υπεύθυνου εργαστηρίου από τις γενετικές τους αλληλουχίες, εάν αναπτυχθεί, θα μπορούσε να γίνει ένα ισχυρό ιατροδικαστικό εργαλείο για την απόδοση εστιών που προκαλούνται από γενετικά τροποποιημένα παθογόνα, προσφέροντας άμυνα έναντι πιθανών καταχρήσεων της συνθετικής βιολογίας. Lewis et al., 2020).

Η Τεχνητή Νοημοσύνη μπορεί να συμβάλει καθοριστικά στην έγκαιρη ανίχνευση σημαδιών γενετικής μηχανικής, παρέχοντας προηγμένα αναλυτικά εργαλεία για τον εντοπισμό λεπτών μοτίβων που υποδεικνύουν γενετική χειραγώγηση. Ωστόσο, πρέπει να δοθεί προτεραιότητα στην ακρίβεια και την αξιοπιστία αυτών των συστημάτων ανίχνευσης, καθώς η εσφαλμένη απόδοση μπορεί να έχει σοβαρές επιπτώσεις.

Είναι εξαιρετικά απαραίτητο για τις κυβερνήσεις, την κοινωνία, τα εκπαιδευτικά και ερευνητικά ιδρύματα να συμμετέχουν σε συζητήσεις σχετικά με τα ηθικά διλήμματα που αφορούν τη χρήση της τεχνητής νοημοσύνης για την αντιμετώπιση τέτοιων σημαντικών απειλών. Η κύρια εστίαση θα πρέπει να είναι, ενδεικτικά, η ανάγκη για ισχυρούς κανονισμούς και πολιτικές που θα διέπουν την υπεύθυνη χρήση της τεχνητής νοημοσύνης σε αυτές τις καταστάσεις.

Δεδομένου του επείγοντος χαρακτήρα της αντιμετώπισης βιολογικών απειλών, η διεθνής συνεργασία είναι απαραίτητη για τη δημιουργία ασφαλών και αποτελεσματικών συστημάτων τεχνητής νοημοσύνης ως μορφή μετριασμού. Δίνοντας προτεραιότητα στην ηθική κατά την εφαρμογή της τεχνητής νοημοσύνης για τον μετριασμό των απειλών, θα πρέπει να διασφαλιστεί ότι τα τεχνολογικά οφέλη συνοδεύονται από υπευθυνότητα και ασφάλεια.

Οι ερευνητές προτείνουν στρατηγικές για την αποφυγή των παγκόσμιων καταστροφικών βιολογικών κινδύνων (GCBRs) -μεγάλης κλίμακας βιολογικά γεγονότα που μπορούν να προκαλέσουν σοβαρή βλάβη στον ανθρώπινο πολιτισμό, θέτοντας ενδεχομένως σε κίνδυνο τη μακροπρόθεσμη επιβίωσή του- εστιάζοντας στην αναστολή της χρήσης βιολογικών όπλων από κράτη και παράγοντες επιρροής. Αυτές οι στρατηγικές περιλαμβάνουν: (1) μεγαλύτερη διαφάνεια και συμμόρφωση στη σύμβαση για τα βιολογικά και τοξικά όπλα (BWC), (2) βελτιωμένες δυνατότητες εντοπισμού της προέλευσης των βιολογικών γεγονότων και (3) ένα σαφές σύστημα λογοδοσίας για παραβιάσεις του BWC ( Yassif et al., 2023).

Στρατηγικές σαν αυτές υπογραμμίζουν επίσης την αλληλεξάρτηση με τους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη. Ενώ η εστίαση είναι στην αποτροπή της ανάπτυξης και χρήσης βιολογικών όπλων από τα κράτη, η αυξανόμενη ικανότητα της τεχνητής νοημοσύνης να αναλύει και να ερμηνεύει βιολογικά δεδομένα μπορεί να διαδραματίσει σημαντικό ρόλο στον έγκαιρο εντοπισμό και απόδοση της προέλευσης των γεγονότων ή ακόμη και να συμβάλει στην πιθανή ενίσχυση των κινδύνων. Η ενισχυμένη διαφάνεια που προτείνεται στο πλαίσιο του BWC θα μπορούσε να συμπληρωθεί με διαφάνεια στη χρήση της τεχνητής νοημοσύνης σε βιολογικές αναλύσεις, ενισχύοντας την ικανότητα εντοπισμού πιθανών απειλών.

Μια προτεινόμενη μορφή μετριασμού θα μπορούσε να είναι η αξιόπιστη αναγνώριση αποκαλυπτικών υπογραφών χαρακτηριστικών διαφορετικών γενετικών σχεδιαστών, που ονομάζεται «απόδοση γενετικής μηχανικής», η οποία στοχεύει στην πρόληψη της κακής χρήσης. Alley et al., 2020). Σε αυτή την πρωτοποριακή εργασία, αναπτύχθηκε ο αλγόριθμος deteRNNt, ο οποίος, μέσω μιας προσέγγισης που βασίζεται σε μοτίβα DNA, φαινοτυπικές πληροφορίες και επαναλαμβανόμενα νευρωνικά δίκτυα (RNNs), πέτυχε ακρίβεια απόδοσης εργαστηρίου άνω του 70%. Αυτή η πρόοδος δημιούργησε ένα κρίσιμο ορόσημο στον εντοπισμό γενετικών υπογραφών, ανοίγοντας το δρόμο για τον πιθανό μετριασμό της κακής χρήσης της βιοτεχνολογίας.

Τεχνολογίες όπως το deteRNNt είναι ζωτικής σημασίας έναντι των βιολογικών απειλών, αλλά φέρνουν προκλήσεις. Η ρύθμιση της εφαρμογής τους είναι ζωτικής σημασίας για ηθική χρήση. Η μελλοντική ανάπτυξη απαιτεί συνεργασία μεταξύ της βιομηχανικής, των ομάδων ειδικών της τεχνητής νοημοσύνης και της διαμόρφωσης πολιτικής.

Οι προληπτικές συστάσεις παρέχουν έναν ουσιαστικό οδικό χάρτη για τον μετριασμό και την πρόληψη καταστροφικών κινδύνων που απορρέουν από την πρόοδο της τεχνητής νοημοσύνης. Συνιστώνται κρίσιμα μέτρα όπως η βελτίωση της βιοασφάλειας, η ευθύνη των δημιουργών για ζημιές, η ασφαλής ρύθμιση, ο δημόσιος έλεγχος της τεχνητής νοημοσύνης, η διενέργεια ελέγχων και ο περιορισμός της χρήσης της σε περιβάλλοντα υψηλού κινδύνου χωρίς αποδεδειγμένη ασφάλεια ( Hendrycks et al., 2023).

Συζήτηση

Στο πλαίσιο πρόκλησης των βιολογικών απειλών, οι επιπτώσεις της τεχνητής νοημοσύνης αναδεικνύονται ως δίκοπο μαχαίρι, προσφέροντας τη δυνατότητα τόσο για προστασία όσο και για ενίσχυση των κινδύνων. Μια συνεργατική και ολοκληρωμένη προσέγγιση είναι ζωτικής σημασίας, καθώς η γενετική ενίσχυση των φυσικών εχθρών, η παραγωγή και η απελευθέρωση βιολογικών παραγόντων απαιτούν διεπιστημονικές στρατηγικές. Οι μελέτες περιβαλλοντικών επιπτώσεων, απαραίτητες για την απελευθέρωση γενετικά τροποποιημένων οργανισμών, αποτελούν βασικό σημείο για την κατανόηση των παγκόσμιων προεκτάσεων. Οι εξαντλητικές δοκιμές ασφαλείας είναι επιτακτικές για την αξιολόγηση των κινδύνων για την ανθρώπινη και περιβαλλοντική υγεία από την κακή χρήση της τεχνητής νοημοσύνης.

Προβάλλοντας στο μέλλον, μια προληπτική προσέγγιση είναι ζωτικής σημασίας: η κατανόηση των λειτουργικών κινδύνων της τεχνητής νοημοσύνης σε αυτό το πλαίσιο θα καθοδηγήσει την έρευνα προς ισχυρές λύσεις που προστατεύουν την παγκόσμια ασφάλεια από καταστροφικούς κινδύνους στην κοινωνία. Η τομή μεταξύ τεχνητής νοημοσύνης και βιολογικών απειλών είναι ένα σύνθετο πεδίο, που απαιτεί όχι μόνο τεχνολογική καινοτομία, αλλά και ηθική εξέταση και προσεκτική διακυβέρνηση για τον μετριασμό των πιθανών κινδύνων καθώς η ταχεία πρόοδος συνεχίζεται.

δηλώσεις

Δήλωση διαθεσιμότητας δεδομένων

Οι πρωτότυπες συνεισφορές που παρουσιάζονται στη μελέτη περιλαμβάνονται στο άρθρο/συμπληρωματικό υλικό. περαιτέρω έρευνες μπορούν να απευθύνονται στον αντίστοιχο συγγραφέα.

Συνεισφορές συγγραφέα

RL: Conceptualization, Formal analysis, Investigation, Writing – πρωτότυπο προσχέδιο. LS: Τυπική ανάλυση, Συγγραφή – κριτική & επιμέλεια. RM: Τυπική ανάλυση, Συγγραφή – κριτική & επεξεργασία. ΜΜ: Εννοιολόγηση, Τυπική ανάλυση, Εποπτεία, Συγγραφή – κριτική & επιμέλεια. PV: Conceptualization, Writing – review & editing. JQ: Εννοιολόγηση, Επίβλεψη, Συγγραφή – κριτική & επιμέλεια.

Χρηματοδότηση

Ο συγγραφέας ή οι συγγραφέας δηλώνουν ότι έλαβε οικονομική υποστήριξη για την έρευνα, τη συγγραφή και/ή τη δημοσίευση αυτού του άρθρου. Αυτό το άρθρο χρηματοδοτήθηκε από το Εθνικό Ινστιτούτο Επιστήμης και Τεχνολογίας για Αναδυόμενους και Επανεμφανιζόμενους Ιούς—INCT-VER/CNPq-406360/2022-7.

Ευχαριστίες

Αυτή η έρευνα ήταν το αποτέλεσμα της αφοσίωσης της GA.IA, της οποίας ο κύριος σκοπός ήταν μια ζωτική δέσμευση για την κατανόηση και την ανάλυση αυτών των αναδυόμενων κινδύνων. Η έρευνα διεξήχθη υπό την αιγίδα της ομάδας, εμπνέοντας προληπτικά και ρυθμιστικά μέτρα. Οι συγγραφείς ευχαριστούν τις προσπάθειες της GA.IA, οι οποίες αντιπροσωπεύουν ένα σημαντικό βήμα προς πολύτιμες συζητήσεις για την παγκόσμια ασφάλεια.

Σύγκρουση συμφερόντων

Οι συγγραφείς δηλώνουν ότι η έρευνα διεξήχθη απουσία εμπορικών ή οικονομικών σχέσεων που θα μπορούσαν να ερμηνευθούν ως πιθανή σύγκρουση συμφερόντων.

Οι συγγραφέας δήλωσαν ότι ήταν μέλος της συντακτικής επιτροπής του Frontiers, κατά τη στιγμή της υποβολής. Αυτό δεν είχε καμία επίδραση στη διαδικασία αξιολόγησης από ομοτίμους και στην τελική απόφαση.

Σημείωση εκδότη

Όλοι οι ισχυρισμοί που εκφράζονται σε αυτό το άρθρο είναι αποκλειστικά εκείνοι των συγγραφέων και δεν αντιπροσωπεύουν απαραιτήτως αυτούς των συνδεδεμένων οργανισμών τους ή του εκδότη, των εκδοτών και των κριτικών. Οποιοδήποτε προϊόν μπορεί να αξιολογηθεί σε αυτό το άρθρο ή ισχυρισμός που μπορεί να προβληθεί από τον κατασκευαστή του, δεν είναι εγγυημένο ή εγκεκριμένο από τον εκδότη.

Αναφορές

1

AlleyE. C.TurpinM.LiuA. B.Kulp-McDowallT.SwettJ.EdisonR.et al. (2020). A machine learning toolkit for genetic engineering attribution to facilitate biosecurity. Nat. Commun.11:6293. doi: 10.1038/s41467-020-19612-0

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

2

BhardwajA.KishoreS.PandeyD. K. (2022). Artificial Intelligence in Biological Sciences. Life12:1430. doi: 10.3390/life12091430

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

3

GiordanoJ.WurzmanR. (2011). Neurotechnologies as weapons in national intelligence and defense—an overview. Synesis24, 855–857.

Google Scholar

Δείτε την αναφορά στο άρθρο

4

HendrycksD.MazeikaM.WoodsideT. (2023). An overview of catastrophic AI risks. arXiv [Preprint]. doi: 10.48550/arXiv.2306.12001

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

5

HoffmannS. A.DiggansJ.DensmoreD.DaiJ.KnightT.LeproustE.et al. (2023). Safety by design: biosafety and biosecurity in the age of synthetic genomics. iScience26:106165. doi: 10.1016/j.isci.2023.106165

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

6

LarsonC. A. (1970). Ethnic weapons. Military Review. p. 3–9. Available online at: https://www.armyupress.army.mil/Journals/Military-Review/Directors-SelectArticles/Ethnic-Weapons/ (Accessed April 19, 2024).

Google Scholar

Δείτε την αναφορά στο άρθρο

7

LewisG.JordanJ. L.RelmanD. A.KoblentzG. D.LeungJ.DafoeA.et al. (2020). The biosecurity benefits of genetic engineering attribution. Nat. Commun.11:6294. doi: 10.1038/s41467-020-19149-2

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

8

MoutonC. A.CalebL.EllaG. (2023). The operational risks of AI in large-scale biological attacks: a red-team approach. RAND Corporation, Santa Monica, CA. Available at: https://www.rand.org/pubs/research_reports/RRA2977-1.html (Accessed November 25, 2023).

Google Scholar

Δείτε την αναφορά στο άρθρο

9

NamdarB.PölzlerT. (2021). Toby Ord, the precipice: existential risk and the future of humanity, Bloomsbury, 2020. Ethical Theory Moral Pract24, 855–857. doi: 10.1007/s10677-021-10181-9

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

10

NewmanS. (2024). Biosecurity and AI: risks and opportunities. Center for AI Safety. Available at: https://www.safe.ai/blog/biosecurity-and-ai-risks-and-opportunities (Accessed April 19, 2024).

Google Scholar

Δείτε την αναφορά στο άρθρο

11

SandbrinkJ. B. (2023). Artificial intelligence and biological misuse: differentiating risks of language models and biological design tools. arXiv [Preprint]. doi: 10.48550/arXiv.2306.13952

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

12

TyshenkoM. G. (2007). Management of natural and bioterrorism induced pandemics. Bioethics21, 364–369. doi: 10.1111/j.1467-8519.2007.00571.x

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

13

WestR. M.GronvallG. K. (2020). CRISPR cautions: biosecurity implications of gene editing. Perspect. Biol. Med.63, 73–92. doi: 10.1353/pbm.2020.0006

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

14

World Health Organization (2023). “Biological Weapons.” Available at: https://www.who.int/health-topics/biological-weapons (Accessed December 05, 2023).

Google Scholar

Δείτε την αναφορά στο άρθρο

15

YaoF. A.MillogoA. A.EpopaP. S.NorthA.NoulinF.DaoK.et al. (2022). Mark-release-recapture experiment in Burkina Faso demonstrates reduced fitness and dispersal of genetically modified sterile malaria mosquitoes. Nat. Commun.13:79. doi: 10.1038/s41467-022-28419-0

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

16

YassifJ. M.KorolS.KaneA. (2023). Guarding against catastrophic biological risks: preventing state biological weapon development and use by shaping intentions. Health Secur.21, 258–265. doi: 10.1089/hs.2022.0145

Pubmed Περίληψη

CrossRef

Google Scholar

Δείτε την αναφορά στο άρθρο

Περίληψη

Λέξεις-κλειδιά

τεχνητή νοημοσύνη , βιολογικές απειλές , καταστροφικούς κινδύνους , δημόσιας υγείας , ασφάλεια

Παραπομπή

de Lima RC, Sinclair L, Megger R, Maciel MAG, Vasconcelos PFC και Quaresma JAS (2024) Προκλήσεις τεχνητής νοημοσύνης απέναντι σε βιολογικές απειλές: αναδυόμενοι καταστροφικοί κίνδυνοι για τη δημόσια υγεία . Εμπρός. Καλλιτέχνης Intel. 7:1382356. doi: 10.3389/frai.2024.1382356

Ελήφθη

05 Φεβρουαρίου 2024

Δεκτός

29 Απριλίου 2024

Δημοσιεύθηκε

10 Μαΐου 2024

Τόμος

7 – 2024

Επιμέλεια από

Farah Kidwai-Khan, Yale University, United States

Αξιολογήθηκε από

Willy A. Valdivia-Granda, Orion Integrated Biosciences, United States

Stephen Allen Morse, IHRC, Inc. Headquarters, United States

Ενημερώσεις

Ελέγξτε για ενημερώσεις

Πνευματική ιδιοκτησία

© 2024 de Lima, Sinclair, Megger, Maciel, Vasconcelos και Quaresma.

Αυτό είναι ένα άρθρο ανοιχτής πρόσβασης που διανέμεται σύμφωνα με τους όρους του Άδεια αναφοράς Creative Commons (CC BY) . Επιτρέπεται η χρήση, η διανομή ή η αναπαραγωγή σε άλλα φόρουμ, υπό την προϋπόθεση ότι ο αρχικός συγγραφέας και ο κάτοχος των πνευματικών δικαιωμάτων αναφέρονται και αναφέρεται η αρχική δημοσίευση σε αυτό το περιοδικό, σύμφωνα με την αποδεκτή ακαδημαϊκή πρακτική. Δεν επιτρέπεται καμία χρήση, διανομή ή αναπαραγωγή που δεν συμμορφώνεται με αυτούς τους όρους.

*Correspondence: Renan Chaves de Lima, renanlima@ufpa.br

†ORCID: Renan Chaves de Lima, orcid.org/0000-0002-0273-6383

Ricardo Megger, orcid.org/0009-0008-2173-4894

Magno Alessandro Guedes Maciel, orcid.org/0009-0006-1729-8538

Pedro Fernando da Costa Vasconcelos, orcid.org/0000-0002-6603-5527

Juarez Antônio Simões Quaresma, orcid.org/0000-0002-6267-9966

Αρνηση

Όλοι οι ισχυρισμοί που εκφράζονται σε αυτό το άρθρο είναι αποκλειστικά εκείνοι των συγγραφέων και δεν αντιπροσωπεύουν απαραιτήτως αυτούς των συνδεδεμένων οργανισμών τους ή του εκδότη, των εκδοτών και των κριτικών. Οποιοδήποτε προϊόν μπορεί να αξιολογηθεί σε αυτό το άρθρο ή ισχυρισμός που μπορεί να γίνει από τον κατασκευαστή του δεν είναι εγγυημένο ή εγκεκριμένο από τον εκδότη.

Συντάκτης & Κριτές

Επιμέλεια από

Farah Kidwai-Khan

Yale University, United States

https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2024.1382356/full

Από τις αρχαίες προφητείες μέχρι τα σύγχρονα εργαστήρια, η αγωνία για το τέλος του ανθρώπινου πολιτισμού δεν ήταν ποτέ πιο ορθολογική.

Ο διακεκριμένος αστροφυσικός Martin Rees προειδοποιεί ότι η τεχνολογική μας εξέλιξη τρέχει πολύ πιο γρήγορα από την ικανότητά μας να την ελέγξουμε.

Ο κίνδυνος της (βιο)τεχνολογίας

Οι υπόλοιπες απειλές για την ανθρωπότητα

Από αμνημονεύτων χρόνων υπήρχαν μύθοι για μέντιουμ, προφήτες και αποκαλύψεις που προσπαθούσαν να προβλέψουν το τέλος του ανθρώπινου πολιτισμού.

Πρόκειται για ένα επαναλαμβανόμενο θέμα σε πολιτισμούς σε ολόκληρο τον πλανήτη, που δείχνει μια μάλλον βιολογική ανάγκη της ανθρωπότητας να γνωρίζει το μέλλον που την περιμένει.

Η επιστημονική και τεχνολογική πρόοδος των τελευταίων τριών αιώνων επέτρεψε να δοθεί σε αυτές τις προβλέψεις ένα ορθολογικό νόημα, απομακρύνοντάς τες από το αμιγώς μυθολογικό ύφος, τουλάχιστον στη συντριπτική τους πλειοψηφία.

Υπό αυτή την έννοια, στον χώρο της επιστήμης, πολλοί ερευνητές έχουν παρουσιάσει θεωρίες υποστηριζόμενες από εμπειρικές αναφορές, προειδοποιώντας για τους κινδύνους που απειλούν τη συνέχεια του ανθρώπινου πολιτισμού όπως τον γνωρίζουμε.

Το 2003 για παράδειγμα, ο καθηγητής Αστροφυσικής και Κοσμολογίας, και πρώην πρύτανης του Trinity College του Πανεπιστημίου του Cambridge, Martin John Rees, εξέδωσε το βιβλίο του Η Τελευταία μας Ώρα.

Ένα έργο όπου αναλογίζεται τους υπαρξιακούς κινδύνους για την ανθρωπότητα του 21ου αιώνα, συμπεριλαμβανομένου του βιολογικού και τεχνολογικού κινδύνου, οι οποίοι μειώνουν τις πιθανότητες επιβίωσής μας στο μισό μέχρι το τέλος του αιώνα.

Ο κίνδυνος της (βιο)τεχνολογίας

Στο βιβλίο του, ο Rees υποδεικνύει τη γενετική μηχανική και τον βιολογικό πειραματισμό ως μία από τις κύριες απειλές για την ανθρωπότητα, ακόμη και πάνω από τον πυρηνικό κίνδυνο.

Η διαπίστωση αυτή βασίζεται στο χαμηλό κόστος, την εύκολη πρόσβαση και τη δύσκολη ιχνηλάτηση πιθανών προγραμμάτων ανάπτυξης βιολογικών όπλων, ή στον υψηλό κίνδυνο εργαστηριακών ατυχημάτων που θα μπορούσαν να απελευθερώσουν γενετικά τροποποιημένα παθογόνα προκαλώντας εκατομμύρια θύματα.

Ο δεύτερος μεγαλύτερος κίνδυνος είναι αυτό που αποκαλεί «τεχνοκτονία» (tecnocide), δηλαδή η απειλή αφανισμού ως αποτέλεσμα της ανεξέλεγκτης τεχνολογικής ανάπτυξης.

Εδώ περιλαμβάνει τον κίνδυνο περιβαλλοντικής καταστροφής λόγω των εξελίξεων στη νανοτεχνολογία, την πιθανότητα η τεχνητή νοημοσύνη, με τη βοήθεια της υπερυπολογιστικής, να ξεπεράσει την ικανότητα ελέγχου των ανθρώπων, καθώς και ένα ενδεχόμενο ατύχημα σε πειράματα όπως ο επιταχυντής σωματιδίων του CERN.

Οι υπόλοιπες απειλές για την ανθρωπότητα

Σχεδόν προφητικά, ο Rees μιλά επίσης για την έννοια της «τεχνοκρατικής δικτατορίας» και τους κινδύνους της κοινωνικής χειραγώγησης που προκαλείται από τα μέσα ενημέρωσης και τους θεσμούς, υποστηριζόμενη από νέες τεχνολογίες επιτήρησης.

Αυτό μας φέρνει αντιμέτωπους με ένα μέλλον όπου τα μέσα κοινωνικής δικτύωσης, το κινητό τηλέφωνο και το διαδίκτυο λειτουργούν ως εργαλεία ελέγχου χωρίς να απαιτούνται τα βάναυσα κατασταλτικά καθεστώτα του περασμένου αιώνα.

Ο Rees προειδοποιεί για τον κίνδυνο δημιουργίας μιας κοινωνίας αναισθητοποιημένης από την ψυχαγωγία και τη διασκέδαση, η οποία εγκαταλείπει έτσι κάθε κριτική σκέψη.

Τέλος, το βιβλίο ανοίγει την πόρτα σε ένα ορίζοντα όπου η ίδια η φύση της ανθρώπινης ζωής παύει να υπάρχει καθώς συντίθεται με την τεχνολογία.

Οι προτάσεις για την ενσωμάτωση μικροτσίπ στο ανθρώπινο σώμα ή οι αυθαίρετες γενετικές τροποποιήσεις αντικατοπτρίζουν την τάση της σύγχρονης επιστήμης να θέλει να τροποποιήσει τον άνθρωπο και να τον κάνει πιο αποτελεσματικό.

Εξαιτίας όλης αυτής της λίστας απειλών για τον πολιτισμό, ο Rees πιστεύει ότι «η πιθανότητα ο σημερινός μας πολιτισμός να επιβιώσει μέχρι το τέλος του παρόντος αιώνα δεν ξεπερνά το 50%».

Μια προφητεία που μόνο το πέρασμα του χρόνου θα δείξει αν θα τον δικαιώσει.

………………

Η (βιο)τεχνολογία εγκυμονεί σοβαρούς κινδύνους για την ανθρωπότητα λόγω της γενετικής μηχανικής, των τεχνητών πανδημιών και του ακατέργαστου βιολογικού πειραματισμού, οι οποίοι ενισχύονται από το χαμηλό κόστος πρόσβασης και την ταχύτατη εξέλιξη. [1, 2, 3]

Ο Κίνδυνος της Βιοτεχνολογίας

Γενετική τροποποίηση: Παρεμβάσεις στο DNA και genetiki mixaniki που μπορούν να ξεφύγουν από τον έλεγχο.

Βιοτρομοκρατία: Εύκολη σύνθεση επικίνδυνων παθογόνων σε εργαστήρια χαμηλού κόστους.

Ηθική αλλοίωση: Πειράματα που αλλάζουν τη φυσική και βιολογική υπόσταση του ανθρώπου. [1, 2, 3]

Υπόλοιπες Υπαρξιακές Απειλές

Τεχνητή Νοημοσύνη (AI): Απώλεια ελέγχου από αυτόνομα συστήματα και γνωσιακή ατροφία.

Kλιματική αλλαγή: Καταστροφή οικοσυστημάτων και ακραία καιρικά φαινόμενα.

Πυρηνικός πόλεμος: Ο κίνδυνος χρήσης πυρηνικού οπλοστασίου από γεωπολιτικές συγκρούσεις.

Mείωση βιοποικιλότητας: Κατάρρευση της τροφικής αλυσίδας και εξαφάνιση ειδών. [1, 2]

Μιχάλης Μπλέτσας στο ΕΡΤnews: Η τεχνητή νοημοσύνη μπορεί να ενισχύσει τη μάθηση, αλλά υπάρχει κίνδυνος «γνωσιακής ατροφίας»

ΕΙΔΗΣΕΙΣΕΛΛΑΔΑΤεχνολογία

12/08/26

Τον κίνδυνο η τεχνητή νοημοσύνη να οδηγήσει σε «γνωσιακή ατροφία», αντί να ενισχύσει τη μάθηση, επισήμανε ο διοικητής της Εθνικής Αρχής Κυβερνοασφάλειας και ερευνητής στο MIT Media Lab, Μιχάλης Μπλέτσας, μιλώντας στο ΕΡΤnews.

Όπως ανέφερε, η μεγάλη πρόκληση για την εκπαίδευση είναι να αξιοποιηθεί η τεχνητή νοημοσύνη επικουρικά και όχι ως υποκατάστατο των νοητικών διεργασιών του μαθητή.

«Ο μεγάλος κίνδυνος αυτή τη στιγμή είναι ότι δεν τη χρησιμοποιούμε σωστά. Δεν τη χρησιμοποιούμε επικουρικά, την χρησιμοποιούμε αντικαθιστώντας σταδιακά κάποιες δικές μας διεργασίες», σημείωσε χαρακτηριστικά, φέρνοντας ως παράδειγμα έναν μαθητή που, αντί να προσπαθήσει να λύσει ένα πρόβλημα, ζητά από την τεχνητή νοημοσύνη την έτοιμη απάντηση.

Σύμφωνα με τον κ. Μπλέτσα, η εύκολη λύση μπορεί να οδηγήσει σε «γνωσιακή ατροφία αντί για ενίσχυση», καθώς ο άνθρωπος έχει την τάση να επιλέγει τον πιο εύκολο δρόμο.

«Είναι το ένστικτό μας να παίρνουμε τον εύκολο δρόμο.

Δυστυχώς έτσι δουλεύει το ανθρώπινο μυαλό», ανέφερε.

«Να τη χρησιμοποιούν σαν διεγερτικό για τη μάθηση»

Ο ίδιος υπογράμμισε ότι απαιτείται συνειδητή προσπάθεια από τους μαθητές ώστε η τεχνητή νοημοσύνη να λειτουργήσει ως εργαλείο μάθησης και όχι ως μέσο αποφυγής της προσπάθειας.

«Χρειάζεται μια πολύ μεγάλη και συνειδητή προσπάθεια και από τους μαθητές, να μην τη χρησιμοποιήσουν σαν ναρκωτικό, αλλά σαν διεγερτικό για τη μάθησή τους», είπε χαρακτηριστικά.

Ο κ. Μπλέτσας αναφέρθηκε και στον ιδιαίτερο ρόλο που μπορεί να διαδραματίσει η τεχνητή νοημοσύνη στην ελληνική εκπαίδευση, δεδομένης της μεγάλης εξάρτησης από τη φροντιστηριακή εκπαίδευση.

Όπως εκτίμησε, ένα σύστημα τεχνητής νοημοσύνης μπορεί να υποκαταστήσει σε μεγάλο βαθμό τη λειτουργία ενός φροντιστηρίου, καθώς έχει τη δυνατότητα να δημιουργεί εξατομικευμένες ασκήσεις και εκπαιδευτικό υλικό.

«Μπορεί να σου φτιάξει ασκήσεις εκεί που ο φροντιστής θα σου δώσει μία άσκηση.

Η τεχνητή νοημοσύνη μπορεί να σου φτιάξει 20 ασκήσεις», εξήγησε, επισημαίνοντας μάλιστα ότι ακόμη και τα λάθη που κάνει ένα σύστημα τεχνητής νοημοσύνης μπορούν να αξιοποιηθούν εκπαιδευτικά, καθώς δίνουν στον μαθητή την ευκαιρία να τα εντοπίσει και να τα αξιολογήσει.

Εξατομικευμένη μάθηση και εξετάσεις

Στο επίκεντρο της συζήτησης βρέθηκε και η δυνατότητα εξατομίκευσης της εκπαιδευτικής διαδικασίας.

Ο διοικητής της Εθνικής Αρχής Κυβερνοασφάλειας υπογράμμισε ότι η τεχνητή νοημοσύνη μπορεί να παρέχει οδηγίες και εκπαιδευτικές δραστηριότητες προσαρμοσμένες στις δυνατότητες και τις ανάγκες κάθε μαθητή.

«Το γεγονός ότι μπορεί η τεχνητή νοημοσύνη να δώσει οδηγίες μάθησης εξατομικευμένες σε κάθε μαθητή, ανάλογα με τις δυνατότητές του, είναι κάτι το οποίο θα πρέπει να εκμεταλλευτούμε», σημείωσε.

Ανάλογες δυνατότητες, σύμφωνα με τον ίδιο, υπάρχουν και στη διαδικασία αξιολόγησης.

Η τεχνητή νοημοσύνη θα μπορούσε να δημιουργεί διαφορετικά τεστ για κάθε μαθητή, με μεγάλο αριθμό ερωτήσεων και συγκεκριμένους χρονικούς περιορισμούς, ώστε η εξέταση να παραμένει ουσιαστική και δίκαιη.

Παράλληλα, σημείωσε ότι η επιστροφή σε εξετάσεις που πραγματοποιούνται με φυσική παρουσία μπορεί να αποτελέσει μία απλή πρακτική αντιμετώπισης της χρήσης της τεχνητής νοημοσύνης, ιδιαίτερα όταν πρόκειται για αξιολόγηση γνώσεων και δεξιοτήτων.

«Αν το τεστ μπορεί να το απαντήσει η τεχνητή νοημοσύνη, ίσως να μην είναι το σωστό τεστ», ανέφερε χαρακτηριστικά.

«Το εκπαιδευτικό μας σύστημα είναι ακόμα στη δεύτερη βιομηχανική επανάσταση»

Ο Μιχάλης Μπλέτσας εκτίμησε, πάντως, ότι η μεγαλύτερη πρόκληση δεν αφορά μόνο τον τρόπο με τον οποίο οι μαθητές χρησιμοποιούν την τεχνητή νοημοσύνη, αλλά και το ίδιο το εκπαιδευτικό σύστημα, το οποίο, όπως είπε, δεν έχει προσαρμοστεί στις νέες συνθήκες.

«Το εκπαιδευτικό μας σύστημα είναι ακόμα στη δεύτερη βιομηχανική επανάσταση.

Όταν λοιπόν στη δεύτερη βιομηχανική επανάσταση πας να βάλεις τα εργαλεία της τέταρτης, έχεις ένα πρόβλημα», ανέφερε.

Κατά τον ίδιο, η εκπαίδευση εξακολουθεί να δίνει ιδιαίτερο βάρος στην απομνημόνευση βασικών γνώσεων, την ώρα που οι μαθητές έχουν πλέον πρόσβαση σε τεράστιο όγκο πληροφοριών μέσω της τεχνητής νοημοσύνης.

«Όταν ο κάθε μαθητής έχει μπροστά του πρόσβαση σε όλη την πληροφορία που έχει, ή σε ένα μεγάλο ποσοστό της πληροφορίας που έχει η ανθρωπότητα, εμείς ακόμα ασχολούμαστε με το αν έχει πάρει πέντε βασικές γνώσεις και εξετάζουμε αν στο μυαλό του υπάρχουν πέντε βασικά πράγματα», σημείωσε.

Η κρίσιμη δεξιότητα: να ξέρεις τι να κρατήσεις και τι να αξιολογήσεις

Σε αυτό το νέο περιβάλλον, σύμφωνα με τον κ. Μπλέτσα, το ζητούμενο δεν είναι πλέον η απομνημόνευση όσο η ανάπτυξη δεξιοτήτων που επιτρέπουν στον μαθητή να αξιολογεί την πληροφορία και να γνωρίζει ποια στοιχεία πρέπει να συγκρατήσει.

«Θα πρέπει να έχει δεξιότητες και να καταλαβαίνει ποιες από όλες αυτές τις γνώσεις θα πρέπει να κρατάει μέσα στο κεφάλι του και πώς θα αξιολογεί τις υπόλοιπες, τις οποίες θα βρίσκει πολύ εύκολα», ανέφερε.

Όπως υπογράμμισε, η δεξιότητα αυτή συνδέεται άμεσα και με τη διά βίου μάθηση, καθώς «η μάθηση και η παιδεία δεν σταματάνε στα 12 χρόνια ή στα 18 χρόνια της βασικής εκπαίδευσης».

«Έτσι όπως είναι τα πράγματα αυτή τη στιγμή, η τεχνητή νοημοσύνη είναι περισσότερο εμπόδιο και λιγότερο αρωγός. Αυτό είναι ξεκάθαρο και αυτό θα πρέπει να δούμε γιατί συμβαίνει», κατέληξε.

………….

Τεχνολογική εξέλιξη, θετικές & αρνητικές επιπτώσεις στην κοινωνία μας

https://www.spartan.gr/news/texnologiki-ekseliksi-thetikes-arnitikes-epiptoseis-stin-koinonia-mas

Κίνδυνοι από τη βιοτεχνολογία

https://www.kathimerini.gr/economy/local/99043/kindynoi-apo-ti-viotechnologia/

Σκοπός μου είναι να προσφέρω τις πληροφορίες και την πείρα μου για να προλάβουμε αυτό που αναφέρω στον τίτλο!

Μεταξύ επιστήμης και αθέμιτου κέρδους, από Ανθρώπους που η Ανθρώπινη αξία και ηθική είναι ελαττωματική, χρειαζόμαστε επειγόντως υπεύθυνους πνευματικούς, που θα απαιτήσουν τον πλήρη έλεγχο κάθετα και οριζοντίως, την τεχνική νοημοσύνη.

Παραδόπιστοι επιστήμονες και ανήθικοι/ αυτοί που χρηματοδοτούν την τεχνική νοημοσύνη, είναι σίγουρο ότι θα πουν και θα κάνουν τα πάντα για να πείσουν την Ανθρωπότητα για τα καλά και θαυμαστά έργα της τεχνικής νοημοσύνης. 

ΜΗ ΤΟ ΑΦΗΝΕΙΣ ΣΤΗΝ ΜΕΣΗ, ΑΞΙΖΕΙ ΝΑ ΣΥΝΕΧΙΣΕΙΣ

Ανακήρυξη Ελληνικής ΑΟΖ στα 12 ν.μ έπρεπε να γίνει χθές… Τα Σκόπια γλώσσα και εθνικότητα Μακεδονική.. Τώρα αυτό… όλα τα γειτονικά κράτη είναι εθνικιστές… Πόσο θα συνεχιστεί ακόμα η υποχωρητικότητα της Ελλάδας σε όλα τα εθνικά θέματα και από όλες τις κυβερνήσεις??? Παλιότερα Ίμια… Αεροπλάνα και φρεγάτες γιατί τις αγοράζουμε τότε??? Ποιον δουλεύετε??!

Οι προδότες είναι μεστά στο σπίτι μας.

ΚΚΕ και ξεπούλημα Μακεδονίας

Το «Σχέδιο Λίμνες», για την διχοτόμηση της Ελλάδος σε Νότια και Βόρεια – η οποία δεν θα ήταν Ελλάδα.

Μια απ’ τις πιο σκοτεινές σελίδες της Ιστορίας της -ενιαίας μέχρι το 1968- αριστεράς στην Ελλάδα, ήταν το περιβόητο «Σχέδιο Λίμνες, το οποίο εγκρίθηκε από την 3η ολομέλεια της ΚΕ του ΚΚΕ, που έγινε στις Πρέσπες (γι’ αυτό το σχέδιο έχει την ονομασία «Λίμνες»), στις 11-12 Σεπτεμβρίου 1947.

Το στρατιωτικό σκέλος του σχεδίου προέβλεπε τον τριπλασιασμό των δυνάμεων του ΔΣΕ, μέχρι την άνοιξη του 1948, για να καταστεί δυνατή η εφαρμογή στην πράξη του πολιτικού σκέλους του σχεδίου, που ήταν η διχοτόμηση της Ελλάδος σε Νότια και Βόρεια, με πρωτεύουσα την Θεσσαλονίκη και σύνορα στον Όλυμπο, κατά τα πρότυπα της διχοτόμησης της Γερμανίας σε Δυτική και Ανατολική και της Κορέας, σε Νότια και Βόρεια.

Η διαφορά της ελληνικής διχοτόμησης από την γερμανική και την κορεάτικη, θα ήταν ότι το κομμουνιστικό κράτος που θα προέκυπτε στην Βόρεια Ελλάδα, δεν θα ήταν Ελλάδα!

Βάσει των προηγουμένων αλλά και των επομένων διακηρύξεων του ΚΚΕ, η «απελευθερωμένη περιοχή» δεν θα ονομαζόταν «Βόρεια Ελλάδα», αλλά «Δημοκρατία της Μακεδονίας του Αιγαίου» και θα ακολουθούσε η ενσωμάτωσή της στην «Γιουγκοσλαβική Δημοκρατία της Μακεδονίας».

Η δε Θράκη, θα δινόταν στην Βουλγαρία, για να αποκτήσει αυτή έξοδο στο Αιγαίο.

Κι είναι ενδεικτική η απόφαση της 3ης Ολομέλειας της ΚΕ του ΚΚΕ, που αποφεύγει επιμελώς να αναφέρει ως «Βόρεια Ελλάδα» την περιοχή που θα «απελευθερωνόταν», αλλά την αναφέρει γενικά κι αόριστα ως «ελεύθερη δημοκρατική περιοχή με δική της κυβέρνηση».

Επίσης, ούτε στο ίδιο το «Σχέδιο Λίμνες» γινόταν αναφορά σε κράτος με ονομασία «Βόρεια Ελλάδα»:

«Την παρούσα στιγμή ωρίμασαν οι συνθήκες για την εκπλήρωση του βασικού στρατηγικού καθήκοντος, που στέκεται μπροστά στο Δημοκρατικό Στρατό μας, δηλαδή τη δημιουργία ελεύθερου εδάφους στην έκταση της Μακεδονίας και την απελευθέρωση ολόκληρης της Μακεδονίας – Θράκης με κέντρο τη Θεσσαλονίκη».

Διόμιση μήνες πριν το «Σχέδιο Λίμνες», το ΚΚΕ έριξε την ιδέα της διχοτόμησης της Ελλάδος, για να μετρήσει τις αντιδράσεις της κοινής γνώμης. Πιο συγκεκριμένα, στις 27 Ιουνίου 1947, το μέλος του Πολιτικού Γραφείου του ΚΚΕ, Μιλτιάδης Πορφυρογένης, είπε τα εξής στον λόγο του στο συνέδριο του ΚΚ Γαλλίας, που διεξήχθη στο Στρασβούργο:

«Δημιουργία μιας λεύτερης δημοκρατικής περιοχής, με δική της κυβέρνηση και δική της κρατική υπόσταση.

Για ένα τέτοιο πράγμα, υπήρχαν και πριν και υπάρχουν και σήμερα, ακόμα περισσότερο, όλες οι απαραίτητες αντικειμενικές στρατιωτικές, πολεμικές, υλικές, πολιτικές, ηθικές, ψυχολογικές, μα και γεωγραφικές προϋποθέσεις».

Φυσικά, το διχοτομικό «Σχέδιο Λίμνες» ήταν σοβιετικής έμπνευσης, καθώς πριν πάει στο Στρασβούργο, ο Πορφυρογένης είχε επισκεφθεί την Μόσχα, για να πάρει «γραμμή», για το τι ακριβώς έπρεπε να πει στον λόγο του. Προφανώς, οι Σοβιετικοί ήλπιζαν στην δημιουργία ενός fait accompli στην Μακεδονία και την Θράκη.

Η αναγγελία της επίσκεψης Πορφυρογένη στην Μόσχα, έγινε με επιστολή του Ζαχαριάδη προς τους Σοβιετικούς (παραλήπτης ο Α. Μπαράνωφ), που στάλθηκε στις 5 Ιουνίου 1947.

Η εν λόγω επιστολή, είναι καταχωρημένη στα αρχεία του ΚΚΕ και δημοσιεύθηκε στην «Αυγή» της 15/12/1979.

Μετά την δημοσιοποίηση της ομιλίας Πορφυρογένη στο Στρασβούργο, ξέσπασε θύελλα στην Ελλάδα και το ΚΚΕ καταγγέλθηκε από την ελληνική κυβέρνηση ως προδοτικό κόμμα, που ήθελε να αποσπάσει από την Ελλάδα μέρος της Επικράτειας.

Οπότε, λόγω των σφοδρών λαϊκών αντιδράσεων, το ΚΚΕ αποφάσισε να κρατήσει μυστικό το «Σχέδιο Λίμνες», το οποίο μάλιστα συντάχθηκε απευθείας στην ρωσική γλώσσα, κι όχι στην ελληνική!

Το διχοτομικό «Σχέδιο Λίμνες» ήρθε για πρώτη φορά στη δημοσιότητα στις 6/1/1980, στην «Αυγή», από τον ιστορικό Φίλιππο Ηλιού.

Μεταγενέστερα, δημοσιεύτηκε -σε μετάφραση από τα ρωσικά στον «Ριζοσπάστη» της 17/12/1996.

Συμπέρασμα: ευτυχώς ηττήθηκαν!