Πρέπει να ανησυχούμε ότι η ΤΝ θα δημιουργήσει θανατηφόρα βιολογικά όπλα; Όχι ακόμη, αλλά μια μέρα…
Η τεχνητή νοημοσύνη (ΤΝ) χρησιμοποιείται για το σχεδιασμό πρωτεϊνών και ακόμη και ιών, γεγονός που προκαλεί ανησυχίες ότι αυτά θα μπορούσαν τελικά να χρησιμοποιηθούν για να παρακάμψουν τους ελέγχους των βιολογικών όπλων.
Η ΤΝ θα μπορούσε να χρησιμοποιηθεί για την παραγωγή της τοξίνης ριξίνης, αλλά αυτή μπορεί επίσης να ληφθεί από σπόρους ψυχανθών, οι οποίοι βρίσκονται σε πολλούς κήπους.
Η τεχνητή νοημοσύνη υπόσχεται να μεταμορφώσει τη βιολογία, επιτρέποντάς μας να σχεδιάσουμε καλύτερα φάρμακα, εμβόλια και ακόμη και συνθετικούς οργανισμούς για, ας πούμε, την κατανάλωση πλαστικών αποβλήτων. Αλλά μερικοί φοβούνται ότι θα μπορούσε επίσης να χρησιμοποιηθεί για σκοτεινότερους στόχους, όπως η δημιουργία βιολογικών όπλων, που δεν θα ανιχνεύονται με συμβατικούς τρόπους μέχρι να είναι πολύ αργά. Πόσο ανησυχητικοί πρέπει να είμαστε;
«Οι εξελίξεις στην ΤΝ ενισχύουν τις ανακαλύψεις στη βιολογία και την ιατρική», λέει ο Έρικ Χόρβιτς, επικεφαλής επιστημονικός διευθυντής της Microsoft. «Με τη νέα δύναμη έρχεται η ευθύνη για επαγρύπνηση».
Η ομάδα του έχει δημοσιεύσει μια μελέτη που εξετάζει εάν η ΤΝ θα μπορούσε να σχεδιάσει πρωτεΐνες που να λειτουργούν όπως επικίνδυνες πρωτεΐνες, αλλά να διαφέρουν αρκετά ώστε να μην αναγνωρίζονται ως επικίνδυνες. Η ομάδα δεν αποκάλυψε ποιες πρωτεΐνες προσπάθησαν να redesign, αλλά πιθανότατα περιλάμβαναν τοξίνες όπως η ριξίνη, που χρησιμοποιήθηκε διάσημα σε μια δολοφονία το 1978, και η βοτουλίνη, το ισχυρό νευροτοξικό γνωστό ως Botox.
Για να παραχθεί μεγάλη ποσότητα μιας πρωτεΐνης όπως η βοτουλίνη, χρειάζεται η συνταγή της – το DNA που την κωδικοποιεί. Όταν οι βιολόγοι θέλουν ένα συγκεκριμένο κομμάτι DNA, συνήθως το παραγγέλνουν από εταιρείες που ειδικεύονται στην παραγωγή όποιου επιθυμητού κομματιού.
Λόγω ανησυχιών ότι πιθανοί βιοτρομοκράτες θα μπορούσαν να παραγγείλουν τις συνταγές για την παραγωγή βιολογικών όπλων με αυτόν τον τρόπο, ορισμένες εταιρείες σύνθεσης DNA εθελοντικά ελέγχουν τις παραγγελίες για να δουν αν κάποιος προσπαθεί να κατασκευάσει κάτι επικίνδυνο. Οι πρωτεΐνες είναι αλληλουχίες αμινοξέων, και οι έλεγχοι επιβεβαιώνουν αν η αλληλουχία των αμινοξέων ταιριάζει με οποιεσδήποτε «αλγόριθμους ανησυχίας» – δηλαδή, πιθανών βιολογικών όπλων.
Αλλά με την ΤΝ, είναι θεωρητικά δυνατό να σχεδιάσετε μια έκδοση μιας πρωτεΐνης που έχει διαφορετική αλληλουχία αμινοξέων αλλά εξακολουθεί να κάνει το ίδιο πράγμα. Ο Χόρβιτς και οι συνάδελφοί του δοκίμασαν αυτό με 72 δυνητικά επικίνδυνες πρωτεΐνες και διαπίστωσαν ότι οι μέθοδοι ελέγχου συχνά παραλείπουν αυτές τις εναλλακτικές εκδόσεις.
Αυτό δεν είναι τόσο ανησυχητικό όσο ακούγεται. Πρώτον, η ομάδα στην πραγματικότητα δεν δημιούργησε τις επανασχεδιασμένες πρωτεΐνες για προφανείς λόγους. Αλλά σε μια ξεχωριστή μελέτη νωρίτερα φέτος, δοκίμασαν επανασχεδιασμένες εκδόσεις αβλαβών πρωτεϊνών και ουσιαστικά διαπίστωσαν ότι δεν λειτουργούσαν.
Δεύτερον, αν και έχουν υπάρξει αποτυχημένες απόπειρες βιοτρομοκρατίας, παραδόξως πολύ λίγες, υπάρχουν λίγοι λόγοι να πιστεύει κανείς ότι αυτό οφείλεται σε αποτυχία του εθελοντικού συστήματος σάρωσης. Υπάρχουν ήδη πολλοί τρόποι να το παρακάμψει χωρίς να καταφύγει σε επανασχεδιασμό ΤΝ – για παράδειγμα, η ριξίνη μπορεί να ληφθεί από φυτά ριξίνης, τα οποία βρίσκονται σε πολλούς κήπους. Αυτή η μελέτη είναι ισοδύναμη με την προειδοποίηση ότι μια τράπεζα θα μπορούσε να κλαπεί από κάποιο εξαιρετικά εξελιγμένο σχέδιο τύπου Mission Impossible, όταν στην πραγματικότητα η θυρίδα έχει αφεθεί ευρέως ανοιχτή.
Τελευταίο αλλά εξίσου σημαντικό, όταν αποκλείονται οι κρατικοί παράγοντες, κανένας βιοτρομοκράτης δεν έχει καταφέρει ποτέ να σκοτώσει άνθρωπο χρησιμοποιώντας πρωτεΐνες ως βιολογικά όπλα. Η αίρεση Aum Shinrikyo στην Ιαπωνία προσπάθησε να σκοτώσει ανθρώπους με βοτουλίνη, αλλά τα κατάφερε μόνο με χημικούς παράγοντες. Οι επιστολές που είχαν ριξίνη και εστάληκαν στον Λευκό Οίκο δεν σκότωσαν κανέναν. Βασιζόμενο σε αριθμούς θυμάτων, τα όπλα και τα εκρηκτικά είναι απείρως πιο επικίνδυνα από τους βιοτοξίνες.
Έτσι, σημαίνει ότι πρέπει να σταματήσουμε να ανησυχούμε για τα βιολογικά όπλα που σχεδιάζονται από την ΤΝ; Όχι ακριβώς. Ενώ οι μελέτες του Χόρβιτς εξετάζουν μόνο τις πρωτεΐνες, οι ιοί είναι η κύρια απειλή – και η ΤΝ χρησιμοποιείται ήδη για να επανασχεδιάσει ολόκληρους ιούς.
Μήνα προηγούμενο, μια ομάδα στο Πανεπιστήμιο Στάνφορντ στην Καλιφόρνια αποκάλυψε τα αποτελέσματα των προσπαθειών της να επανασχεδιάσει έναν ιό που μολύνει το βακτήριο E. coli. Όπως και με τις επανασχεδιασμένες πρωτεΐνες, τα αποτελέσματα ήταν απογοητευτικά – από τους 302 ιούς που σχεδιάστηκαν με την ΤΝ, μόνο οι 16 μπορούσαν να μολύνουν E. coli. Αλλά αυτό είναι μόνο η αρχή.
Όταν ρωτήθηκε για ιούς που σχεδιάζονται από την ΤΝ, ο Τζέιμς Ντίγκανς από την εταιρεία παραγωγής DNA Twist Bioscience, και μέλος της ομάδας του Χόρβιτς, δήλωσε ότι είναι πιο εύκολο να ανιχνευτούν οι ιοί που κωδικοποιούνται από το DNA που αποτελούν ανησυχία παρά οι επικίνδυνες πρωτεΐνες. «Η διαδικασία σάρωσης λειτουργεί καλύτερα με περισσότερες πληροφορίες παρά με λιγότερες. Άρα σε κλίμακα γονιδιώματος, είναι εξαιρετικά ενημερωτική».
Αλλά όχι όλες οι εταιρείες παραγωγής DNA πραγματοποιούν αυτή τη σάρωση, και οι συσκευές σύνθεσης DNA επιτραπέζιου τύπου γίνονται διαθέσιμες. Υπάρχουν συζητήσεις για την ανάπτυξη εργαλείων ΤΝ που θα αρνούνται να δημιουργήσουν επικίνδυνους ιούς ή θα προσπαθούν να ανιχνεύσουν κακόβουλες προθέσεις, αλλά οι άνθρωποι έχουν βρει πολλούς τρόπους να παρακάμψουν τις ασφαλιστικές δικλείδες που προορίζονται, για παράδειγμα, για να αποτρέψουν τις ΤΝ από το να παρέχουν οδηγίες κατασκευής βομβών.
Για να είμαστε σαφείς, η ιστορία υποδεικνύει ότι ο κίνδυνος από «άγριους» ιούς είναι πολύ μεγαλύτερος από τον κίνδυνο από τη βιοτρομοκρατία. Παρά όσα λέει η τρέχουσα κυβέρνηση των Η.Π.Α., τα στοιχεία δείχνουν ότι ο SARS-CoV-2 εμφανίστηκε όταν ένας ιός νυχτερίδας πέρασε σε άλλα άγρια ζώα και στη συνέχεια σε ανθρώπους σε μια αγορά – χωρίς συμμετοχή εργαστηρίου.
Επιπλέον, οι πιθανοί βιοτρομοκράτες θα μπορούσαν να προκαλέσουν τεράστια ζημιά απλώς απελευθερώνοντας έναν γνωστό ιό, όπως η ευλογιά. Με τα πολλά κενά στους ελέγχους των βιολογικών όπλων, δεν υπάρχει ιδιαίτερη ανάγκη να καταφύγουμε σε τέσσερις τέτοιες παγίδες για να τα παρακάμψουμε.
Για όλους αυτούς τους λόγους, ο κίνδυνος να απελευθερωθεί μια ιός που σχεδιάζεται από την ΤΝ οποιαδήποτε στιγμή σύντομα είναι πιθανό να είναι κοντά στο μηδέν. Αλλά αυτός ο κίνδυνος θα αυξηθεί καθώς οι διάφορες τεχνολογίες συνεχίζουν να προοδεύουν – και η πανδημία COVID-19 έδειξε πόση καταστροφή μπορεί να προκαλέσει ένας νέος ιός, ακόμη και όταν δεν είναι ιδιαίτερα θανατηφόρος. Όλο και περισσότερο, θα υπάρχει λόγος να ανησυχούμε.