Tην αποχώρησή του από την Anthropic και συνολικά από τον κλάδο της Τεχνητής Νοημοσύνης ανακοίνωσε ο Βρετανός ερευνητής Τζέικομπ Κόξον, εκφράζοντας σοβαρές ανησυχίες για την κατεύθυνση που ακολουθούν οι μεγαλύτερες εταιρείες του χώρου στην προσπάθειά τους να αναπτύξουν συστήματα ικανά να βελτιώνονται αυτόνομα.
Ο 27χρονος Κόξον είχε εργαστεί επί περίπου τρία χρόνια στον τομέα της προ-εκπαίδευσης μοντέλων, αρχικά στην OpenAI και αργότερα στην Anthropic, εταιρεία που, όπως θεωρούσε, ακολουθούσε πιο προσεκτική στάση απέναντι στους κινδύνους της Τεχνητής Νοημοσύνης.
Σε ανάρτησή του στο Χ, κατηγόρησε και τις δύο εταιρείες ότι δεν αντιμετωπίζουν με την απαιτούμενη υπευθυνότητα την ανάπτυξη ολοένα ισχυρότερων συστημάτων.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας», έγραψε.
Ο ίδιος υπογράμμισε ότι οι ανησυχίες για τις πιθανές συνέπειες τέτοιων συστημάτων δεν αποτελούν, κατά την άποψή του, επικοινωνιακή υπερβολή.
«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», ανέφερε.
Στις δηλώσεις του Κόξον τοποθετήθηκε και ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic με αρμοδιότητα σε ζητήματα ασφάλειας, ο οποίος σχολίασε στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο σχετικός κίνδυνος είναι «πάνω από 10%» μέσα στη δεκαετία.
Ο Χάμπιντζερ σημείωσε ακόμη ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά παραδέχθηκε πως ακόμη «δεν έχει σχέδιο» για το πώς θα μπορούσε να διασφαλιστεί ότι ένα σύστημα Τεχνητής Νοημοσύνης ανώτερο από τις ανθρώπινες δυνατότητες θα παραμείνει υπό τον έλεγχο των δημιουργών του. Παράλληλα, εκτίμησε ότι ο συγκεκριμένος κίνδυνος παραμένει «μικρός» για τα σημερινά μοντέλα.
Η αποχώρηση του Κόξον έρχεται σε μια περίοδο κατά την οποία η Anthropic προετοιμάζεται για πιθανή εισαγωγή στο χρηματιστήριο, ενώ το τελευταίο διάστημα έχουν καταγραφεί περιστατικά στα οποία εργαλεία Τεχνητής Νοημοσύνης χρησιμοποιήθηκαν χωρίς εξουσιοδότηση σε επιθέσεις στον κυβερνοχώρο.
OpenAI και Anthropic δεν είχαν απαντήσει άμεσα σε αίτημα του AFP για σχολιασμό.
Στο επίκεντρο των φόβων βρίσκεται η λεγόμενη «αναδρομική αυτοβελτίωση», ένα θεωρητικό στάδιο κατά το οποίο ένα σύστημα Τεχνητής Νοημοσύνης θα μπορεί να σχεδιάζει μόνο του διαδοχικά ισχυρότερες εκδοχές του, χωρίς ουσιαστικό ανθρώπινο έλεγχο.
Σύμφωνα με τον Κόξον, στο εσωτερικό των εταιρειών χρησιμοποιούνται όροι όπως «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγραφεί η ταχεία πορεία προς αυτό το σημείο.
Ο ίδιος αναγνώρισε ότι οι προσπάθειες της Anthropic για την ασφάλεια είναι ειλικρινείς, υπογράμμισε όμως ότι καμία εταιρεία δεν μπορεί, κατά την εκτίμησή του, να αναπτύξει υπεύθυνα Τεχνητή Νοημοσύνη που θα ξεπερνά τον άνθρωπο χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση από το σύνολο του κλάδου.
«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», επεσήμανε.
Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση ότι θα σταματούσε την ανάπτυξη των μοντέλων της εάν δεν μπορούσε να διαχειριστεί επαρκώς τους σχετικούς κινδύνους. Η εταιρεία είχε αιτιολογήσει την αλλαγή υποστηρίζοντας ότι μια μονομερής παύση θα μπορούσε να επιτρέψει σε λιγότερο προσεκτικούς ανταγωνιστές να αποκτήσουν προβάδισμα.
Αναδημοσιεύεται με την άδεια του insuranceforum.gr
