youmadam

Πολλά έχουν γραφτεί για τους κινδύνους της γενετικής τεχνητής νοημοσύνης τους τελευταίους μήνες και όμως όλα όσα έχω δει συνοψίζονται σε τρία απλά επιχειρήματα, κανένα από τα οποία δεν αντικατοπτρίζει τον μεγαλύτερο κίνδυνο που βλέπω να μας οδηγεί. Προτού μπω σε αυτόν τον κρυφό κίνδυνο της γενετικής τεχνητής νοημοσύνης, θα είναι χρήσιμο να συνοψίσω τις κοινές προειδοποιήσεις που κυκλοφορούν πρόσφατα:

1. Ο κίνδυνος για τις θέσεις εργασίας: Το Generative AI μπορεί πλέον να παράγει προϊόντα εργασίας σε ανθρώπινο επίπεδο, από έργα τέχνης και δοκίμια έως επιστημονικές εκθέσεις. Αυτό θα επηρεάσει σε μεγάλο βαθμό την αγορά εργασίας, αλλά πιστεύω ότι είναι ένας διαχειρίσιμος κίνδυνος, καθώς οι ορισμοί των θέσεων εργασίας προσαρμόζονται στη δύναμη της τεχνητής νοημοσύνης. Θα είναι επώδυνο για μια περίοδο, αλλά όχι διαφορετικό από το πώς οι προηγούμενες γενιές προσαρμόστηκαν σε άλλους τρόπους εξοικονόμησης εργασίας.

2. Κίνδυνος ψευδούς περιεχομένου: Η γενετική τεχνητή νοημοσύνη μπορεί πλέον να δημιουργήσει τεχνουργήματα ανθρώπινης ποιότητας σε κλίμακα, συμπεριλαμβανομένων πλαστών και παραπλανητικών άρθρων, δοκιμίων, εγγράφων και βίντεο. Η παραπληροφόρηση δεν είναι νέο πρόβλημα, αλλά η γενετική τεχνητή νοημοσύνη θα της επιτρέψει να παραχθεί μαζικά σε επίπεδα που δεν έχουν ξαναδεί. Αυτός είναι ένας μεγάλος κίνδυνος, αλλά διαχειρίσιμος. Αυτό οφείλεται στο γεγονός ότι το ψεύτικο περιεχόμενο μπορεί να γίνει αναγνωρίσιμο είτε (α) επιβάλλοντας τεχνολογίες υδατογράφησης που προσδιορίζουν περιεχόμενο τεχνητής νοημοσύνης κατά τη δημιουργία είτε (β) αναπτύσσοντας αντίμετρα που βασίζονται σε τεχνητή νοημοσύνη που είναι εκπαιδευμένα να αναγνωρίζουν περιεχόμενο τεχνητής νοημοσύνης εκ των υστέρων.

3. Κίνδυνος αισθητικών μηχανών: Πολλοί ερευνητές ανησυχούν ότι τα συστήματα τεχνητής νοημοσύνης θα κλιμακωθούν σε ένα επίπεδο όπου θα αναπτύξουν τη δική τους βούληση και θα προβούν σε ενέργειες που έρχονται σε σύγκρουση με τα ανθρώπινα συμφέροντα ή ακόμη και απειλούν την ανθρώπινη ύπαρξη. Πιστεύω ότι αυτός είναι ένας πραγματικός μακροπρόθεσμος κίνδυνος. Μάλιστα έγραψα ένα εικονογραφημένο βιβλίο για ενήλικες με τίτλο Arrival Thoughts πριν από λίγα χρόνια που εξερευνά αυτόν τον κίνδυνο με απλά λόγια. Ωστόσο, δεν πιστεύω ότι τα τρέχοντα συστήματα AI θα γίνουν αυθόρμητα ευαίσθητα χωρίς σημαντικές δομικές βελτιώσεις στην τεχνολογία. Έτσι, ενώ αυτός είναι ένας πραγματικός κίνδυνος στον οποίο πρέπει να επικεντρωθεί η βιομηχανία, δεν είναι ο πιο επείγων κίνδυνος που βλέπω μπροστά μας.

Λοιπόν, τι με απασχολεί περισσότερο σχετικά με την άνοδο της γενετικής τεχνητής νοημοσύνης;

Από την άποψή μου, το μέρος όπου οι περισσότεροι ειδικοί σε θέματα ασφάλειας κάνουν λάθος, συμπεριλαμβανομένων των υπευθύνων χάραξης πολιτικής, είναι ότι βλέπουν τη γενετική τεχνητή νοημοσύνη κυρίως ως εργαλείο για τη δημιουργία παραδοσιακού περιεχομένου σε κλίμακα. Ενώ η τεχνολογία είναι αρκετά εξειδικευμένη στη δημιουργία άρθρων, εικόνων και βίντεο, το πιο σημαντικό ζήτημα είναι ότι η γενετική τεχνητή νοημοσύνη θα απελευθερώσει μια εντελώς νέα μορφή μέσων που είναι εξαιρετικά εξατομικευμένη, πλήρως διαδραστική και δυνητικά πολύ πιο χειραγωγική από οποιαδήποτε μορφή στοχευμένου περιεχομένου. έχουν αντιμετωπίσει μέχρι σήμερα.

Καλώς ήρθατε στην εποχή των διαδραστικών μέσων παραγωγής

Το πιο επικίνδυνο χαρακτηριστικό της γενετικής τεχνητής νοημοσύνης δεν είναι ότι μπορεί να δημιουργήσει ψεύτικα άρθρα και βίντεο σε κλίμακα, αλλά ότι μπορεί να παράγει διαδραστικό και προσαρμοστικό περιεχόμενο που είναι προσαρμοσμένο για μεμονωμένους χρήστες για να μεγιστοποιήσει τον πειστικό αντίκτυπο. Στο πλαίσιο αυτό, διαδραστικό παραγωγικά μέσα μπορεί να οριστεί ως στοχευμένο διαφημιστικό υλικό που δημιουργείται ή τροποποιείται σε πραγματικό χρόνο για να μεγιστοποιήσει τους στόχους επιρροής που βασίζονται σε προσωπικά δεδομένα του χρήστη που δέχεται.

Αυτό θα μετατρέψει τις στοχευμένες εκστρατείες επιρροής από buckshot που στοχεύουν σε ευρείες δημογραφικές ομάδες σε πυραύλους που αναζητούν θερμότητα που μπορούν να μηδενίσουν μεμονωμένα άτομα για βέλτιστο αποτέλεσμα. Και όπως περιγράφεται παρακάτω, αυτή η νέα μορφή μέσων είναι πιθανό να έρθει σε δύο ισχυρές γεύσεις, τη στοχευμένη παραγωγική διαφήμιση και τη στοχευμένη επιρροή συνομιλίας.

Στοχευμένη παραγωγική διαφήμιση είναι η χρήση εικόνων, βίντεο και άλλων μορφών ενημερωτικού περιεχομένου που μοιάζουν με παραδοσιακές διαφημίσεις, αλλά εξατομικεύονται σε πραγματικό χρόνο για μεμονωμένους χρήστες. Αυτές οι διαφημίσεις θα δημιουργούνται εν κινήσει από παραγωγικά συστήματα τεχνητής νοημοσύνης με βάση τους στόχους επιρροής που παρέχονται από τρίτους χορηγούς σε συνδυασμό με προσωπικά δεδομένα στα οποία έχει πρόσβαση ο συγκεκριμένος χρήστης που στοχεύει. Τα προσωπικά δεδομένα μπορεί να περιλαμβάνουν την ηλικία, το φύλο και το επίπεδο εκπαίδευσης των χρηστών, σε συνδυασμό με τα ενδιαφέροντα, τις αξίες, τις αισθητικές τους ευαισθησίες, τις αγοραστικές τάσεις, τις πολιτικές πεποιθήσεις και τις πολιτιστικές προκαταλήψεις.

Ως απόκριση στους στόχους επιρροής και στα δεδομένα στόχευσης, η τεχνητή νοημοσύνη που δημιουργείται θα προσαρμόσει τη διάταξη, τις εικόνες και τα διαφημιστικά μηνύματα για να μεγιστοποιήσει την αποτελεσματικότητα σε αυτόν τον χρήστη. Τα πάντα μέχρι τα χρώματα, οι γραμματοσειρές και τα σημεία στίξης θα μπορούσαν να εξατομικευτούν μαζί με την ηλικία, τη φυλή και το στυλ ρούχων οποιωνδήποτε ατόμων εμφανίζονται στις εικόνες. Θα δείτε βίντεο κλιπ αστικών ή αγροτικών σκηνών; Θα στηθεί το φθινόπωρο ή την άνοιξη; Θα δείτε εικόνες σπορ αυτοκινήτων ή οικογενειακών βαν; Κάθε λεπτομέρεια θα μπορούσε να προσαρμοστεί σε πραγματικό χρόνο από τη δημιουργία τεχνητής νοημοσύνης για να μεγιστοποιηθεί ο διακριτικός αντίκτυπος σε εσάς προσωπικά.

Και επειδή οι τεχνολογικές πλατφόρμες μπορούν να παρακολουθούν την αφοσίωση των χρηστών, το σύστημα θα μάθει ποιες τακτικές λειτουργούν καλύτερα σε εσάς με την πάροδο του χρόνου, ανακαλύπτοντας τα χρώματα μαλλιών και τις εκφράσεις του προσώπου που τραβούν καλύτερα την προσοχή σας.

Αν αυτό φαίνεται σαν επιστημονική φαντασία, σκεφτείτε το εξής: Τόσο η Meta όσο και η Google ανακοίνωσαν πρόσφατα σχέδια για χρήση γενετικής τεχνητής νοημοσύνης στη δημιουργία διαδικτυακών διαφημίσεων. Εάν αυτές οι τακτικές παράγουν περισσότερα κλικ για τους χορηγούς, θα γίνουν συνήθης πρακτική και θα ακολουθήσει κούρσα εξοπλισμών, με όλες τις μεγάλες πλατφόρμες να ανταγωνίζονται για τη χρήση παραγωγικής τεχνητής νοημοσύνης για την προσαρμογή του διαφημιστικού περιεχομένου με τον πιο αποτελεσματικό δυνατό τρόπο.

Αυτό με φέρνει σε στοχευμένες επιρροή συνομιλίαςμια γενετική τεχνική στην οποία οι στόχοι επιρροής μεταδίδονται μέσω διαδραστικής συνομιλίας και όχι μέσω παραδοσιακών εγγράφων ή βίντεο.

Οι συνομιλίες θα πραγματοποιούνται μέσω chatbot (όπως το ChatGPT και το Bard) ή μέσω συστημάτων που βασίζονται στη φωνή που τροφοδοτούνται από παρόμοια μοντέλα μεγάλων γλωσσών (LLM). Οι χρήστες θα συναντήσουν αυτούς τους συνομιλητές πολλές φορές κατά τη διάρκεια της ημέρας τους, καθώς οι προγραμματιστές τρίτων θα χρησιμοποιούν API για να ενσωματώσουν LLM στους ιστότοπους, τις εφαρμογές και τους διαδραστικούς ψηφιακούς βοηθούς τους.

Για παράδειγμα, μπορείτε να αποκτήσετε πρόσβαση σε έναν ιστότοπο που αναζητά την πιο πρόσφατη πρόγνωση καιρού, συνομιλώντας με έναν πράκτορα AI για να ζητήσετε τις πληροφορίες. Στη διαδικασία, θα μπορούσατε να στοχεύσετε με διακριτικά μηνύματα συνομιλίας που ενσωματώνονται στο διάλογο με προωθητικούς στόχους.

Καθώς ο συνομιλητικός υπολογισμός γίνεται κοινός τόπος στη ζωή μας, ο κίνδυνος της επιρροής της συνομιλίας θα διευρυνθεί σημαντικά, καθώς οι χορηγοί που πληρώνουν θα μπορούσαν να εισάγουν μηνύματα στο διάλογο που μπορεί να μην παρατηρήσουμε καν. Και όπως οι στοχευμένες δημιουργικές διαφημίσεις, οι στόχοι ανταλλαγής μηνυμάτων που ζητούνται από τους χορηγούς θα χρησιμοποιούνται σε συνδυασμό με προσωπικά δεδομένα σχετικά με τον στοχευμένο χρήστη για τη βελτιστοποίηση του αντίκτυπου.

Τα δεδομένα θα μπορούσαν να περιλαμβάνουν την ηλικία, το φύλο και το μορφωτικό επίπεδο των χρηστών σε συνδυασμό με προσωπικά ενδιαφέροντα, χόμπι, αξίες κ.λπ., επιτρέποντας έτσι τον παραγωγικό διάλογο σε πραγματικό χρόνο που έχει σχεδιαστεί για να προσελκύει βέλτιστα το συγκεκριμένο άτομο.

Γιατί να χρησιμοποιήσετε την επιρροή συνομιλίας;

Εάν έχετε εργαστεί ποτέ ως πωλητής, πιθανότατα γνωρίζετε ότι ο καλύτερος τρόπος για να πείσετε έναν πελάτη δεν είναι να του δώσετε ένα φυλλάδιο, αλλά να τον εμπλέξετε σε διάλογο πρόσωπο με πρόσωπο, ώστε να μπορείτε να τον παρουσιάσετε στο προϊόν, να ακούσετε τις κρατήσεις του και προσαρμόστε τα επιχειρήματά σας όπως χρειάζεται. Είναι μια κυκλική διαδικασία προώθησης και προσαρμογής που μπορεί να τους οδηγήσει σε αγορά.

Αν και αυτή ήταν μια καθαρά ανθρώπινη δεξιότητα στο παρελθόν, η γενετική τεχνητή νοημοσύνη μπορεί τώρα να εκτελέσει αυτά τα βήματα, αλλά με μεγαλύτερη δεξιότητα και βαθύτερη γνώση που μπορεί να αξιοποιήσει.

Και ενώ ένας άνθρωπος πωλητής έχει μόνο ένα πρόσωπο, αυτοί οι πράκτορες AI θα είναι ψηφιακοί χαμαιλέοντες που μπορεί να υιοθετήσει οποιοδήποτε στυλ ομιλίας, από σπασμωδικό ή λαϊκό έως ευγενικό ή μονόπλευρο, και μπορεί να ακολουθήσει οποιαδήποτε τακτική πωλήσεων, από το να γίνει φίλος με τον πελάτη μέχρι να εκμεταλλευτεί τον φόβο του να χάσει. Και επειδή αυτοί οι πράκτορες τεχνητής νοημοσύνης θα είναι οπλισμένοι με προσωπικά δεδομένα, θα μπορούσαν να αναφέρουν τους κατάλληλους μουσικούς καλλιτέχνες ή αθλητικές ομάδες για να σας διευκολύνουν στον φιλικό διάλογο.

Επιπλέον, οι τεχνολογικές πλατφόρμες θα μπορούσαν να τεκμηριώσουν πόσο καλά λειτούργησαν οι προηγούμενες συνομιλίες για να σας πείσουν, μαθαίνοντας ποιες τακτικές είναι πιο αποτελεσματικές για εσάς προσωπικά.Απαντάτε σε λογικές εκκλήσεις ή συναισθηματικά επιχειρήματα; Αναζητάτε τη μεγαλύτερη προσφορά ή την υψηλότερη ποιότητα; Σας επηρεάζουν οι εκπτώσεις λόγω πίεσης χρόνου ή τα δωρεάν πρόσθετα; Οι πλατφόρμες θα μάθουν γρήγορα να τραβούν όλες τις χορδές σας.

Φυσικά, η μεγάλη απειλή για την κοινωνία δεν είναι η βελτιστοποιημένη δυνατότητα να σας πουλήσει ένα παντελόνι. Ο πραγματικός κίνδυνος είναι ότι οι ίδιες τεχνικές θα χρησιμοποιηθούν για να οδηγήσουν την προπαγάνδα και την παραπληροφόρηση, οδηγώντας σας σε ψευδείς πεποιθήσεις ή ακραίες ιδεολογίες που διαφορετικά θα μπορούσατε να απορρίψετε. Ένας συνομιλητής, για παράδειγμα, θα μπορούσε να κατευθυνθεί να σας πείσει ότι ένα απολύτως ασφαλές φάρμακο είναι Μια επικίνδυνη συνωμοσία κατά της κοινωνίας. Και επειδή οι πράκτορες της τεχνητής νοημοσύνης θα έχουν πρόσβαση σε ένα Διαδίκτυο γεμάτο πληροφορίες, θα μπορούσαν να επιλέξουν αποδεικτικά στοιχεία με τρόπους που θα κατακλύζουν ακόμη και τον πιο έμπειρο άνθρωπο.

Αυτό δημιουργεί μια ασύμμετρη ισορροπία ισχύος που ονομάζεται συχνά πρόβλημα χειραγώγησης της τεχνητής νοημοσύνης, στο οποίο εμείς οι άνθρωποι βρισκόμαστε σε εξαιρετικά μειονεκτική θέση, συνομιλώντας με τεχνητούς παράγοντες που είναι εξαιρετικά εξειδικευμένοι στο να μας ελκύουν, ενώ δεν έχουμε τη δυνατότητα να διαβάσουμε τις πραγματικές προθέσεις των οντοτήτων που μιλούσαν. προς την.

Εκτός εάν ρυθμίζονται, οι στοχευμένες παραγωγικές διαφημίσεις και η στοχευμένη επιρροή συνομιλίας θα είναι ισχυρές μορφές πειθούς κατά τις οποίες οι χρήστες υπερτερούν από έναν αδιαφανή ψηφιακό χαμαιλέοντα που δεν δίνει πληροφορίες για τη διαδικασία σκέψης του, αλλά είναι οπλισμένος με εκτενή δεδομένα σχετικά με τις προσωπικές μας προτιμήσεις, επιθυμίες και τάσεις. και έχει πρόσβαση σε απεριόριστες πληροφορίες για να τροφοδοτήσει τα επιχειρήματά της.

Για αυτούς τους λόγους, παροτρύνω τις ρυθμιστικές αρχές, τους υπεύθυνους χάραξης πολιτικής και τους ηγέτες του κλάδου να επικεντρωθούν στη γενετική τεχνητή νοημοσύνη ως μια νέα μορφή μέσων που είναι διαδραστική, προσαρμοστική, εξατομικευμένη και εφαρμόσιμη σε κλίμακα. Χωρίς ουσιαστική προστασία, οι καταναλωτές θα μπορούσαν να εκτεθούν σε ληστρικές πρακτικές που κυμαίνονται από τον ανεπαίσθητο εξαναγκασμό έως την απόλυτη χειραγώγηση.

Λούις ΡόζενμπεργκPh.D.,είναι πρώιμος πρωτοπόρος στους τομείς της VR, AR και AI και ιδρυτής της Immersion Company (IMMR: Nasdaq), της Microscribe 3D, της Outland Analysis και της Unanimous AI.