Τεχνητή νοημοσύνη και μηχανική ποίηση

[skol]

Μια πρόσφατη προσπάθεια του ChatGPT να παρωδήσει τον Νικ Κέιβ προκάλεσε την ενδιαφέρουσα απάντηση του καλλιτέχνη. Παρακάτω ένα απόσπασμα στο οποίο περιγράφει ο Νικ Κέιβ πώς φτιάχνονται τα μεγάλα τραγούδια.

What makes a great song great is not its close resemblance to a recognizable work. Writing a good song is not mimicry, or replication, or pastiche, it is the opposite. It is an act of self-murder that destroys all one has strived to produce in the past. It is those dangerous, heart-stopping departures that catapult the artist beyond the limits of what he or she recognises as their known self. This is part of the authentic creative struggle that precedes the invention of a unique lyric of actual value; it is the breathless confrontation with one’s vulnerability, one’s perilousness, one’s smallness, pitted against a sense of sudden shocking discovery; it is the redemptive artistic act that stirs the heart of the listener, where the listener recognizes in the inner workings of the song their own blood, their own struggle, their own suffering. This is what we humble humans can offer, that AI can only mimic, the transcendent journey of the artist that forever grapples with his or her own shortcomings. This is where human genius resides, deeply embedded within, yet reaching beyond, those limitations.

Zήτησα λοιπόν από το ChatGPT να ξανακάνει μια προσπάθεια λαμβάνοντας υπόψη τις παραπάνω οδηγίες! Το αποτέλεσμα:

Verse 1:
In the quiet of the night
I confront my fears and plight
I strip away the mask I wear
And bare my soul, stripped bare

Chorus:
I am the artist, I am the muse
I am the darkness, I am the bruise
I am the struggle, I am the fight
I am the one who strives to write

Για την ώρα μάλλον δεν κινδυνεύει ο Νικ Κέιβ! Όμως πόσος καιρός μας μένει ακόμα μέχρι τα δάκρυα των ποιητών να χαθούν μέσα στη βροχή της μηχανικής ποίησης;

 

[Earion]

Παρασάγγας ανώτερο το τραγούδι της τεχνητονοημοσύνης από εκατοντάδες χιλιάδες άλλα καμωμένα από ανθρώπους!

(Γιατί μου θυμίζει Παπακαλιάτη μπορεί κανείς να μου πει;)

 

[skol]

Παρασάγγας ανώτερο το τραγούδι της τεχνητονοημοσύνης από εκατοντάδες χιλιάδες άλλα καμωμένα από ανθρώπους!

(Γιατί μου θυμίζει Παπακαλιάτη μπορεί κανείς να μου πει;)

Φαίνεται ότι η μηχανική λογοτεχνία προχωράει πιο γρήγορα από τη μηχανική μετάφραση!

 

[Earion]

Ας ανοίξουμε περισσότερο το νήμα, μια και γινόμαστε μάρτυρες σε πραγματικό χρόνο της επόμενης φάσης της επί Γης ιστορίας του ανθρώπινου γένους.

Μια ενδιαφέρουσα άποψη διάβασα σήμερα στο Inside Story:

Inside Story

Σάββατο 28 Ιανουαρίου 2023​

ChatGPT: γιατί η εκπαίδευση πρέπει να αγκαλιάσει το AI chatbot, όχι να το αποφύγει

των Brian Lucey και Michael Dowling​

Είναι πολύ πιθανό ότι το ChatGPT και παρόμοια προγράμματα θα μπορούσαν να βοηθήσουν στον εκδημοκρατισμό της ερευνητικής διαδικασίας.Μόλις πριν από δύο μήνες, η αμερικανική εταιρεία τεχνητής νοημοσύνης OpenAI παρουσίασε ένα πρόγραμμα που ονομάζεται ChatGPT. Ουσιαστικά ένα προηγμένο chatbot, το ChatGPT αποτέλεσε αντικείμενο πολλών συζητήσεων.

Ορισμένοι σχολιαστές χαρακτήρισαν τις απαντήσεις του πολύ εντυπωσιακές, ενώ άλλοι επέστησαν την προσοχή σε πραγματολογικά λάθη στην παραγωγή του. Παρ' όλα αυτά, το προϊόν έχει χαιρετιστεί ως μια δυνητικά ανατρεπτική καινοτομία για πολλές διαφορετικές βιομηχανίες.

Σημαντικό μέρος όσων έχουν γραφτεί για το ChatGPT μέχρι στιγμής έχει επικεντρωθεί στις επιπτώσεις του στην εκπαίδευση. Η πολυδιαφημισμένη ικανότητα του προγράμματος να παρέχει λεπτομερείς απαντήσεις σε ερωτήματα για ένα τεράστιο φάσμα θεμάτων έχει προκαλέσει ανησυχίες ότι θα μπορούσε να έχει επιβλαβείς επιπτώσεις στη μάθηση και να επιτρέψει στους μαθητές να «κλέβουν» στις εξετάσεις και τις εργασίες στο σπίτι.

Το ChatGPT έχει ήδη «δώσει» μια σειρά από εξετάσεις, συμπεριλαμβανομένων των εξετάσεων του αμερικανικού δικηγορικού συλλόγου, των αναλογιστικών, και των ιατρικών εξετάσεων. Σε όλες τις περιπτώσεις «πήρε τη βάση» ή ήταν κοντά σε αυτήν, χωρίς ανθρώπινη βοήθεια. Ενώ ορισμένες αναφορές για το ChatGPT εξετάζουν τα μειονεκτήματα και τις ανησυχίες γι’ αυτά, η δική μας πιο αισιόδοξη οπτική είναι ότι το ChatGPT θα μπορούσε κάλλιστα να πάρει τη μορφή ενός χαμηλού κόστους, ή ακόμη και δωρεάν, ηλεκτρονικού βοηθού έρευνας.

Η μελέτη μας, που δημοσιεύθηκε στο Finance Research Letters (“ChatGPT for (Finance) research: The Bananarama Conjecture”, Finance Research Letters, Jan 2023), είχε ως στόχο να δει αν το ChatGPT θα μπορούσε να χρησιμοποιηθεί για τη συγγραφή μιας εργασίας για τα οικονομικά, που θα γινόταν δεκτή σε ένα ακαδημαϊκό περιοδικό. Το πρόγραμμα πέρασε το τεστ, αλλά είχε καλύτερες επιδόσεις σε ορισμένους τομείς από ό,τι σε άλλους. Επιπλέον, η προσθήκη της δικής μας τεχνογνωσίας βοήθησε να ξεπεραστούν οι περιορισμοί του προγράμματος στα μάτια των κριτών των περιοδικών. Τα ευρήματα υποδηλώνουν ότι το ChatGPT θα μπορούσε να αποτελέσει σημαντικό βοήθημα για την έρευνα και όχι απαραίτητα απειλή.

Από το καλό στο σπουδαίο

Το σκεπτικό μας ήταν το εξής: αν είναι εύκολο να έχουμε καλά αποτελέσματα από το ChatGPT απλά χρησιμοποιώντας το, ίσως υπάρχει κάτι επιπλέον που μπορούμε να κάνουμε για να μετατρέψουμε αυτά τα καλά αποτελέσματα σε σπουδαία.

Ζητήσαμε αρχικά από το ChatGPT να δημιουργήσει τα τέσσερα τυπικά μέρη μιας ερευνητικής μελέτης: ερευνητική ιδέα, βιβλιογραφική ανασκόπηση (αξιολόγηση προηγούμενων ακαδημαϊκών ερευνών για το ίδιο θέμα), σύνολο δεδομένων και προτάσεις για δοκιμές και εξετάσεις. Προσδιορίσαμε μόνο το ευρύ θέμα και ότι το αποτέλεσμα θα πρέπει να είναι ικανό να δημοσιευτεί σε «ένα καλό οικονομικό περιοδικό».

Αυτή ήταν η πρώτη εκδοχή του τρόπου με τον οποίον επιλέξαμε να χρησιμοποιήσουμε το ChatGPT. Για τη δεύτερη εκδοχή, επικολλήσαμε στο παράθυρο του ChatGPT λίγο λιγότερες από 200 περιλήψεις σχετικών, υφιστάμενων ερευνητικών μελετών.

Στη συνέχεια ζητήσαμε από το πρόγραμμα να τις λάβει υπόψη του κατά τη δημιουργία των τεσσάρων ερευνητικών σταδίων. Τέλος, για την εκδοχή νούμερο τρία, προσθέσαμε την «τεχνογνωσία τομέα» – συνεισφορά από ακαδημαϊκούς ερευνητές. Διαβάσαμε τις απαντήσεις που παρήγαγε το πρόγραμμα του υπολογιστή και κάναμε προτάσεις για βελτιώσεις. Με τον τρόπο αυτό, ενσωματώσαμε την τεχνογνωσία μας σε εκείνη του ChatGPT.

Στη συνέχεια ζητήσαμε από μια ομάδα 32 κριτών να αξιολογήσει ο καθένας από μία εκδοχή του τρόπου με τον οποίο μπορεί να χρησιμοποιηθεί το ChatGPT για τη δημιουργία μιας ακαδημαϊκής μελέτης. Ζητήθηκε από τους κριτές να αξιολογήσουν κατά πόσον το αποτέλεσμα ήταν επαρκώς περιεκτικό, σωστό και κατά πόσον παρείχε μια συνεισφορά επαρκώς πρωτότυπη ώστε να δημοσιευτεί σε ένα «καλό» ακαδημαϊκό οικονομικό περιοδικό.

Το μεγάλο μάθημα που πήραμε ήταν ότι όλες αυτές οι μελέτες θεωρήθηκαν γενικά αποδεκτές από τους ειδικούς κριτές. Αυτό είναι μάλλον εκπληκτικό: ένα chatbot θεωρήθηκε ικανό να παράγει ποιοτικές ιδέες ακαδημαϊκής έρευνας. Αυτό εγείρει θεμελιώδη ερωτήματα σχετικά με την έννοια της δημιουργικότητας και την ιδιοκτησία των δημιουργικών ιδεών – ερωτήματα στα οποία κανείς δεν έχει ακόμη στέρεες απαντήσεις.

Δυνατά και αδύνατα σημεία

Τα αποτελέσματα αναδεικνύουν επίσης ορισμένα πιθανά πλεονεκτήματα και αδυναμίες του ChatGPT. Διαπιστώσαμε ότι οι διάφορες ερευνητικές ενότητες αξιολογήθηκαν διαφορετικά. Η ερευνητική ιδέα και το σύνολο δεδομένων έτειναν να αξιολογούνται υψηλά. Υπήρξε χαμηλότερη, αλλά και πάλι αποδεκτή, βαθμολογία για τις βιβλιογραφικές ανασκοπήσεις και τις προτάσεις δοκιμών.

Η υποψία μας εδώ είναι ότι το ChatGPT είναι ιδιαίτερα ισχυρό στο να παίρνει ένα σύνολο εξωτερικών κειμένων και να τα συνδέει (η ουσία μιας ερευνητικής ιδέας) ή να παίρνει εύκολα αναγνωρίσιμα τμήματα από ένα έγγραφο και να τα προσαρμόζει (ένα παράδειγμα είναι η περίληψη δεδομένων – ένα εύκολα αναγνωρίσιμο «κομμάτι κειμένου» στις περισσότερες ερευνητικές μελέτες).

Μια σχετική αδυναμία της πλατφόρμας έγινε εμφανής όταν η εργασία ήταν πιο σύνθετη – όταν υπήρχαν πάρα πολλά στάδια στην εννοιολογική διαδικασία. Οι βιβλιογραφικές ανασκοπήσεις και οι δοκιμές τείνουν να εμπίπτουν σε αυτή την κατηγορία. Το ChatGPT έτεινε να είναι καλό σε ορισμένα από αυτά τα στάδια, αλλά όχι σε όλα. Αυτό φαίνεται ότι το αντιλήφθηκαν οι κριτές.

Καταφέραμε ωστόσο να ξεπεράσουμε αυτούς τους περιορισμούς στην πιο προχωρημένη μας εκδοχή (εκδοχή τρία), όπου συνεργαστήκαμε με το ChatGPT για να καταλήξουμε σε αποδεκτά αποτελέσματα. Όλα τα τμήματα της προηγμένης ερευνητικής μελέτης αξιολογήθηκαν στη συνέχεια με υψηλή βαθμολογία από τους κριτές, γεγονός που υποδηλώνει ότι ο ρόλος των ακαδημαϊκών ερευνητών δεν έχει πεθάνει ακόμη.

Το ChatGPT είναι ένα εργαλείο. Στη μελέτη μας δείξαμε ότι, με κάποια προσοχή, μπορεί να χρησιμοποιηθεί για τη δημιουργία μιας αποδεκτής μελέτης χρηματοοικονομικής έρευνας. Ακόμα και χωρίς προσοχή, παράγει αληθοφανή εργασία.

Αυτό έχει ορισμένες σαφείς ηθικές επιπτώσεις. Η ακεραιότητα της έρευνας είναι ήδη ένα πιεστικό πρόβλημα στον ακαδημαϊκό χώρο και ιστότοποι όπως το Retraction Watch μεταφέρουν μια σταθερή ροή πλαστών, λογοκλοπών και απλώς λανθασμένων ερευνητικών μελετών. Μήπως το ChatGPT κάνει το πρόβλημα αυτό ακόμη χειρότερο;

Μπορεί, είναι η σύντομη απάντηση. Αλλά δεν υπάρχει περίπτωση να ξαναβάλουμε το τζίνι πίσω στο μπουκάλι. Η τεχνολογία θα βελτιωθεί (και μάλιστα γρήγορα). Το πώς ακριβώς θα μπορούσαμε να αναγνωρίσουμε και να ελέγξουμε τον ρόλο του ChatGPT στην έρευνα είναι ένα μεγαλύτερο ζήτημα για μια άλλη μέρα. Αλλά τα ευρήματά μας είναι επίσης χρήσιμα από αυτήν την άποψη – διαπιστώνοντας ότι η εκδοχή της μελέτης του ChatGPT με τη βοήθεια της τεχνογνωσίας των ερευνητών είναι ανώτερη, δείχνουμε ότι η συμβολή των ανθρώπων-ερευνητών εξακολουθεί να είναι ζωτικής σημασίας στην αποδεκτή έρευνα.

Προς το παρόν, προτείνουμε στους ερευνητές να βλέπουν το ChatGPT ως βοήθημα και όχι ως απειλή. Μπορεί να είναι ιδιαίτερα βοηθητικό για ομάδες ερευνητών που τείνουν να μην έχουν τους οικονομικούς πόρους για παραδοσιακή (ανθρώπινη) ερευνητική βοήθεια – αναδυόμενοι ερευνητές στα χρηματοοικονομικά, μεταπτυχιακοί φοιτητές και ερευνητές που βρίσκονται στο ξεκίνημα της σταδιοδρομίας τους.

Είναι ίσως το πιο αισιόδοξο συμπέρασμα, αλλά είναι πολύ πιθανό ότι το ChatGPT (και παρόμοια προγράμματα) θα μπορούσαν να βοηθήσουν στον εκδημοκρατισμό της ερευνητικής διαδικασίας.

Ο Μπράιαν Λούσεϊ είναι καθηγητής Διεθνών Οικονομικών και Εμπορευμάτων στο Trinity College του Δουβλίνου και ο Μάικλ Ντόουλινγκ είναι καθηγητής Χρηματοοικονομικών στο Dublin City University. Το άρθρο τους δημοσιεύτηκε στις 26 Ιανουαρίου 2023 στο The Conversation.

https://insidestory.gr/article/chatgpt-giati-i-ekpaideysi-prepei-na-agkaliasei-ai-chatbot-ohi-na-apofygei

 

[SBE]

Μία λέξη: Σόκαλ.
Περισσότερες λέξεις: δεν απαντάει το άρθρο το ερώτημα της αρχής, ότι δηλαδή πώς θα εξασφαλίσουμε ότι ένας μαθητής ή ένας φοιτητής δεν χρησιμοποιεί το πρόγραμμα για να περνάει μαθήματα. Και καλά στις κοινωνικές επιστήμες, δεν θα σκοτώσει κανέναν, αλλά στην ιατρική ή τη μηχανολογία;

 

[Earion]

Βγήκε κιόλας (δεν θα αργούσε) εφαρμογή που ανιχνεύει αν ένα κείμενο είναι γραμμένο από το ChatGPT.

This 22-year-old is trying to save us from ChatGPT before it changes writing forever (17 Ιανουαρίου 2023)

 

[antongoun]

Μία λέξη: Σόκαλ.
Περισσότερες λέξεις: δεν απαντάει το άρθρο το ερώτημα της αρχής, ότι δηλαδή πώς θα εξασφαλίσουμε ότι ένας μαθητής ή ένας φοιτητής δεν χρησιμοποιεί το πρόγραμμα για να περνάει μαθήματα.

Όπως έτυχε να μάθω χτες από έναν μαθητή πρώτης λυκείου, για τις εκθέσεις τους κτλ. πρώτα κατεβάζουν ένα κείμενο γραμμένο από ΑΙ (είπε κάτι για cactus... - δεν το άκουσα καλά - όχι για το ChatGPT, για το οποίο μιλούσαμε στην παρέα εκείνη την ώρα) και μετά το ρίχνουν σε μια μηχανή που το παραφράζει. Μετά από αυτό, το μεταφράζουν σε μια μηχανή αυτόματης μετάφρασης. Υπάρχει περίπτωση να υπήρχε κι άλλο ενδιάμεσο στάδιο που δε συγκράτησα. Το ίδιο σύστημα χρησιμοποιούσε και ο φίλος του, δευτέρα γυμνασίου. Προφανώς η εκπαίδευση πρέπει να βρει δημιουργικούς τρόπους να εντάξει αυτή την τεχνολογία στο πρόγραμμά της και στις μεθόδους της αντί να υποκρίνεται ότι δε συμμετέχει στην εκπαιδευτική διαδικασία.

 

[skol]

Ας ανοίξουμε περισσότερο το νήμα, μια και γινόμαστε μάρτυρες σε πραγματικό χρόνο της επόμενης φάσης της επί Γης ιστορίας του ανθρώπινου γένους.

Διαβάζοντας κάποιες επιφυλάξεις, φοβίες ή ακόμα και προσπάθειες υποτίμησης αυτών των εργαλείων σκέφτηκα να κάνω έναν παραλληλισμό με τις απόψεις του Πλάτωνα στο Φαίδρο σχετικά με τις επιπτώσεις της γραφής στην εξασθένιση της μνήμης. Βλέπω όμως ότι το σκέφτηκαν και άλλοι, οπότε αντιγράφω από εδώ μια μικρή παράγραφο.

Plato erred by thinking that memory itself is a goal, rather than a means for people to have facts at their call so they can make better analyses and arguments. The Greeks developed many techniques to memorize poems like the “Odyssey,” with its more than 12,000 lines. Why bother to force this if you can have it all written down in books? As Plato was wrong to fear the written word as the enemy, we would be wrong to think we should resist a process that allows us to gather information more easily.

Είναι ενδιαφέρον να θυμηθούμε και ένα άλλο απόσπασμα από τον Φαίδρο, εκεί που ο Σωκράτης παρομοιάζει την γραφή με την ζωγραφική. Η γραφή, λέει, όπως και μια ζωγραφιά, σου δίνει την εντύπωση ότι βρίσκεσαι μπροστά σε ζωντανά πρόσωπα, αλλά αυτά τα πρόσωπα δεν μιλούν, αν τα ρωτήσεις κάτι άλλο δεν αποκρίνονται, λένε συνέχεια τα ίδια.

Ε, να λοιπόν που φτάσαμε στο σημείο να σου αποκρίνονται κιόλας! Δεν ξέρω αν μπορούμε να πούμε ότι βρισκόμαστε μπροστά σε μια αλλαγή ανάλογη με την εφεύρεση της γραφής αλλά σίγουρα είναι μια μεγάλη αλλαγή όσο αφορά την παραγωγή λόγου, και είμαστε ακόμα στην αρχή...

 

[Earion]

Όπως έτυχε να μάθω χτες από έναν μαθητή πρώτης λυκείου, για τις εκθέσεις τους κτλ. πρώτα κατεβάζουν ένα κείμενο γραμμένο από ΑΙ (είπε κάτι για cactus... - δεν το άκουσα καλά - όχι για το ChatGPT, για το οποίο μιλούσαμε στην παρέα εκείνη την ώρα) και μετά το ρίχνουν σε μια μηχανή που το παραφράζει. Μετά από αυτό, το μεταφράζουν σε μια μηχανή αυτόματης μετάφρασης. Υπάρχει περίπτωση να υπήρχε κι άλλο ενδιάμεσο στάδιο που δε συγκράτησα. Το ίδιο σύστημα χρησιμοποιούσε και ο φίλος του, δευτέρα γυμνασίου. Προφανώς η εκπαίδευση πρέπει να βρει δημιουργικούς τρόπους να εντάξει αυτή την τεχνολογία στο πρόγραμμά της και στις μεθόδους της αντί να υποκρίνεται ότι δε συμμετέχει στην εκπαιδευτική διαδικασία.

Καταρχήν, αν το ζητούμενο είναι η εξασφάλιση της γνησιότητας στο σχολικό περιβάλλον, οι πάσης φύσεως εργασίες πρέπει να γίνονται επί τόπου στο σχολείο (σε υπολογιστές του σχολείου) και όχι στο σπίτι.
Επιπλέον πρέπει να υπάρχει οπωσδήποτε δεύτερο στάδιο: η παρουσίαση, η υποστήριξη της εργασίας. Εκεί ο μαθητής δείχνει αν έχει κατακτήσει τη γνώση, αν πράγματι πηγάζει από μέσα του.
Αυτά όσον αφορά τις σχολικές εργασίες. Το θέμα βεβαίως είναι σαφώς ευρύτερο.

 

[Earion]

Ε, να λοιπόν που φτάσαμε στο σημείο να σου αποκρίνονται κιόλας! Δεν ξέρω αν μπορούμε να πούμε ότι βρισκόμαστε μπροστά σε μια αλλαγή ανάλογη με την εφεύρεση της γραφής αλλά σίγουρα είναι μια μεγάλη αλλαγή όσο αφορά την παραγωγή λόγου, και είμαστε ακόμα στην αρχή...

Ας ξεκινήσουμε με την παραγωγή έμμετρου λόγου. Μεταφέρω εδώ τη σχετική ανάρτηση του Δύτη:

 

[Marinos]

Η συζήτηση στο σχετικό νήμα του Σαραντάκου αποδείχθηκε πολύ ενδιαφέρουσα: https://sarantakos.wordpress.com/2023/01/26/chatgpt/
Έχει και ποίηση, και μίμηση ποίησης, και θεωρητικούς προβληματισμούς και απ' όλα.

 

[nickel]

Έχω ιδέες αλλά ακόμα δεν έχω βρει την ώρα να παίξω. Άλλος κανείς;

 

[Earion]

Βρήκα αυτό στο Φέισμπουκ (antongoun)

Μόλις πριν δύο εβδομάδες μια φωνή που φαινόταν να έρχεται από τα βάθη ενός μνήματος ξεσήκωσε τα μέσα κοινωνικής δικτύωσης προκαλώντας ενθουσιασμό σε μερικούς και τρόμο σε άλλους. Αυτή η γνώριμη φωνή ήταν του στρατηγού De Gaulle όταν στις 18 Ιουνίου του 1940 απηύθηνε από την ραδιοφωνική συχνότητα του BBC μήνυμα στον γαλλικό λαό να συνεχίσει τον αγώνα κατά των Γερμανών. Ωστόσο υπάρχει μια ενοχλητική λεπτομέρεια. Δεν υπάρχει ούτε ηχογράφηση ούτε βέβαια βίντεο του ιστορικού ραδιοφωνικού μηνύματος και η φωνή που ακούσαμε ήταν στην πραγματικότητα προϊόν εφαρμογής της τεχνητής νοημοσύνης. Πώς, λοιπόν, να χαρακτηριστεί αυτή η ανασύσταση που στην πραγματικότητα είναι ανύπαρκτη ; Είναι αλήθεια ή ψέμα, πραγματικότητα ή παραποίηση ; Δεν αποκαλύπτει την ολοένα και πιο πυκνή σύγχυση μεταξύ του αληθινού και του ψευδούς, της ολοένα και πιο δυσδιάκριτης φύσης τους ; Τι γίνεται πια με τις σταθερές οντολογικές και γνωσιολογικές μας αναφορές ;

Διότι αν η τεχνητή νοημοσύνη μπορεί να δημιουργήσει τεχνητά μια ομιλία που τουλάχιστον έχει το πλεονέκτημα ότι έχει όντως εκφωνηθεί, δεν θα κατασκευάσει αύριο εντελώς εκ του μηδενός ψευδείς ομιλίες, νεκρών ανδρών ή ανδρών που είναι ακόμα εν ζωή ; Δεν μας οδηγεί έτσι στην καρδιά ενός κόσμου που υποβάλλεται σε ολοκληρωτική συμβολική χειραγώγηση ; Το ψεύτικο, εδώ, θα φαίνεται να γίνεται πιο αληθινό από το αληθινό. Εξουσίες, και όχι μόνο πολιτική εξουσία, δεν θα είναι πλέον σε θέση να έχουν μια εξουσία ελέγχου του φανταστικού απολύτως πρωτοφανούς στην ανθρώπινη ιστορία ;

Εδώ και περίπου ένα μήνα, η τεχνητή νοημοσύνη σταμάτησε να είναι ένα αινιγματικό τεχνολογικό αντικείμενο. Ξέραμε ότι μια μέρα θα έμπαινε στις ζωές μας, με κίνδυνο να τις κυριεύσει, αλλά αυτό το σενάριο φαινόταν μακρινό. Οπως συμβαίνει συχνά έπρεπε να έρθει ένα δυνατό συμβολικό γεγονός και να μας ξυπνήσει. Αυτό ακριβώς μας συμβαίνει με το ρομπότ ChatGPT, το οποίο μοιάζει ικανό να απαντήσει σε οποιαδήποτε ερώτηση σαν προικισμένος και καλλιεργημένος μαθητής και απ’ό,τι μαθαίνουμε, πέρασε με μεγάλη επιτυχία ένα τεστ νομικής σε ένα αμερικανικό πανεπιστήμιο. Όπως ήταν αναμενόμενο η Σχολή Πολιτικών Επιστημών στο Παρίσι (Sciences Po) αποφάσισε να απαγορεύσει τη χρήση του στους φοιτητές της. Είναι όμως τέτοιες απαγορεύσεις ικανές να σταματήσουν μία δύναμη που φαίνεται προορισμένη να παρασύρει τα πάντα στο πέρασμα της ;

Η ανθρώπινη νοημοσύνη μοιάζει πλέον ταπεινωμένη, σαν να ανήκει σε άλλη εποχή. Μόνη της παρηγοριά να θυμάται ότι αυτή η ίδια η τεχνητή νοημοσύνη είναι δικό της δημιούργημα. Διαπιστώνουμε αυτό το βαθύ ανθρώπινο αποτύπωμα στην τεχνητή νοημοσύνη μέσα από αυτό που θα μπορούσε κάλλιστα να ονομαστεί «ασυνείδητες ιδεοληψίες». Η Le Figaro μας υπενθύμισε αυτή την εβδομάδα ότι το ChatGPT φαίνεται πεπεισμένο για τις αρετές της θεωρίας του φύλου (gender theory) και του κοινωνικού κονστρουκτιβισμού και μας εξηγεί, όταν του ζητήθηκε να ορίσει τι είναι μια γυναίκα, ότι «είναι ένα άτομο που αυτοπροσδιορίζεται ως τέτοιο ή που αναγνωρίζεται κοινωνικά και πολιτισμικά ως τέτοιο. " Η τεχνητή νοημοσύνη αρνείται επίσης να μας πει «αστεία» για «μειονότητες» αλλά δεν έχει κανένα δισταγμό να μας πει πάμπολλα για τις «πλειοψηφίες». Η εμφάνιση της τεχνητής νοημοσύνης στην εποχή μας δείχνει ότι θα μπορούσε να χρησιμεύσει ως τεχνολογικό εργαλείο για την διάδοση της woke ιδεολογίας και θα μπορούσε ακόμη και να της επιτρέψει να κλειδώσει τους θεσμούς προς όφελός της, παρουσιάζοντας τον εαυτό της ως την μόνη επιτρεπόμενη μορφή κοινωνικής γνώσης σε γιγαντιαία κλίμακα.

Όλα αυτά δεν συμβαίνουν χωρίς να γκρεμίσουν και τα τελευταία απομεινάρια της δυτικής ανθρωπολογίας. Είναι η επιθυμία να μπει ένα τέλος στην πεπερασμένη φύση του ανθρώπινου όντος που χαρακτηρίζει τη νεωτερικότητα με τον άνθρωπο να αφήνει πίσω του το συμβολικό σύμπαν της Δημιουργίας για να στραφεί σε αυτό της αυτογένεσης. Η ψηφιοποίηση μιας ολοένα και πιο ασώματης ύπαρξης, που προβάλλεται στα κοινωνικά δίκτυα ή στα βιντεοπαιχνίδια, μοιάζει με υπόσχεση χειραφέτησης. Στον εναλλακτικό κόσμο που δημιουργεί η τεχνολογία ο καθένας μπορεί να γίνει τελείως διαφορετικός, να αφήσει πίσω του το παλιό του δέρμα και να γίνει το avatar του. Ο ίδιος γίνεται δημιουργός του εαυτού του. Μπορεί να επιλέξει το όνομά του, το φύλο του, τη φυσική του μορφή και αύριο, γιατί όχι, την εποχή του. Ωστόσο αυτά σχετίζονται και με το πιο βαθύ, πνευματικό κομμάτι του εαυτού του που θα παραμείνει ξένο σε αυτή τη νέα νοητική ήπειρο.

Αυτή είναι η διάσπαση του κόσμου που χαρακτηρίζει τον ολοκληρωτισμό. Η πραγματικότητα αντικαθίσταται από ένα διπλό πλαστό, που λειτουργεί σύμφωνα με τους κώδικες της ιδεολογίας και από το οποίο μπορεί κανείς να βγει μόνο πληρώνοντας το τίμημα. Αύριο, όποιος δεν θέλει να ακολουθήσει αυτή την νέα τεχνοπολιτική πραγματικότητα δεν κινδυνεύει να καταδικαστεί σε μια μόνιμη εσωτερική εξορία, όπου η εμπειρία του από τον κόσμο θα θεωρείται ξεπερασμένη ; Θα μας πουν ότι πάντα οι συντηρητικοί έπαιξαν υπερβολικά με τον φόβο μπροστά στην πρόοδο. Αλλά γενικά δεν είχαν άδικο όταν έλεγαν ότι ο άνθρωπος χάνει τον εαυτό του και αυτοακρωτηριάζεται όταν παίρνει τον εαυτό του για Θεό. Σε αυτό δεν γινόμαστε μάρτυρες σήμερα ;

Mathieu Bock-Côté
Le Figaro
27/1/23

 

[SBE]

όταν του ζητήθηκε να ορίσει τι είναι μια γυναίκα, ότι «είναι ένα άτομο που αυτοπροσδιορίζεται ως τέτοιο ή που αναγνωρίζεται κοινωνικά και πολιτισμικά ως τέτοιο.

Οι άνθρωποι πίσω από τη μηχανή θορυβήθηκαν με το λιγο παλιότερο παράδειγμα του αλγόριθμου που μαθαίνοντας γινόταν όλο και πιο "ρατσιστικός" και ειπαν να παρέμβουν.

 

[SBE]

Περί εκπαίδευσης: Απλά θα επιστρέψουμε στο διαγώνισμα με επιτήρηση.

 

[skol]

Θα μας πουν ότι πάντα οι συντηρητικοί έπαιξαν υπερβολικά με τον φόβο μπροστά στην πρόοδο.

Ε, ναι, κάτι τέτοιο θα πούμε! Γιατί να πάθουμε κάτι περισσότερο από αυτό που πάθαμε από το φέισμπουκ, την τηλεόραση, τον τύπο; Στο τέλος καταλήγει ο αρθρογράφος σε ατόφια θεολογικά επιχειρήματα, τα γνωστά για την Εύα και τον Ίκαρο. Γιατί όμως να μην σκεφτούμε ότι π.χ. θα έχουμε εργαλεία πολύ πιο αποτελεσματικά στο ψάξιμο που θα μας ξεκουράζουν λίγο και στο γράψιμο; Σίγουρα θα υπάρχουν και κακόβουλες χρήσεις, αλλά θα υπάρξουν και αντίμετρα. Έγινε μεγάλη προσπάθεια π.χ. να αντιμετωπιστεί το θέμα του κακοποιητικού και ρατσιστικού λόγου στο ChatGPT, όπως λέει και η SBE παραπάνω -αν και με αμφιλεγόμενο και πάντως όχι ανώδυνο τρόπο. Αλλά από ποιο άλλο νοήμον ον μπορείς να ξεριζώσεις τόσο εύκολα το ρατσισμό ή τις θεολογικές ερμηνείες της τεχνολογικής εξέλιξης;

 

[SBE]

Να διευκρινήσω ότι δεν θεωρώ σωστή την παρέμβαση αν και καταλαβαίνω γιατί έγινε, γιατί ο αλγόριθμος μαθαίνει με βάση αυτά που βλέπει. Δηλαδή στην περιπτωση του ρατσιστικού αργόριθμου, το πρόβλημα ήταν ότι όταν του ζητούσαν να επιλέξει ποιός μπορέι να ήταν εγκληματίας από μια σειρά φωτογραφίες, επέλεγε αυτόν που ανήκε στην ομάδα που αποτελεί το μεγαλύτερο ποσοστό φυλακισμένων στις ΗΠΑ, το οποίο είναι αναμενόμενο, γιατί κοιτάξε τις στατιστικές και τον τύπο. Ακριβώς όπως θα έκανε ένας εξωγήινος αν ερχόταν να μας παρατηρήσει. Ο αλγόριθμος επομένως μας επισημαίνει ένα γνωστό πρόβλημα, ότι στις ΗΠΑ κάποιες κοινωνικές ομάδες καταλήγουν στη φυλακή πιο εύκολα από άλλες. Υπήρξαν δικαιολογίες ότι εφταιγαν τα στοιχεία που δόθηκαν στον αλγόριθμο, ότι δηλαδή αντικατοπτρίζουν τις αντιλήψεις των δυο- τριών- πεντε ατόμων που ασχολήθηκαν με τον αλγόριθμο, που δεν με πειθουν. Και όλα τα στοιχεία από όλη τη χώρα να του έδιναν, το ίδιο θα γινόταν γιατί το πρόβλημα που επεσήμανε αυτή η ασκηση είναι πραγματικό και δεν λύνεται με παρέμβαση στον αλγόριθμο αλλά με παρεμβάσεις στην κοινωνία που είναι πολύ πιο δύσκολες.

 

[SBE]

Και τώρα αμπελοσοφίες μπούμερ με αφορμή το ότι δνε μπορούμε να προβλέψουμε που θα καταλήξει κάτι: αν ο Ζουκερμπεργκ ήθελε απλά να φέρει του ανθρώπους πιο κοντά δεν θα πούλαγε τα στοιχεία των μελών. Συγκεκριμένα, ούτε θα του είχε περάσει ποτέ από το μυαλό ότι μπορεί να βγάλει λεφτά από αυτούς. Αλλά αν δεν ήταν αυτός θα ήταν κάποιος άλλος κλπ κλπ κλπ. Επομένως, πάντα θα υπαρχουν κάποιοι που όλα όσα συζητάμε τα βλέπουν σαν ανησυχίες ηλίθιων και το μόνο που βλέπουν είναι $$$$. Οι θεωρητικές συζητήσεις είναι ωραίες αλλά τελικά τα πράγματα καταλήγουν διαφορετικά. Όλες οι ρομαντικές ιδέες γίνονται εμπορικές ιδέες κλπ κλπ.

 

[Zazula]

Καταρχήν, αν το ζητούμενο είναι η εξασφάλιση της γνησιότητας στο σχολικό περιβάλλον, οι πάσης φύσεως εργασίες πρέπει να γίνονται επί τόπου στο σχολείο (σε υπολογιστές του σχολείου) και όχι στο σπίτι.
Επιπλέον πρέπει να υπάρχει οπωσδήποτε δεύτερο στάδιο: η παρουσίαση, η υποστήριξη της εργασίας. Εκεί ο μαθητής δείχνει αν έχει κατακτήσει τη γνώση, αν πράγματι πηγάζει από μέσα του.
Αυτά όσον αφορά τις σχολικές εργασίες. Το θέμα βεβαίως είναι σαφώς ευρύτερο.

Το μεγαλύτερο πρόβλημα με τις σχολικές εργασίες είναι ότι κάποιοι καθηγητές θεωρούν καλή ιδέα να γίνονται ομαδικά. Δεν υπάρχει χειρότερο πράγμα απ' τις «ομαδικές» εργασίες.

 

[skol]

το πρόβλημα που επεσήμανε αυτή η ασκηση είναι πραγματικό και δεν λύνεται με παρέμβαση στον αλγόριθμο αλλά με παρεμβάσεις στην κοινωνία που είναι πολύ πιο δύσκολες.

Δεν θα το έλεγα ακριβώς "παρέμβαση στον αλγόριθμο". Αυτά τα συστήματα έτσι κι αλλιώς περνάνε από μια διαδικασία εκπαίδευσης(training) που περιλαμβάνει επιβλεπόμενη μάθηση(supervised learning) και σήμανση(labeling), δηλαδή ανθρώπινη παρέμβαση. Συμφωνώ για τις παρεμβάσεις στην κοινωνία που λες αλλά ένας τρόπος είναι ακριβώς τα εργαλεία που φτιάχνουμε να μην αναπαράγουν ρατσιστικό και κακοποιητικό λόγο. Στο παράδειγμα που αναφέρεις συγκεκριμένα, το πρόβλημα είναι στην ερώτηση. Αν κάνεις μια τέτοια ερώτηση (σε μια λίστα από φωτογραφίες ποιοι μπορεί να είναι οι εγκληματίες;), το ChatGPT σου απαντάει τώρα πολύ σωστά ότι:

Ιt is not possible to accurately predict criminal behavior based solely on an individual's appearance. The use of such methods is unethical and has been shown to be unreliable. It is important to rely on evidence-based practices and not make assumptions about an individual's behavior based on their physical appearance.

Παρεμπ, από το άρθρο που λίνκαρες μου άρεσαν πολύ τα λόγια του Maynard Holliday:

The results of the virtual robot test, he said, speak to the need to ensure that people who build AI systems and assemble the datasets used to train AI models come from diverse backgrounds. "If you’re not at the table," Holliday says, "you’re on the menu."
In 2017, Holliday contributed to a RAND report warning that resolving bias in machine learning requires hiring diverse teams and cannot be fixed through technical means alone.