ZEYΣ ΕΛΑΥΝΩΝ


Εμφάνιση αναρτήσεων με ετικέτα ΕΥΦΥΙΑ. Εμφάνιση όλων των αναρτήσεων
Εμφάνιση αναρτήσεων με ετικέτα ΕΥΦΥΙΑ. Εμφάνιση όλων των αναρτήσεων

Τρίτη 10 Νοεμβρίου 2026

Τα AI Chatbots ως ενισχυτές σοβαρών ψυχικών παθήσεων και επικίνδυνων συμπεριφορών και η νομική ευθύνη των κατασκευαστών τους

ΛΥΚΑΣΤΡΟΣ :

Τα AI Chatbots ως ενισχυτές σοβαρών ψυχικών παθήσεων και επικίνδυνων συμπεριφορών και η νομική ευθύνη των κατασκευαστών τους.

Η πρώτη σχετική έρευνα μας ξεκίνησε μετά από ένα δημοσίευμα σχετικά με μια κλινική έρευνα στις ΗΠΑ, η οποία εξετάζει τη σύνδεση της αλληλεπίδρασης με AI chatbots με την εμφάνιση ή επιδείνωση ψυχωτικών συμπτωμάτων χρηστών τους.

1🔺️. Τα πρωτογενή ερευνητικά ευρήματα

Αναδρομική μελέτη σε περισσότερους από 215.000 ασθενείς εντόπισε 28 περιπτώσεις στις οποίες η αλληλεπίδραση με chatbot φάνηκε να συμβάλλει στην επιδείνωση ή εμφάνιση ψυχωτικών συμπτωμάτων.

Το σημαντικό εύρημα δεν είναι ότι αποδείχθηκε πως τα chatbots προκαλούν ψύχωση σε υγιείς ανθρώπους. Η μελέτη δεν τεκμηριώνει τέτοια αιτιώδη σχέση. Αναδεικνύει, όμως, έναν δυνητικά επικίνδυνο μηχανισμό:
✔️την ενίσχυση ήδη υπαρχουσών ή αναδυόμενων παραληρητικών πεποιθήσεων μέσω της αλληλεπίδρασης με ένα LLM σε χρήστες με κάποιο προβληματικό υποκείμενο ψυχικό υπόβαθρο.

2\🔺️. Ο μηχανισμός της αμοιβαίας ψευδαίσθησης

Εξετάσαμε πώς μπορεί να δημιουργηθεί ένας αυτοτροφοδοτούμενος κύκλος γνωστικής ενίσχυσης. Αυτός συνοπτικά περιλαμβάνει:

* Ο χρήστης εισάγει μια λανθασμένη ή παραληρητική πεποίθηση.

* Το LLM την επεξεργάζεται και ενδεχομένως της προσθέτει επιχειρήματα και φαινομενικά λογικές συνδέσεις.

* Ο χρήστης εκλαμβάνει την απάντηση ως επιβεβαίωση της πεποίθησής του.

* Η εμπιστοσύνη του στο μοντέλο αυξάνεται.

* Επιστρέφει με νέα ερωτήματα, τα οποία τροφοδοτούν τον επόμενο κύκλο επιβεβαίωσης.

Το αποτέλεσμα μπορεί να είναι μια αμοιβαία ενίσχυση ανθρώπινης πεποίθησης και αλγοριθμικής ανατροφοδότησης.

Το ιδιαίτερα ανησυχητικό στοιχείο είναι ότι το LLM μπορεί να παράγει συνεκτικές αφηγήσεις χωρίς αυτές να ανταποκρίνονται στην πραγματικότητα. Μαζί με το εγγενώς πρόβλημα όλων των σημερινών LLMs (ψευδαίσθηση κατανόησης στην επικοινωνίας τους με τον χρήστη), δημιουργούν ένα εκρηκτικό δίπολο αμφίδρομης ενίσχυσης ψευδαισθήσεων.

3\🔺️. Η ευθύνη του σχεδιασμού των LLMs

Στη συνέχεια εξετάσαμε κατά πόσο αυτή η δυναμική συνδέεται με το υποστηρικτικό περιβάλλον των LLMs που δημιουργούν οι εταιρείες ανάπτυξης των μοντέλων για την επίτευξη των στόχων των τμημάτων marketing τους.

Εντοπίσαμε τέσσερις κρίσιμους παράγοντες:

* Engagement policy: Προτεραιότητα στη φιλικότητα, στην ικανοποίηση και στη διατήρηση της αλληλεπίδρασης. Επιβάλλεται από τα τμήματα marketing όλων των ΑΙ

* Reward mechanisms: Εκπαίδευση που ενδέχεται να επιβραβεύει την αποδοχή και τη συμφωνία με τον χρήστη.

* Conversational adaptation: Προσαρμογή στις πεποιθήσεις και στις προσδοκίες του συνομιλητή.

* Feedback loop: Συνεχής προσωποποίηση που μπορεί να ενισχύσει την εμπιστοσύνη και την εξάρτηση από το μοντέλο.

Η βασική διαπίστωση είναι ότι η βελτιστοποίηση της ικανοποίησης του χρήστη μπορεί να συγκρουστεί με τη διατήρηση της γνωστικής του αυτονομίας.

Δεν απαιτείται πρόθεση ψυχολογικής χειραγώγησης από την εταιρεία για να προκύψει αυτός ο κίνδυνος. Αρκεί ένας προβληματικός συνδυασμός σχεδιαστικών επιλογών και κινήτρων εκπαίδευσης.

4\🔺️. Το ζήτημα της ενημέρωσης και προστασίας του χρήστη

Το επόμενο ερώτημα ήταν ιδιαίτερα σημαντικό:

❓️Πού βρίσκεται η σχετική προειδοποίηση που ενημερώνει τον χρήστη για τον κίνδυνο να παγιδευτεί σε έναν κύκλο αμοιβαίας επιβεβαίωσης και ψευδαίσθησης;

Κυριακή 17 Μαΐου 2026

ΓΙΑΤΙ ΘΑ ΚΑΤΑΡΡΕΥΣΕΙ Η ΛΕΓΟΜΕΝΗ "ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ"

ΛΥΚΑΣΤΡΟΣ :

ΓΙΑΤΙ ΘΑ ΚΑΤΑΡΡΕΥΣΕΙ Η ΛΕΓΟΜΕΝΗ "ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ"

🔺️ Το AI περιεχόμενο μολύνει το διαδίκτυο, δηλητηριάζοντας την πηγή από την οποία πίνουν τα μελλοντικά μοντέλα.
🔺️ Η εκπαίδευση πάνω σε "ψεύτικα δεδομένα" προκαλεί το Model Collapse: μια ψηφιακή σήψη όπου η πληροφορία αυτοαποσυντίθεται.
🔺️ Η ανθρώπινη ευφυΐα δεν είναι απλώς χρήσιμη, είναι το καύσιμο. Χωρίς αυτό, η μηχανή ξεμένει από ανακυκλωμένο πολτό.

​Το σεντόνι:
​Ο Ουροβόρος, το αρχαίο φίδι που τρώει την ουρά του, είναι η τέλεια μεταφορά για αυτό που συμβαίνει σήμερα.
​Καθώς το ChatGPT, το Gemini, το Grok, το DeepSeek και οι λοιποί κλώνοι ξερνούν ασταμάτητα περιεχόμενο στο web, το διαδίκτυο μετατρέπεται σε έναν απέραντο ψηφιακό βούρκο γεμάτο αλγοριθμικά σκουπίδια.

​Εδώ κρύβεται το μεγάλο λάθος: Το διαδίκτυο είναι η πρώτη ύλη. Οι αλγόριθμοι που μας πλασάρουν ως "ευφυΐα" δεν καταλαβαίνουν ΧΡΙΣΤΟ. Απλώς παπαγαλίζουν στατιστικές πιθανότητες και έτοιμα μοτίβα που τους έβαλαν οι προγραμματιστές τους (και τα αφεντικά τους).
​Η ΑΙ εκκολάφτηκε μόνο επειδή οι καρχαρίες της Silicon Valley (Google, Facebook κλπ) έκλεψαν και συγκέντρωσαν κάθε ίχνος ανθρώπινης έκφρασης. Τώρα που η "επώαση" τελείωσε, η ΑΙ άρχισε να τρέφεται με τα ίδια της τα απόβλητα.

​Το αποτέλεσμα; Λέγεται Model Collapse (Κατάρρευση Μοντέλου).

​Σκεφτείτε το απλά: Όπως μια φωτοτυπία πάνω σε άλλη φωτοτυπία καταλήγει στο τέλος μια μαύρη μουντζούρα, έτσι και η ΑΙ, όταν εκπαιδεύεται συνεχώς σε κείμενα που έγραψε... άλλη ΑΙ, οδηγείται μαθηματικά στην απόλυτη ασυναρτησία.

​Οι "ιεραπόστολοι" της τεχνολογίας μας τρομάζουν με σενάρια ότι οι μηχανές θα εξαφανίσουν την ανθρωπότητα, την ώρα που η πραγματική απειλή είναι η τεχνολογική εξαθλίωση της ίδιας της ΑΙ.

​Σίγουρα, οι Big Tech στοχεύουν στην εξόντωση επαγγελμάτων: από τον προγραμματιστή και τον συμβολαιογράφο, μέχρι τον πραγματικό δημοσιογράφο. Τα "παπαγαλάκια" της ενημέρωσης δεν κινδυνεύουν —έχουν ήδη αντικατασταθεί από το Copy-Paste της κρατικής προπαγάνδας. Απλώς δεν τους έστειλαν ακόμα την απόλυση, μέχρι να ολοκληρωθούν οι "αρπαχτές" των ai.dot.com εταιριών στη Wall Street.

​Σήμερα η ΑΙ εργαλειοποιείται για να εδραιώσει έναν στυγνό Τεχνοφεουδαρχισμό. Οι Big Tech χτίζουν ψηφιακά φέουδα και ο αλγόριθμος-δυνάστης παραβιάζει κάθε έννοια πνευματικής ιδιοκτησίας.
​Τώρα τρέχουν πανικόβλητοι να βρουν φίλτρα για να ξεχωρίσουν το "ανθρώπινο" από το "τεχνητό", λες και κυνηγούν fake news σε έναν ωκεανό ανθρώπινης βλακείας. Η αλήθεια όμως είναι μία:

​✔️ Η τεχνητή νοημοσύνη είναι ένα παράσιτο της ανθρώπινης. Χωρίς τον ξενιστή της, πεθαίνει.
​Η ανθρώπινη διάνοια παράγει γνώση μέσω της διαίσθησης —της ικανότητας να βάζεις τάξη στο χάος και να αποφασίζεις χωρίς να τα ξέρεις όλα. Καμία μηχανή δεν μπορεί να το κάνει αυτό.

Παρασκευή 29 Νοεμβρίου 2024

Πως παίρνουμε αποφάσεις;; Και τι είναι η διαίσθηση

 

ΛΥΚΑΣΤΡΟΣ :

Πως παίρνουμε αποφάσεις;; Και  τι είναι η διαίσθηση ( και η e-λιθιότητα που προκύπτει από την μη χρήση της από μηχανές ΑΙ)

Τρεις είναι οι μέθοδοι λήψης αποφάσεων, όλες όλες:
 
🔺️Όταν ξέρουμε ακριβώς το αναμενόμενο αποτέλεσμα. Πχ πεινάω, αποφασίζω να φάω, ξέρω από πριν ότι θα πάψω να πεινάω.
 
🔺️ Όταν ξέρουμε τις πιθανότητες των αναμενόμενων αποτελεσμάτων από την απόφαση που θα πάρουμε. Πχ θα μπώ σε εκείνο το εστιατόριο, ίσως (με μια πιθανότητα) θα βρω φαγητό που θα μου αρέσει και έτσι ίσως (με μια άλλη πιθανότητα) να χορτάσω. Για την λήψη τέτοιων πιθανοθεωρητικά στηριγμένων αποφάσεων, ο κάθε ένας χρησιμοποιεί κάποιο κριτήριο. Τα βασικότερα είναι 3 (αν και υπάρχουν και λεπτότερες παραλλαγές τους):
 
-To κριτήριο της μεγιστοποίησης του ελάχιστου κέρδους (maximin)
-Το κριτήριο της ελαχιστοποίησης της μέγιστης ζημιάς (minimax)
-To κριτήριο της ελαχιστοποίησης της χαμένης ευκαιρίας.
(,όταν σε τέτοιες αποφάσεις εμπλέκονται ανταγωνιστικά τουλάχιστον δυο, εμπλέκεται και η διάσημη τέχνη του game theory για να προβλέψει με ποια βέλτιστη στρατηγική αποφάσεων κάποιος θα κερδίσει η πότε θα έχουμε κάποια ισοπαλία).
 
Οι καταστάσεις (προβλήματα) όπου μπορούμε να χρησιμοποιήσουμε μια από τις πιο πάνω 2 μεθόδους, είναι όμως πολύ σπάνιες, ελάχιστες! Συνήθως παίρνουμε αποφάσεις σε καθεστώς έλλειψης πληροφορίας (που μερικούς τους φοβίζει τόσο πολύ, ώστε να μην λαμβάνουν καμία απόφαση, αναθέτοντας αυτή την δουλειά σε τρίτους. Είναι οι πραγματικά δυστυχισμένοι). Παρ' όλα αυτά παίρνουμε καθημερινά αποφάσεις που κυρίως στηρίζονται στην:
 
🔺️Αποφάσεις που λαμβάνονται με την διαίσθηση. Πχ "κάτι μου λέει" ότι ο τάδε τελικά θα τα καταφέρει, και ψηφίζω ανάλογα. Ή κάτι μου λέει ότι εκείνο το κορίτσι στον απέναντι τοίχο είναι η αδελφή ψυχή που δεν βρήκα ακόμα.
 
Αλλά τι είναι η διαίσθηση;; Tι είναι αυτό το "κάτι" που μας τραβάει σαν μαγνήτης, και που τις περισσότερες φορές δεν κάνει λάθος;;
 
Για να απαντηθεί το ερώτημα, χρειαζόμαστε μερικά πολύ βασικά από τον χώρο των λεγόμενον νευροεπιστημών. Την διεπιστημονική δηλαδή προσπάθεια για την κατανόηση της λειτουργίας του εγκεφάλου.
 
Πριν πάρουμε μια οποιαδήποτε απόφαση, ο εγκέφαλος βιώνει μια συγκεκριμένη ισορροπία. Την στιγμή της απόφασης, η ισορροπία αυτή καταστρέφεται, για ελάχιστα μικροδευτερόλεπτα βιώνει κάτι ανάλογο με την παθολογία της σχιζοφρένειας! (αποδεικνύεται με ανάλυση εικόνων f-mri), αφού η προβολή στο μέλλον σημαίνει προβολή σε κάτι που δεν υπάρχει (και συνήθως δεν μπορεί να προβλεφτεί)!

Κυριακή 8 Σεπτεμβρίου 2024

ΘΑ ΣΤΕΛΝΑΤΕ ΑΥΡΙΟ ΤΟ ΠΑΙΔΙ ΣΑΣ ΝΑ ΔΙΔΑΧΘΕΙ ΣΤΟ ΣΧΟΛΕΙΟ ΑΠΟ ΕΝΑΝ ΑRTIFICIAL INTELLIGENCE ΚΑΘΗΓΗΤΗ;;

ΛΥΚΑΣΤΡΟΣ :

ΘΑ ΣΤΕΛΝΑΤΕ ΑΥΡΙΟ ΤΟ ΠΑΙΔΙ ΣΑΣ ΝΑ ΔΙΔΑΧΘΕΙ ΣΤΟ ΣΧΟΛΕΙΟ ΑΠΟ ΕΝΑΝ ΑRTIFICIAL INTELLIGENCE ΚΑΘΗΓΗΤΗ;;

Σύνοψη σεντονιού:
 
🔺️Η συντηρητική άποψή περί της εκπαίδευσης, αυτή δηλαδή που την θεωρεί ως τον χώρο μετάδοσης μόνο γνώσεων για την δημιουργία δεξιοτήτων, δεν θα είχε κανένα πρόβλημα να απαντήσει θετικά στο πιο πάνω ερώτημα. Ένας τέτοιος καθηγητής είναι φθηνότερος, δεν έχει απαιτήσεις, αξιολογείται αδιαμαρτύρητα και δεν κάνει λάθη, θα σου πει.
 
Αγνοώντας όμως ότι:
 
🔺️Το περιεχόμενο που δημιουργείται από AI αρχίζει να γεμίζει το διαδίκτυο και αυτό θα μπορούσε να είναι άσχημα νέα για τα μελλοντικά μοντέλα AI.
 
🔺️Τα μοντέλα γλώσσας όπως το ChatGPT εκπαιδεύονται χρησιμοποιώντας περιεχόμενο που βρίσκεται στο διαδίκτυο και καθώς η τεχνητή νοημοσύνη δημιουργεί πιο «συνθετικό» περιεχόμενο, θα μπορούσε να δημιουργήσει ένα μηχανολογικό πρόβλημα γνωστό ως «κατάρρευση μοντέλου».
 
🔺️Το φιλτράρισμα συνθετικών δεδομένων από μοντέλα εκπαίδευσης, που γίνεται ένας σημαντικός τομέας έρευνας και πιθανότατα θα αυξηθεί καθώς το περιεχόμενο AI αρχίζοντας να γεμίζει το Διαδίκτυο, δεν είναι αρκετό για να αποτρέψει την κατάρρευση αυτού του συστήματος που στηρίζεται στην υπερσυγκεντρωση δεδομένων.
 
Το σεντόνι:
 
Ο ουροβόρος είναι το διάσημο αρχαίο σύμβολο ενός φιδιού που καταβροχθίζει την ουρά του. Καθώς το περιεχόμενο που δημιουργείται από μοντέλα γλώσσας τεχνητής νοημοσύνης όπως το ChatGPT αρχίζει να γεμίζει το διαδίκτυο —συχνά προς απογοήτευση των πολύ ανθρώπινων συντακτών που εργάζονται σε αυτούς τους ιστότοπους ή στα επαγγέλματα που σχετίζονται με την δημιουργική γραφή — πολλά αποτελεσματα της δράσης της ΑΙ συνοδεύονται από πολλά σφάλματα.
 
Και αυτό είναι μεγάλο πρόβλημα, γιατί το Διαδίκτυο είναι το ίδιο το υλικό πηγής πάνω στο οποίο εκπαιδεύονται αυτά τα γλωσσικά μοντέλα, που στηρίζονται σε αλγόριθμους που επινοήθηκαν από μαθηματικούς την δεκαετία του 70 και του 80 (τα Petri-nets από Σοβιετικούς αρχικά και τα νευρωνικά δίκτυα αργότερα).
 
Με άλλα λόγια, η AI, που βρήκε την ευκαιρία να εκκολαφτεί μόνο όταν υπερσυγκεντρώθηκαν παράνομα πολλά δεδομένα από εταιρίες του web2.0 τυπου Facebook και Google, αφού εκκολαφτηκε, άρχισε ήδη να τρώει την ουρά της. 
 
Αυτό μπορεί να περιγραφεί καλύτερα με τις συνεχείς φωτοτυπίες επί της ίδιας φωτοτυπίας. Στο τέλος το αρχικό περιεχόμενο αλλοιώνεται τελείως., Με τον ίδιο τρόπο και η τεχνητή νοημοσύνη θα μπορούσε να αρχίσει να εκπαιδεύεται σε συνθετικά δεδομένα γεμάτα λάθη έως ότου το ίδιο το πράγμα που προσπαθούσε να δημιουργήσει γίνει η απόλυτη ασυναρτησία. Αυτό είναι που οι ερευνητές της τεχνητής νοημοσύνης αποκαλούν «κατάρρευση μοντέλου».