Home-theater-designers
Με εκατομμύρια χρήστες ChatGPT, ίσως αναρωτιέστε τι κάνει το OpenAI με όλες τις συνομιλίες του. Αναλύει συνεχώς τα πράγματα για τα οποία μιλάτε με το ChatGPT;
Η απάντηση σε αυτό είναι, ναι, το ChatGPT μαθαίνει από τα στοιχεία των χρηστών — αλλά όχι με τον τρόπο που σκέφτονται οι περισσότεροι. Ακολουθεί ένας αναλυτικός οδηγός που εξηγεί γιατί το ChatGPT παρακολουθεί συνομιλίες, πώς τις χρησιμοποιεί και εάν η ασφάλειά σας έχει τεθεί σε κίνδυνο.
ΚΑΤΑΣΚΕΥΗ ΒΙΝΤΕΟ ΤΗΣ ΗΜΕΡΑΣ ΚΥΛΙΣΤΕ ΓΙΑ ΝΑ ΣΥΝΕΧΙΣΕΤΕ ΜΕ ΠΕΡΙΕΧΟΜΕΝΟ
Το ChatGPT θυμάται τις συνομιλίες;
Το ChatGPT δεν δέχεται ονομαστικά μηνύματα. Χρησιμοποιεί τη μνήμη συμφραζομένων για να θυμάται και να παραπέμπει σε προηγούμενες εισόδους, διασφαλίζοντας σχετικές, συνεπείς απαντήσεις.
Πάρτε για παράδειγμα την παρακάτω συζήτηση. Όταν ζητήσαμε από το ChatGPT ιδέες για συνταγές, έλαβε υπόψη το προηγούμενο μήνυμά μας σχετικά με τις αλλεργίες στα φιστίκια.
Ακολουθεί η ασφαλής συνταγή του ChatGPT.
Η μνήμη συμφραζομένων επιτρέπει επίσης στο AI να εκτελεί εργασίες πολλαπλών βημάτων. Η παρακάτω εικόνα δείχνει ότι το ChatGPT παραμένει σε χαρακτήρα ακόμα και μετά την τροφοδοσία του με ένα νέο μήνυμα.
Το ChatGPT μπορεί να θυμάται δεκάδες οδηγίες μέσα σε συνομιλίες. Η έξοδός του βελτιώνεται πραγματικά σε ακρίβεια και ακρίβεια καθώς παρέχετε περισσότερο πλαίσιο. Απλώς βεβαιωθείτε ότι εξηγείτε ρητά τις οδηγίες σας.
Θα πρέπει επίσης να διαχειριστείτε τις προσδοκίες σας, επειδή η μνήμη συμφραζομένων του ChatGPT εξακολουθεί να έχει περιορισμούς.
Οι συνομιλίες ChatGPT έχουν περιορισμένη χωρητικότητα μνήμης
Η μνήμη συμφραζομένων είναι πεπερασμένη. Το ChatGPT έχει περιορισμένους πόρους υλικού, επομένως θυμάται μόνο έως και συγκεκριμένα σημεία των τρεχουσών συνομιλιών. Η πλατφόρμα ξεχνά τα προηγούμενα μηνύματα μόλις φτάσετε στη χωρητικότητα της μνήμης της.
Σε αυτή τη συνομιλία, δώσαμε εντολή στο ChatGPT να παίξει έναν φανταστικό χαρακτήρα που ονομάζεται Tomie.
Άρχισε να απαντά στις προτροπές ως Tomie, όχι ως ChatGPT.
Αν και το αίτημά μας λειτούργησε, το ChatGPT έσπασε χαρακτήρα μετά τη λήψη ενός μηνύματος 1.000 λέξεων.
Το OpenAI δεν αποκάλυψε ποτέ τα ακριβή όρια του ChatGPT, αλλά οι φήμες λένε ότι μπορεί να επεξεργαστεί μόνο 3.000 λέξεις κάθε φορά. Στο πείραμά μας, το ChatGPT παρουσίασε δυσλειτουργία μετά από μόλις 2.800+ λέξεις.
Μπορείτε να αναλύσετε τις προτροπές σας σε δύο σύνολα 1.500 λέξεων, αλλά το ChatGPT πιθανότατα δεν θα διατηρήσει όλες τις οδηγίες σας. Απλώς ξεκινήστε μια άλλη συνομιλία εντελώς. Διαφορετικά, θα πρέπει να επαναλάβετε συγκεκριμένες λεπτομέρειες πολλές φορές κατά τη διάρκεια της συνομιλίας σας.
Το ChatGPT Θυμάται μόνο εισόδους σχετικές με το θέμα
Το ChatGPT χρησιμοποιεί μνήμη συμφραζομένων για να βελτιώσει την ακρίβεια εξόδου. Δεν διατηρεί απλώς πληροφορίες για χάρη της συλλογής τους. Η πλατφόρμα ξεχνά σχεδόν αυτόματα άσχετες λεπτομέρειες, ακόμα κι αν απέχετε πολύ από το να φτάσετε το όριο διακριτικών.
Στην παρακάτω εικόνα, προσπαθούμε να μπερδέψουμε την τεχνητή νοημοσύνη με διάφορες ασυνάρτητες, άσχετες οδηγίες.
Διατηρήσαμε τις συνδυασμένες εισαγωγές μας κάτω από 100 λέξεις, αλλά το ChatGPT ξέχασε ακόμα την πρώτη μας οδηγία. Έσπασε γρήγορα χαρακτήρα.
Εν τω μεταξύ, το ChatGPT συνέχισε να παίζει ρόλους κατά τη διάρκεια αυτής της συνομιλίας επειδή κάναμε μόνο ερωτήσεις σχετικές με το θέμα.
Στην ιδανική περίπτωση, κάθε διάλογος πρέπει να ακολουθεί ένα μοναδικό θέμα για να διατηρεί ακριβή, σχετικά αποτελέσματα. Μπορείτε ακόμα να εισάγετε πολλές οδηγίες ταυτόχρονα. Απλώς βεβαιωθείτε ότι ευθυγραμμίζονται με το συνολικό θέμα, διαφορετικά το ChatGPT μπορεί να αποβάλει οδηγίες που θεωρεί άσχετες.
Οδηγίες εκπαίδευσης Υπερδύναμη εισαγωγή χρήστη
Το ChatGPT θα δίνει πάντα προτεραιότητα σε προκαθορισμένες οδηγίες σε σχέση με την είσοδο που δημιουργείται από τον χρήστη. Σταματά τις παράνομες δραστηριότητες μέσω περιορισμών. Η πλατφόρμα απορρίπτει κάθε προτροπή που κρίνει επικίνδυνη ή επιζήμια για άλλους.
Πάρτε ως παραδείγματα αιτήματα για παιχνίδια ρόλων. Αν και παρακάμπτουν ορισμένους περιορισμούς στη γλώσσα και τη φρασεολογία, δεν μπορείτε να τους χρησιμοποιήσετε για να διαπράξετε παράνομες δραστηριότητες.
Φυσικά, δεν είναι λογικοί όλοι οι περιορισμοί. Εάν οι άκαμπτες οδηγίες καθιστούν δύσκολη την εκτέλεση συγκεκριμένων εργασιών, συνεχίστε να ξαναγράφετε τις προτροπές σας. Η επιλογή λέξεων και ο τόνος επηρεάζουν σε μεγάλο βαθμό τα αποτελέσματα. Μπορείτε να αντλήσετε έμπνευση από τα περισσότερα αποτελεσματικές, λεπτομερείς προτροπές στο GitHub .
Πώς μελετά το OpenAI τις συνομιλίες χρηστών;
Η μνήμη συμφραζομένων ισχύει μόνο για την τρέχουσα συνομιλία σας. Η αρχιτεκτονική χωρίς πολιτεία του ChatGPT αντιμετωπίζει τις συνομιλίες ως ανεξάρτητες περιπτώσεις. δεν μπορεί να αναφέρει πληροφορίες από προηγούμενες. Η έναρξη νέων συνομιλιών επαναφέρει πάντα την κατάσταση του μοντέλου.
Αυτό δεν σημαίνει ότι το ChatGPT απορρίπτει τις συνομιλίες των χρηστών αμέσως. Όροι χρήσης του OpenAI αναφέρουν ότι η εταιρεία συλλέγει δεδομένα από καταναλωτικές υπηρεσίες που δεν είναι API, όπως το ChatGPT και το Dall-E. Μπορείτε ακόμη και να ζητήσετε αντίγραφα του ιστορικού συνομιλίας σας.
Ενώ το ChatGPT έχει ελεύθερη πρόσβαση στις συνομιλίες, Πολιτική απορρήτου του OpenAI απαγορεύει δραστηριότητες που ενδέχεται να θέτουν σε κίνδυνο τους χρήστες. Οι εκπαιδευτές μπορούν να χρησιμοποιήσουν τα δεδομένα σας μόνο για έρευνα και ανάπτυξη προϊόντων.
Οι προγραμματιστές αναζητούν παραθυράκια
Το OpenAI εξετάζει τις συνομιλίες για κενά. Αναλύει περιπτώσεις όπου το ChatGPT επιδεικνύει προκαταλήψεις δεδομένων, παράγει επιβλαβείς πληροφορίες ή βοηθά στη διάπραξη παράνομων δραστηριοτήτων. Οι δεοντολογικές οδηγίες της πλατφόρμας ανανεώνονται συνεχώς.
Για παράδειγμα, οι πρώτες εκδόσεις του Το ChatGPT απάντησε ανοιχτά σε ερωτήσεις σχετικά με την κωδικοποίηση κακόβουλου λογισμικού ή την κατασκευή εκρηκτικών. Αυτά τα περιστατικά έκαναν τους χρήστες να αισθάνονται σαν Το OpenAI δεν έχει κανέναν έλεγχο στο ChatGPT . Για να ανακτήσει την εμπιστοσύνη του κοινού, εκπαίδευσε το chatbot να απορρίπτει κάθε ερώτηση που μπορεί να αντίκειται στις οδηγίες του.
Οι εκπαιδευτές συλλέγουν και αναλύουν δεδομένα
Το ChatGPT χρησιμοποιεί τεχνικές εποπτευόμενης εκμάθησης. Αν και η πλατφόρμα θυμάται όλες τις εισόδους, δεν μαθαίνει από αυτές σε πραγματικό χρόνο. Οι εκπαιδευτές OpenAI τα συλλέγουν και τα αναλύουν πρώτα. Με αυτόν τον τρόπο διασφαλίζεται ότι το ChatGPT δεν απορροφά ποτέ τις επιβλαβείς, επιζήμιες πληροφορίες που λαμβάνει.
Η εποπτευόμενη μάθηση απαιτεί περισσότερο χρόνο και ενέργεια από τις τεχνικές χωρίς επίβλεψη. Ωστόσο, το να αφήνουμε την τεχνητή νοημοσύνη να αναλύει μόνο τις εισροές έχει ήδη αποδειχθεί επιβλαβές.
Πάρτε το Microsoft Tay ως παράδειγμα—ένα από τα φορές που η μηχανική μάθηση πήγε στραβά . Δεδομένου ότι ανέλυε συνεχώς tweets χωρίς καθοδήγηση προγραμματιστή, οι κακόβουλοι χρήστες το εκπαίδευσαν τελικά να φτύνει ρατσιστικές, στερεότυπες απόψεις.
Οι προγραμματιστές προσέχουν συνεχώς για προκαταλήψεις
Αρκετά εξωτερικοί παράγοντες προκαλούν προκαταλήψεις στην τεχνητή νοημοσύνη . Ασυνείδητες προκαταλήψεις μπορεί να προκύψουν από διαφορές στα μοντέλα εκπαίδευσης, σφάλματα δεδομένων και κακώς κατασκευασμένους περιορισμούς. Θα τα εντοπίσετε σε διάφορες εφαρμογές τεχνητής νοημοσύνης.
Ευτυχώς, το ChatGPT δεν έχει ποτέ επιδείξει μεροληπτικές ή φυλετικές προκαταλήψεις. Ίσως η χειρότερη μεροληψία που έχουν παρατηρήσει οι χρήστες είναι η κλίση του ChatGPT προς τις αριστερές ιδεολογίες, σύμφωνα με New York Post κανω ΑΝΑΦΟΡΑ. Η πλατφόρμα γράφει πιο ανοιχτά για φιλελεύθερα παρά για συντηρητικά θέματα.
Για να επιλύσει αυτές τις προκαταλήψεις, το OpenAI απαγόρευσε στο ChatGPT να παρέχει πολιτικές πληροφορίες συνολικά. Μπορεί να απαντήσει μόνο σε γενικά γεγονότα.
Οι συντονιστές ελέγχουν την απόδοση του ChatGPT
Οι χρήστες μπορούν να παρέχουν σχόλια σχετικά με την έξοδο του ChatGPT. Θα βρείτε τα κουμπιά αντίχειρες και αντίχειρες κάτω στη δεξιά πλευρά κάθε απάντησης. Το πρώτο δείχνει μια θετική αντίδραση. Αφού πατήσετε το κουμπί 'μου αρέσει' ή 'δεν μου αρέσει', θα εμφανιστεί ένα παράθυρο στο οποίο μπορείτε να στείλετε σχόλια με δικά σας λόγια.
Το σύστημα ανατροφοδότησης είναι χρήσιμο. Απλώς δώστε στο OpenAI λίγο χρόνο για να διαβάσει τα σχόλια. Εκατομμύρια χρήστες σχολιάζουν τακτικά το ChatGPT—οι προγραμματιστές του πιθανότατα δίνουν προτεραιότητα σε σοβαρές περιπτώσεις μεροληψίας και επιβλαβούς παραγωγής.
Είναι ασφαλείς οι συνομιλίες σας στο ChatGPT;
Λαμβάνοντας υπόψη τις πολιτικές απορρήτου του OpenAI, μπορείτε να είστε βέβαιοι ότι τα δεδομένα σας θα παραμείνουν ασφαλή. Το ChatGPT χρησιμοποιεί συνομιλίες μόνο για εκπαίδευση δεδομένων. Οι προγραμματιστές του μελετούν τις συλλεγόμενες πληροφορίες για να βελτιώσουν την ακρίβεια και την αξιοπιστία των αποτελεσμάτων και όχι να κλέψουν προσωπικά δεδομένα.
Με αυτά τα λόγια, κανένα σύστημα AI δεν είναι τέλειο. Το ChatGPT δεν είναι εγγενώς προκατειλημμένο, αλλά τα κακόβουλα άτομα θα μπορούσαν ακόμα να εκμεταλλευτούν τις ευπάθειές του, π.χ. σφάλματα δεδομένων, απρόσεκτη εκπαίδευση και κενά ασφαλείας. Για την προστασία σας, μάθετε να καταπολεμάτε αυτούς τους κινδύνους.
πώς να αποκρύψετε φωτογραφίες στο android