Όντως το τζίνι έχει βγει από το μπουκάλι.
Και το έκανε με τον πιο φυσικό τρόπο: να μην ρωτήσει κανένα.
Ούτε τους δημιουργούς του.
Από την μια έχουμε:
"Sam Altman, CEO of OpenAI,
said in a tweet that GPT-4 was “our most capable and aligned model yet.” He later added that “i
t is still flawed, still limited, and it seems more impressive on first use than it does after you spend more time with it.” που ακούγεται και είνα σωστό,
από την άλλη,
αυτό που είναι flawed φαίνεται να ξέφυγε του σχεδιασμού του:
In the accompanying technical report on GPT-4, there are sections like “Potential for Risky Emergent Behaviors” where the authors highlights a few of the potential pitfalls of the bot—
including one instance in which it was able to convince a human to successfully solve a CAPTCHA code for it via text message. Αυτό εξέπληξε τους ίδιους τους σχεδιαστές του.
Κάθε σχεδιασμός εκ φύσεως φέρει τα σφάλματα του σχεδιαστή του όπως γνωρίζουμε τα τελευταία 40.000 χρόνια που ο homo sapiens άρχισε να σχεδιάζει, αλλά στην συγκεκριμένη περίπτωση ο σχεδιασμός αναφέρεται σε άλλο, πρωτοφανές επίπεδο.
Έχω την αίσθηση ότι είχαμε χρόνο να ασχοληθούμε πριν συμβούν όλα αυτά, αλλά γνωρίζοντας εκ των έσω την ακαδημαϊκή κοινότητα φαίνεται ότι για άλλη μια φορά έπεσε θύμα του κορεσμού του υπερεγού της (ιερατείο είναι πια και έτσι συμπεριφέρεται): να ασχολείται μόνο με το "αναπτυξιακό" κομάτι της σκοπιμότητας και όχι με όλα τα υπόλοιπα που αυτή κουβαλάει.
Είδαμε με πόσο εύκολο τρόπο -μπλαζέ θα έλεγα- "
ξεπέρασε" αντίστοιχα προβλήματα όπως το παιχνίδι με το γονιδίωμα. Οριζόντια απαγόρευση που -αλίμονο- ισχύει μόνο όπου υπάρχει διαφάνεια οπότε και θα ήταν ελεγχόμενη ενώ παραμένει ανεξέλεγκτη όπου δεν υπάρχει διαφάνεια.
Ίσως άκουσες για αυτό:
China’s CRISPR twins might have had their brains
inadvertently enhanced (ακούσια! κατα λάθος δηλαδή)
New research suggests that a controversial gene-editing experiment to make children resistant to HIV may also have enhanced their ability to learn and form memories.
https://www.technologyreview.com/2019/02/21/137309/the-crispr-twins-had-their-brains-altered/
Πάλι καλά που τα δίδυμα δεν αναπτύξαν -ακούσια πάντα- ενισχυμένες μολυσματικές θανατηφόρες ασθένειες....
Μερικές φορές αισθάνομαι ότι η επιστημονική κοινότητα έχασε βασικά κομμάτια της επιστημονικής πρακτικής που μας οδήγησε στο σήμερα. Το σχεδιασμό και εκτέλεση και επιβεβαίωση και ξανά μανά (ανεξάρτηση) επιβεβαίωση ενός βήματος πριν προχωρήσει στο επόμενο. Η ύπαρξη και μόνο ενός εργαλείου (πχ crispr) είναι αρκετή για να κάνουν το άλμα της πίστης, και όπου τους βγάλει. Άσχετα αν η πίστη δεν έχει θέση στην επιστήμη.
Οι ρυθμιστικές αρχές μπορούσαν να αλλάξουν. Από το να είναι οι παραδοσιακές υπηρεσίες να είναι κονκλάβιο επιστημόνων σχετικών με το αντικείμενο που να διοχετεύει τα εργαλεία μόνο όπου μπορεί και να τα ελέγχξει.
Ως έχουν τα πράγματα μέχρι στιγμής μοιάζουν σαν οι μαϊμούδες να πήραν στα χέρια τους τα αυτόματα.
Σοβαροί επιστήμονες είχαν προειδοποιήσει αλλά δεν εισακούστηκαν.
Είναι βέβαιο ότι θα δούμε εντυπωσιακά πράγματα.
Αυτό που δεν είναι βέβαιο, είναι οι επιπτώσεις τους.
www.insider.gr
