4 Δεκ 2016

Το πρόβλημα της προηγμένης τεχνητής νοημοσύνης

Το πρόβλημα της προηγμένης τεχνητής νοημοσύνης



Είναι δύσκολο να αποφύγει κανείς την υποψία ότι η δημιουργία μηχανών που θα είναι πιο έξυπνες από τον άνθρωπο ίσως αποτελέσει πρόβλημα. Αν οι γορίλες είχαν εφεύρει τους ανθρώπους στο μακρινό παρελθόν, σήμερα που είναι υπό εξαφάνιση, σίγουρα θα προτιμούσαν να μην το είχαν κάνει... Η αδιαφορία και η υποτίμηση του ζητήματος δεν είναι αντίθεση στο - λαθεμένο φυσικά - λουδιτισμό ορισμένων, αλλά ισοδυναμεί με απρονοησία και απερισκεψία, όταν το πρόβλημα έχει ήδη γίνει ορατό στον ορίζοντα.
Η τεχνητή νοημοσύνη (ΤΝ), εδώ και μια δεκαετία δεν είναι πια θέμα της επιστημονικής φαντασίας. Η πραγματοποίησή της σε επιμέρους τομείς μετά το πέρασμα στην τεχνική της βαθιάς μηχανικής μάθησης, είχε ως αποτέλεσμα την ευρεία εξάπλωσή της στην παραγωγή γενικά, αλλά και πιο ειδικά στην παραγωγή καταναλωτικών προϊόντων που την εισάγουν με ταχύ ρυθμό και στην καθημερινότητα των ανθρώπων στο εργοστάσιο, στο γραφείο, στο σπίτι. Καθώς εδώ και τουλάχιστον έναν αιώνα η επιστήμη έχει γίνει παραγωγική δύναμη, είναι αναμφίβολο ότι η ΤΝ θα παίζει όλο και μεγαλύτερο ρόλο και με όλο και γρηγορότερο ρυθμό, δεδομένου ότι η τεχνολογική ανάπτυξη δεν εξελίσσεται γραμμικά, αλλά εκθετικά (επιταχυνόμενα), με μικρότερα ή μεγαλύτερα άλματα.
Η αστική προσέγγιση
Για το πώς καταλαβαίνουν και αντιμετωπίζουν το ζήτημα της ΤΝ οι αστοί, είναι χαρακτηριστικό πρόσφατο άρθρο στο αμερικανικό οικονομικό περιοδικό «Forbes», όπου ο συνεργάτης του Ενρίκε Ντανς γράφει: «Τα δεδομένα είναι το μυστικό όπλο κάθε εταιρείας, το νέο πετρέλαιο, η βενζίνη που κινεί τους αλγορίθμους. Χρησιμοποιήστε όποια μεταφορά θέλετε, αλλά ως διευθύνων μια εταιρεία, αν τα δεδομένα, η μηχανική μάθηση και η τεχνητή νοημοσύνη δεν είναι στην κορυφή της ατζέντας σας, τότε θα έπρεπε να σας απομακρύνουν από τη θέση σας. Δεν ξέρουμε ακόμα σε ποιον θα ανήκουν αυτά τα δεδομένα, δεν ξέρουμε αν η τεχνητή νοημοσύνη θα είναι ιδιόκτητη ή ανοιχτή (σ.σ. ανοιχτό λογισμικό), αλλά ξέρουμε ότι τώρα είναι η ώρα να σταματήσετε να φοβάστε την τεχνητή νοημοσύνη και να αρχίσετε να δουλεύετε για να κατανοήσετε τις επιπτώσεις της... Αν υπάρχει ένα πράγμα που οι πιο πολύτιμες στον κόσμο εταιρείες (σ.σ. τα μεγαλύτερα μονοπώλια) συμφωνούν, είναι ότι η μελλοντική τους επιτυχία στηρίζεται στην τεχνητή νοημοσύνη».
Ο Βιβέκ Γουάντγουα, του κέντρου Rock για την εταιρική διακυβέρνηση στο πανεπιστήμιο του Στάνφορντ, έγραψε πρόσφατα στην εφημερίδα «Ουάσιγκτον Ποστ»: «Η ΤΝ του παρελθόντος στηριζόταν στην ωμή υπολογιστική ισχύ για να αναλύσει δεδομένα και να τα παρουσιάσει με τρόπο που να μοιάζει ανθρώπινος. Ο προγραμματιστής εισήγαγε τη νοημοσύνη με τη μορφή δέντρων αποφάσεων και αλγορίθμων. ...Η σημερινή ΤΝ χρησιμοποιεί τη μηχανική μάθηση στην οποία δίνονται παραδείγματα και μαθαίνει από τα παραδείγματα. Ο υπολογιστής μαθαίνει τι να μαθαίνει και πώς να το μαθαίνει και παίρνει τις αποφάσεις του. Επιπλέον, οι νέες ΤΝ στηρίζονται στο μοντέλο του ίδιου του ανθρώπινου μυαλού, χρησιμοποιώντας τεχνικές παρόμοιες με τις δικές μας μαθησιακές τεχνικές. ...Χρειάζεται να ανησυχούμε για την αφηνιασμένη "γενική τεχνητή νοημοσύνη", που βγαίνει εκτός ελέγχου και παίρνει τον έλεγχο στον κόσμο; Ναι - αλλά ίσως όχι για τα επόμενα 15 με 20 χρόνια (!). Υπάρχουν δικαιολογημένοι φόβοι ότι αντί να τους λέμε τι να μαθαίνουν συμπληρώνοντας τις ικανότητές μας, οι ΤΝ θα αρχίσουν να μαθαίνουν οτιδήποτε υπάρχει για να μάθουν και θα ξέρουν πολύ περισσότερα απ' ό,τι εμείς. Αν και μερικοί, όπως ο μελλοντολόγος Ρέι Κούρτζβαϊλ, θεωρούν ότι θα χρησιμοποιούμε την ΤΝ για να εξελισσόμαστε παράλληλα (σ.σ. ως νοήμονα είδη), άλλοι, όπως ο Ελον Μασκ και ο Στέφεν Χόκινγκ, φοβούνται ότι η ΤΝ θα σφετεριστεί την κυριαρχία μας. Πραγματικά δεν ξέρουμε πού θα οδηγήσει όλο αυτό».
Σκοπός και διακόπτης
Η θεωρία του Χόλιγουντ ότι αυθόρμητα μια κακή μηχανική νοημοσύνη θα οδηγήσει στρατούς ρομπότ ενάντια στους ανθρώπους είναι ανόητη, λέει ο Στούαρτ Ράσελ, καθηγητής της επιστήμης των υπολογιστών, στο πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϊ και ειδικός στην ΤΝ. Το πραγματικό πρόβλημα, υποστηρίζει, σχετίζεται με την πιθανότητα η ΤΝ να γίνει απίστευτα καλή σε κάτι άλλο από εκείνο για το οποίο την προορίζαμε. Το 1960, ο μαθηματικός Νόρμπερτ Γουάινερ, ιδρυτής (σ.σ. στο δυτικό κόσμο) της κυβερνητικής, το έθεσε ως εξής: «Αν χρησιμοποιήσουμε, για να πετύχουμε τους σκοπούς μας, ένα μηχανικό παράγοντα με του οποίου τη λειτουργία δεν μπορούμε να επέμβουμε αποτελεσματικά..., τότε καλύτερα να είμαστε απόλυτα σίγουροι ότι ο σκοπός που βάλαμε στη μηχανή είναι ο σκοπός που πραγματικά επιθυμούμε».
Μια μηχανή που επιδιώκει να πραγματοποιήσει ένα συγκεκριμένο στόχο έχει μια επιπλέον ιδιότητα, που συνήθως σχετίζουμε με ζωντανά όντα: την επιθυμία να διατηρηθεί στην ύπαρξη. Για τη μηχανή αυτό το ζητούμενο δεν πηγάζει εκ των έσω (σ.σ. ως αποτέλεσμα διαδικασίας βιολογικής ανάπτυξης ως άτομο και βιολογικής εξέλιξης ως είδος), ούτε είναι κάτι που εισάγεται από τους ανθρώπους που την έφτιαξαν. Είναι λογική συνέπεια του απλού γεγονότος, ότι δεν θα μπορέσει να πραγματοποιήσει τον αρχικό της σκοπό αν είναι «νεκρή». Με αυτήν την έννοια, αν στείλουμε ένα ρομπότ με μοναδική οδηγία να μας φέρει καφέ, για να εξασφαλίσει την επιτυχία της αποστολής του, θα έχει ισχυρό κίνητρο να ακυρώσει το διακόπτη απενεργοποίησής του, ή ακόμη και να εξοντώσει οποιονδήποτε παρέμβει στην αποστολή του. Αν δεν είμαστε προσεκτικοί, λέει ο Ράσελ, θα μπορούσαμε να βρεθούμε αντιμέτωποι με πανέξυπνες μηχανές που οι στόχοι τους θα έρχονταν σε σύγκρουση με τους δικούς μας, με τον φυσικό κόσμο να παίζει το ρόλο σκακιέρας για την αναμέτρηση.
Η ΤΝ δεν χρειάζεται να είναι με μορφή ρομπότ, αφού το ρομπότ είναι μόνο το μέσο μετακίνησης ενός υπολογιστή, όπως το σώμα μεταφέρει τον εγκέφαλο. Μερικοί ερευνητές υποστηρίζουν ότι μπορούμε να απομονώσουμε τις νοήμονες μηχανές μέσα σε κάποιο είδος τείχους προστασίας (firewall), ώστε να τις χρησιμοποιήσουμε για να απαντήσουμε δύσκολα ερωτήματα, χωρίς να τους επιτρέψουμε ποτέ να επηρεάσουν το φυσικό κόσμο. Πέρα από το ότι είναι απίθανο να μην προσπαθήσει ποτέ κάποιος να φτιάξει και ρομπότ προηγμένης ΤΝ, πόσο εξασφαλίζει μια τέτοια λύση αν πάρουμε υπόψη την εμπειρία από την αποτελεσματικότητα των firewall, που χρησιμοποιούνται σήμερα για να προστατέψουν από κακόβουλους ανθρώπους, ορισμένοι από τους οποίους εφηβικής ηλικίας;
Τρεις αρχές
Θα μπορούσαμε μήπως να σχεδιάσουμε συστήματα ΤΝ με στόχους που δεν θα συγκρούονται με τους δικούς μας; Αυτό δεν είναι εύκολο. Οι ιστορίες με το τζίνι και τις τρεις ευχές συχνά καταλήγουν η τρίτη ευχή να είναι η ακύρωση των συνεπειών από τις δύο πρώτες... Ο Ράσελ θεωρεί, όμως, ότι είναι δυνατό να ακολουθηθούν τρεις αρχές στη σχεδίαση έξυπνων συστημάτων (σ.σ. διαφορετικές από τις τρεις αρχές της ρομποτικής του συγγραφέα επιστημονικής φαντασίας Ισαάκ Ασίμοφ).
Η πρώτη είναι ότι «ο σκοπός της μηχανής πρέπει να μεγιστοποιεί την πραγματοποίηση των ανθρώπινων αξιών», χωρίς η ίδια να έχει δικό της σκοπό ή την καλωδιωμένη επιθυμία να αυτοπροστατευτεί. Η δεύτερη ότι «η μηχανή πρέπει αρχικά να είναι αβέβαιη σχετικά με το ποιες είναι αυτές οι ανθρώπινες αξίες». Η μηχανή θα μαθαίνει γι' αυτές στην πορεία, χωρίς ποτέ να είναι απόλυτα βέβαιη. Η τρίτη ότι «η μηχανή θα πρέπει να μαθαίνει για τις ανθρώπινες αξίες παρατηρώντας τις επιλογές που κάνουν οι άνθρωποι». Οι πρώτες δύο αρχές εξασφαλίζουν κατά τον Ράσελ ότι η μηχανή θα έχει ισχυρό κίνητρο για να μην ακυρώσει το διακόπτη λειτουργίας της, αφού μη θεωρώντας ότι γνωρίζει τις ανθρώπινες αξίες με απόλυτο τρόπο θα ωφελούνταν, επιτρέποντας στον άνθρωπο να διακόψει τη λειτουργία της, ώστε να μην κάνει κάτι που είναι ενάντιο σε αυτές.
Η τρίτη αρχή δανείζεται από το πεδίο της ΤΝ που ονομάζεται μάθηση αντίστροφης ενίσχυσης (IRL) και ασχολείται με την κατανόηση των «αξιών» κάποιας οντότητας (ανθρώπου, σκύλου ή κατσαρίδας), μελετώντας τη συμπεριφορά του. Καθώς το πεδίο της IRL εξελίσσεται, λέει ο Ράσελ, θα πρέπει να βρει τρόπους να αντιμετωπίσει την ορισμένες φορές παράλογη συμπεριφορά ανθρώπων και γενικά τη συμπεριφορά που δεν ανταποκρίνεται στις «αξίες» ενός υποτιθέμενου μέσου ανθρώπου, επειδή εκδηλώνεται από κακοπροαίρετους ή από ανθρώπους που δεν έχουν τη νοητική ικανότητα να επεξεργαστούν τα δεδομένα. Το γεγονός επίσης ότι διαφορετικές ομάδες ανθρώπων εκδηλώνουν διαφορετικά σύνολα αξιών.
Περί αξιών
Οι αξίες των ανθρώπων είναι διαφορετικές ανάλογα με την τάξη στην οποία ανήκουν, το οικογενειακό περιβάλλον από το οποίο προήλθαν, το κοινωνικό πλαίσιο στην περιοχή που έχουν μεγαλώσει, την εποχή στην οποία ζουν. Μέσα στο καπιταλιστικό πλαίσιο, το πλαίσιο της εκμετάλλευσης ανθρώπου από άνθρωπο, είναι δύσκολο στους ίδιους τους ανθρώπους να απορρίψουν ξεπερασμένες «αξίες», ακόμη και να ανεχτούν αξίες άλλων. Τι θα καταφέρει στο ζήτημα των αξιών μια ΤΝ είναι ένα πολύ, μα πολύ μεγάλο ερώτημα. Το μεγαλύτερο πρόβλημα στην πραγματικότητα είναι ότι λόγω της αναντιστοιχίας των κοινωνικών σχέσεων (εκμεταλλευτικές) με την ανάπτυξη της παραγωγής και ειδικότερα της επιστήμης, ερωτήματα τέτοιου βεληνεκούς και τέτοιας σημασίας, τίθενται στο έδαφος ενός συστήματος που αντιμετωπίζει το πρόβλημα της προηγμένης ΤΝ αποκλειστικά από τη σκοπιά των ευκαιριών για μεγαλύτερο κέρδος. Θα αποτελούσε πολύ καλύτερο έδαφος για τη συζήτηση αυτή το σύστημα που έχει ως στόχο την ευημερία όλων των ανθρώπων. Εκεί μόνο θα μπορούσε να εξεταστεί πραγματικά αντικειμενικά και εκ βάθρων, αν και ποια ΤΝ χρειάζεται η ανθρωπότητα.
Ο Ράσελ θεωρεί ότι είναι δυνατό μηχανές να μάθουν αρκετά για τις ανθρώπινες αξίες, ώστε να μην αποτελέσουν κίνδυνο για το ανθρώπινο είδος. Θα υπάρχει και οικονομικό κίνητρο, υποστηρίζει, καθώς ένα ρομπότ που θα μαγειρέψει τη γάτα της οικογένειας επειδή βλέπει μόνο τη θρεπτική της αξία παραβλέποντας τη συναισθηματική της, θα οδηγήσει στην καταστροφή της βιομηχανίας ρομπότ οικιακών βοηθών. Μερικοί, όπως ο Κούρτζβαϊλ υποστηρίζουν ότι άνθρωποι και νοήμονες μηχανές μπορούν να συνυπάρξουν αν δουλεύουν ως ομάδα. Αλλοι λένε ότι απλά μπορούμε να τις «σβήσουμε», λες και οι υπερνοήμονες μηχανές δε θα μπορούσαν να καταλάβουν αυτό το ενδεχόμενο. Κι άλλοι υποστηρίζουν ότι η υπερνοήμων ΤΝ δεν θα υπάρξει ποτέ. Στις 11 Σεπτέμβρη του 1933, ο γνωστός φυσικός Ερνεστ Ράδερφορντ δήλωνε με βεβαιότητα: «Οποιος περιμένει μια πηγή Ενέργειας από τη μεταμόρφωση των ατόμων λέει ανοησίες». Μια μέρα μετά, στις 12 Σεπτέμβρη του 1933, ο φυσικός Λίο Ζίλαρντ εφηύρε την πυροδοτούμενη από νετρόνια αλυσιδωτή πυρηνική αντίδραση...

Επιμέλεια:
Σταύρος ΞΕΝΙΚΟΥΔΑΚΗΣ
Πηγή: «Scientific American», www.newsday.com, www.forbes.com

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου

Το ατομικό δικαίωμα της δολοφονίας εργατών…

         Επειδή μας σκότισαν οι Αριστεροί της πλάκας τις τελευταίες ημέρες με τα ατομικά δικαιώματα και με το ότι δεν μπορούν να κατ...

TOP READ