Πράγματι τα τελευταία χρόνια οι μηχανές γίνονται όλο και πιο ευφυείς τα τελευταία χρόνια, κυρίως χάρη στην πρόοδο που σημειώνουν οι μεγάλοι τεχνολογικοί κολοσσοί όπως η Google, η Facebook, η Microsoft και πολλοί άλλοι.

Υπάρχουν μάλιστα περιπτώσεις που η τεχνητή νοημοσύνη μπορεί ήδη να μας νικήσει σε επιτραπέζια παιχνίδια όπως το Go την ίδια στιγμή που αποκτούν όλο και περισσότερες αρμοδιότητες και σε μια σειρά από άλλους τομείς.

Ίσως εξαιτίας αυτό , ένα ερευνητικό εργαστήριο της google στο Λονδίνο, αποφάσισε να πραγματοποίησε μια μελέτη για να είναι βέβαιο ότι γνωρίζει τον τρόπο να αποσυνδέσει από την πρίζα τις μηχανές τεχνητής νοημοσύνης σε περίπτωση που θέλει ή προκύωει ανάγκη.
Ο DeepMind, μια startup που ειδικεύεται στην τεχνητή νοημοσύνη και εξαγοράστηκε από την Google το 2014 έναντι 400 εκατ. λιρών συνεργάστηκε με τους επιστήμονες στο Πανεπιστήμιο της Οξφόρδης για να βρουν έναν τρόπο ώστε οι «πράκτορες» της τεχνητής νοημοσύνης να μην μπορούν να προστατευτούν ή να εμποδίσουν τους ανθρώπους να έχουν τον έλεγχο των μηχανών.

Το έγγραφο με τίτλο «Safely Interruptible Agents» το οποίο δημοσιεύθηκε στην ιστοσελίδα του ερευνητικού κέντρου Machine Intelligence Research Institute (MIRI) έχει γραφτεί από τον Laurent Orseau, ερευνητή στην Google DeepMind και τον Stuart Armstrong στον Future of Humanity Institute του Πανεπιστημίου της Οξφόρδης.

Οι ερευνητές εξηγούν ότι η τεχνητή νοημοσύνη είναι «απίθανο να συμπεριφέρεται όπως πρέπει όλη την ώρα» ενώ προσθέτουν πως αν μια τέτοια μηχανή λειτουργεί σε πραγματικό χρόνο με ανθρώπινη επίβλεψη ανά διαστήματα μπορεί να είναι απαραίτητο ο άνθρωπος χειριστής της να πατά το κόκκινο κουμπί ώστε να αποτρέψει την μηχανή να πραγματοποιήσει βλαβερές ενέργειες και να οδηγήσει το ρομπότ σε κατάσταση ασφαλούς λειτουργίας.

Οι ερευνητές ισχυρίζονται ότι έχουν δημιουργήσει ένα «πλαίσιο» που επιτρέπει σε ένα «ανθρώπινο χειριστή» να διακόψει κατ ‘επανάληψη και με ασφάλεια μια συσκευή τεχνητής νοημοσύνης, ενώ προσπαθούν να διασφαλίσουν ώστε οι μηχανές τεχνητής νοημοσύνης δεν θα μπορούν να τους σταματήσουν.

«Η ασφαλής διακοπής μπορεί να αποδειχτεί χρήσιμο σε περιπτώσεις που ένα ρομπότ αρχίσει να μην συμπεριφέρεται σωστά ώστε να αποτραπούν οι δυσάρεστες συνέπειες μιας τέτοιας συμπεριφοράς ή ακόμα και για να εκπαιδευτεί, αναφέρουν οι συντάκτες.

Οι ερευνητές διαπίστωσαν ότι ορισμένοι αλγόριθμοι, όπως αυτοί του «Q-learning», έχουν ήδη δυναότητα ασφαλούς διακοπής ένώ άλλοι όπως ο «Sarsa», δεν είναι όταν κατέβουν από το ράφι. Παρόλα αυτά ακόμα και οι τελευταίοι μπορούν να τροποποιηθούν σχετικά εύκολα. «Δεν είναι σαφές βέβαια, εάν όλοι οι αλγόριθμοι μπορούν διακοπούν εύκολα και με ασφάλεια» παραδέχονται οι συγγραφείς.

H DeepMind συνεργάζεται με το Ινστιτούτο ώστε να εξελίξει την τεχνητή νοημοσύνη και να δημιουργήσει γενικού σκοπού ρομπότ τεχνητής νοημοσύνης ενώ το Future of Humanity Institute ερευνά πιθανές απειλές για την ύπαρξή μας. Το ίδρυμα διοικείται από τον Nick Bostrom, ο οποίος πιστεύει ακράδαντα ότι οι μηχανές θα καταφέρουν μέσα στα επόμενα 100 χρόνια να ξεγελούν τους ανθρώπους αλλά και να στραφούν εναντίον τους.

Ο κ. Bostrom, μιλώντας στο Πανεπιστήμιο της Οξφόρδης τον περασμένο Μάιο στην ετήσια εκδήλωση «Silicon Valley comes to Oxford» ανέφερε χαρακτηριστικά: «Πιστεύω ότι μόλις επιτευχθεί η ανθρώπινη ισοδυναμία, οι μηχανές δεν θα αργήσουν να γίνουν τρομακτικά έξυπνες. Μπορεί να πάρει χρόνια για να φτάσουν στο ανθρώπινο επίπεδο αλλά άπαξ και επιτευχθεί αυτό μετά η εξέλιξή τους σε ανώτερα επίπεδα θα είναι άμεση.

Πιστεύω ότι αυτές οι μηχανές θα είναι υπερέχουν όπως αυτή τη στιγμή ο άνθρωπος υπερέχει όλων των υπολοίπων ζώντων οργανισμών του πλανήτη. Δεν είναι επειδή οι μύες μας είναι ισχυρότεροι ή τα δόντια μας πιο κοφτερά αλλά επειδή ο εγκέφαλός μας είναι εξυπνότερος».

Η DeepMind επίσης ασπάζεται την παραπάνω άποψη. Οι ιδρυτές της – Demis Hassabis, Mustafa Suleyman, and Shane Legg πούλησαν την εταιρεία στην Google χωρίς κανείς να γνωρίζει με τι ακριβώς ασχολούνται.

Οι ιδρυτές έχουν επίσης παρευρέθηκε και μίλησε σε πολλά συνέδρια σχετικά με τη δεοντολογία της τεχνητής νοημοσύνης AI, τονίζοντας ότι θέλουν να εξασφαλίσουν πως η τεχνολογία που τόσο οι ίδιοι όσο και οι άλλοι αναπτύσσουν θα χρησιμοποιείται για το κοινό καλό κι όχι για κακόβουλους σκοπούς.
insider.gr