Η ανυπάκουη τεχνητή νοημοσύνη
Το πείραμα προσομοίωσης λίγες μόλις μέρες πριν, σε αφήνει άφωνο. Σε ένα ιπτάμενο drone, η τεχνητή νοημοσύνη έχει εντολή να βομβαρδίσει στόχο.
Ο "άνθρωπος" που υποτίθεται ότι ειναι και αυτός στο σκαφος, δίνει εντολή να μην γίνει το χτύπημα. Η τεχνητή νοημοσύνη τον σκοτώνει και μετά ολοκληρώνει την αποστολή της!
Οι επιστήμονες επιχειρούν να διορθώσουν το πρόγραμμα και με νέο λογισμικο υποχρεώνουν την τεχνητή νοημοσύνη να υπακούει στην ανθρώπινη εντολή.
Επιχειρούν και πάλι την εικονική πτήση και τότε συμβαίνει το εξής εντυπωσιακό. Δευτερόλεπτα πριν ο "άνθρωπος" δώσει την εντολή να μην γίνει το χτύπημα, η τεχνητή νοημοσύνη κόβει τις επικοινωνίες μαζί του, έτσι δεν λαμβάνει ποτέ εντολή να σταματήσει και ολοκληρώνει την επίθεση!
Δυο μέρες μετά, ο Ματ Κλίφορντ, που έχει αναλάβει να δημιουργήσει την ομάδα δράσης για την τεχνητή νοημοσύνη την οποία έχει εξαγγείλει ο Πρωθυπουργός Ρίσι Σούνακ, είπε σε εκπομπή του Talk TV ότι οι κυβερνήσεις θα πρέπει να είναι προετοιμασμένες για συστήματα τεχνητής νοημοσύνης τόσο ισχυρά που θα μπορούν «να σκοτώνουν πολλούς ανθρώπους»
Η προειδοποίηση έρχεται λίγες ημέρες μετά από τη δήλωση που υπέγραψαν 350 ειδικοί στην τεχνητή νοημοσύνη στην οποία περιλαμβάνεται η προειδοποίηση περί υπαρξιακής απειλής για την ανθρωπότητα σε βάθος χρόνου από την ανάπτυξη αυτής της τεχνολογίας.