Γιατί και πώς θα μπορούσε ΞΑΦΝΙΚΑ να χαθεί ο έλεγχος στην παγκόσμια οικονομία!
«Τώρα ο κίνδυνος είναι ότι η τεχνητή νοημοσύνη θα μπορούσε αφενός, στα χέρια κακών παραγόντων, να καταστρέψει την εμπιστοσύνη μεταξύ των ανθρώπων κι αφετέρου, η κύρια εμπιστοσύνη θα είναι μεταξύ διαφορετικών συστημάτων τεχνητής νοημοσύνης.
Έτσι, φανταστείτε απλά ένα σενάριο όπου το μεγαλύτερο μέρος της οικονομικής δραστηριότητας στον πλανήτη πραγματοποιείται από την τεχνητή νοημοσύνη, οι άνθρωποι έχουν απωλέσει την δυνατότητα να αντιλαμβάνονται το μεγαλύτερο μέρος του οικονομικού συστήματος -αυτό είναι υπερβολικά περίπλοκο για τους εγκεφάλους μας- και υπάρχει μια οικονομική κρίση, και κανένας άνθρωπος πολιτικός δεΝ μπορεί να κατανοήσει τι συμβαίνει. Πρέπει να βασιστούμε στην τεχνητή νοημοσύνη να μας πει ποια είναι η κρίση και ποιες είναι οι ενδεχόμενες λύσεις.
Οι πολιτικές συνέπειες είναι επικίνδυνες σε διάφορα επίπεδα αλλά προφανέστατα, αυτό πραγματικά δίνει τον έλεγχο ενός πολύ σημαντικού τμήματος του κόσμου κι ενός πολύ σημαντικού τμήματος της πολιτικής σε μια μη-ανθρώπινη νοημοσύνη την οποία αδυνατούμε να ελέγξουμε και να επιβλέψουμε».