Kunstmatige intelligentie de baas

Kunstmatige intelligentie de baas

Deel 5 van de rede uitgesproken bij de aanvaarding van het ambt van hoogleraar Strategisch Leiderschap aan de Nyenrode Business Universiteit op 5 april, 2017.
Door Prof. dr. Bob de Wit

Deel 5:

(lees ook deel 1 of deel 2)

Het gaat echter verder dan het verdringen van menselijke intelligentie in kennissectoren. Bij het Japanse Hitachi krijgen magazijnmedewerkers nu al opdrachten van een KI-systeem, dat er tevens voor zorgt dat een efficiëntere methode aan medewerkers wordt opgelegd. Kunstmatige Intelligentie als baas van de mens dus. De interessante vraag is dan wie de baas van Kunstmatige Intelligentie wordt. Bij Hitachi gaat men er van uit dat het senior leiderschap – de mens dus – de baas is maar het is de vraag of zij dit kunnen volhouden. Er is namelijk nogal wat concurrentie om de macht.

Ten eerste is er een opmerkelijk initiatief van Google, Microsoft, Amazon, IBM en Facebook, die een organisatie hebben opgericht met de naam ‘Partnership on Artificial Intelligence’ (13). De organisatie wordt geleid door Eric Horvitz, de topman van Microsofts onderzoeksafdeling, en Mustafa Suleyman, mede-oprichter van Google’s dochteronderneming DeepMind, dat onderzoek doet naar zelflerende computersystemen. Het opmerkelijke van dit initiatief is dat zij op het gebied van kunstmatige intelligentie grote concurrenten van elkaar zijn. Partnership On Artificial Intelligence zegt het grote publiek te willen voorlichten over de positieve impact van kunstmatige intelligentie, en informatie met elkaar te willen delen over de manier waarop slimme computers het beste verder ontwikkeld kunnen worden.

Eric Horvitz zegt ook dat de gevaren van kunstmatige intelligentie schromelijk worden overschat, en verwijst elk geluid hierover naar een ‘echokamer van angst’. In die echokamer bevinden zich overigens niet de minsten, waaronder de beroemde wetenschapper Stephen Hawking, Bill Gates, mede-oprichter van Apple Steve Wozniac en entrepreneur Elon Musk, baas van onder andere elektrische-autofabrikant Tesla en ruimtevaartbedrijf SpaceX. Zij waarschuwen dat slimme computers op den duur de mensheidkunnen gaan overtroeven, met desastreuze gevolgen (14). Anders verwoord: er bestaat een kans dat niet de mens maar het door de mens ontwikkelde superintelligente systeem het dominante organisme op aarde wordt.

Wellicht wordt het door de vijf techbedrijven in het ‘Partnership on AI’ niet als optie meegenomen, mogelijk uit zelfoverschatting, maar het is zeer de vraag of zij de baas van Kunstmatige Intelligentie kunnen blijven. Zo ja dan wordt een klein groepje techbedrijven de baas van de mensheid. Zo nee dan wordt de mensheid onderworpen aan een kunstmatige levensvorm. Hierover later meer. Maar er is nog een derde concurrent, namelijk de eigenaar van het publieke domein: de overheid.

Ook een aantal overheden is namelijk bezig om digitale technologieën in te zetten om de baas te worden, al zijn dit geen parlementaire democratieën zoals in Europa. Singapore is een goed voorbeeld. Een beschermingsprogramma tegen terrorisme is nu doorontwikkeld tot een systeem dat controle heeft over economisch beleid, immigratie, de vastgoedmarkt en school curricula (15). En in China heeft Baidu, het Chinese Google, het militaire systeem ‘uitgenodigd’ mee te doen aan hun China Brain Project dat alle data van Chinese burgers verzamelt en analyseert, inclusief hun surfgedrag en hun sociale netwerken. Elke Chinese burger krijgt op basis van de geanalyseerde data een burger score, een ‘Citizen Score’, die de condities bepaalt voor het verkrijgen van bijvoorbeeld leningen, werk, en visa (16). Het zal de droom zijn van een aantal staatsleiders om een corps kunstmatige intelligentie in te kunnen zetten, maar het is zeer de vraag of zij die droom delen met burgers. Een ontwikkeling die de strijd om de macht zal gaan beïnvloeden is de aanstaande combinatie van kunstmatige intelligentie, wereldwijde big data en een vrijwel oneindig en niet vervagend geheugen met biotechnologie.

Anders verwoord: er wordt momenteel een verbeterde versie van de mens gemaakt. Ze worden ook wel androids genoemd: mensen die zichzelf verbeteren door technologie aan hun lichaam toe te voegen (17). U krijgt nu wellicht het idee dat u in een science fiction film bent beland. Zo gek is dat niet, want inderdaad begint Science Fiction steeds minder fiction te worden en tevens steeds meer science. Het idee is dat de menselijke fysiek wordt uitgebreid met superintelligentie, een superieur geheugen, een betere motoriek, en verbeterde zintuigen zoals zicht en gehoor. Het lijkt me ideaal voor beroepen als piloten, bankiers, rechters en artsen, maar ben beducht voor androïde leiders van niet-Europese landen en van het Partnership on Artificial Intelligence.

Verder weg in de tijd zal hier geavanceerde robotica aan worden toegevoegd, waardoor ook het menselijk lichaam kan worden vervangen door technologie. Die worden ook wel aangeduid met de term humanoids (18): menselijke robots. Het wordt een nieuwe levensvorm op aarde, ontwikkeld door de mens maar in alle opzichten superieur aan de mens. Humanoids hebben niet alleen de eigenschappen van androids, maar bovendien zijn ze goedkoper en sneller, gaan zichzelf repliceren en verbeteren, ze luisteren beter, drinken niet, hebben geen last van hormonen, kennen geen stress en raken niet overspannen.

Ik ben niet kunstmatig superintelligent en kan me dus niet voorstellen hoe humanoids tegen de mens zullen aankijken, maar ze lijken me ten minste een geduchte concurrent om de macht19. Kortom, dames en heren, er lijken op dit moment dus drie concurrenten van de mens voor de toekomstige macht te zijn: de al dan niet androide leider van een klein groepje techbedrijven, de al dan niet androide leider van een Big Brother-achtige overheid, en een kunstmatig levende humanoid. (19)

 

(lees hier verder)

13. Zie bijvoorbeeld Thomas van der Kolk, ‘Google, Microsoft en Facebook richten organisatie op tegen angst voor kunstmatige intelligentie,’ De Volkskrant, 29 september 2016.

14. Deze waarschuwing is voor het eerst geuit door L. J. Good, “Speculations Concerning the First Ultraintelligent Machine”, Advances in Computers, vol. 6, 1965. Good heeft hierna diverse filmmakers geïnspireerd, waaronder Stanley Kubrick voor zijn film ‘2001: A Space Odyssey’ (1968), met hierin de paranoïde HAL 9000 supercomputer.

15. Dirk Helbing, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari, Andrej Zwitter ‘Will Democracy Survive Big Data and Artificial Intelligence? We are in the middle of a technological upheaval that will transform the way society is organized. We must make the right decisions now’, Scientific American, February 25, 2017.

16. Zie bijvoorbeeld H. Hodson, “Inside China’s plan to give every citizen a character score”, New Scientist, 9 October 2015.

17. Er zijn diverse termen voor tussenvormen op de schaal van mens naar robot (met dank aan futurologe Barbara van Veen), waaronder bionische mens, humanoid, cyborg, geminoid, android (mannelijk) en gynoid (vrouwelijk), expressieve robot, sociale robot, humanoid en hubot. De definities van de diverse vormen verschillen nogal, waardoor ik me vrij voel om aansprekende termen te kiezen in deze verhandeling. Het visionaire Google gebruikt de term Android voor haar mobiele operating system, hetgeen ik wel toepasselijk vind voor de mobiele mens met superintelligente roboteigenschappen.

18. De humanoid lijkt van alle tussenvormen tussen mens en robot het meest op de mens, omdat het alle functies bevat en niet slechts enkele: de hardware, de software, het geheugen en de interfaces. Maar dan beter en sneller.

19. Zie ook de TED-talk van Sam Harris: Can we build AI without losing control over it?,  juni 2016.