Wat betekent het als op een dag artificiële intelligentie een betere wetenschapper wordt dan een mens?
‘Een intrigerende mogelijkheid is dat we aan het einde staan van het tijdperk van de begrijpelijke wetenschap.’ Zo citeerde het vakblad Science onlangs Adrien Treuille, computerwetenschapper aan de Carnegie Mellon University in Pittsburgh.
Misschien moppert er hier of daar nu iemand ‘ik heb wetenschap altijd al onbegrijpelijk gevonden’. En er zijn altijd al wetenschappers en wetenschapspopularisators geweest die koketteerden met het tegenintuïtieve of zogezegd ‘onbegrijpelijke’ karakter van bijvoorbeeld de kwantumfysica. Maar Treuille heeft het over wat anders. Hij bedoelt (als ik het tenminste goed begrijp) dat er spoedig wetenschap zou kunnen komen die echt door niemand, door geen mens meer begrepen wordt.
Treuille heeft het over de opkomst van kunstmatige of artificiële intelligentie (AI), en meer bepaald over neurale netwerken en ‘deep learning’, momenteel de meest hippe techniek in de artificiële intelligentie.
Behalve om socialenetwerk- en smartphonegebruikers met meer reclame om het hoofd te kunnen slaan en langer aan het scherm gekluisterd te houden, beginnen technieken als deep learning en data mining ook toegepast te worden in de wetenschap.
Science beschrijft een laboratorium waar AI-systemen en robots zelfstandig research doen om genetisch gewijzigde bacteriën te maken die efficiënter bepaalde stoffen aanmaken. De computers en robots doen daarbij niet alleen het domme routinewerk. De AI beslist zelf welke experimenten gedaan worden, analyseert de uitkomst en bedenkt op basis van die uitkomst vervolgexperimenten. Eindresultaat na een lange reeks experimenten is inderdaad een gewijzigde bacterie die méér van de gevraagde stof produceert.
Maar, en hier komt het fascinerende punt: de mensen die het proces begeleiden, begrijpen meestal niet hoe het komt dat de nieuwe bacterie meer produceert. De AI bedenkt wel genetische wijzigingen die de bacterie efficiënter maken, maar kan er geen uitleg bij geven. De stofwisselingsprocessen in de bacterie zijn meestal ingewikkelde netwerken van op elkaar ingrijpende chemische reacties, waarin de AI op verscheidene plaatsen tegelijk heeft ingegrepen. Begrijpen waarom precies die wijzigingen het gewenste resultaat opleveren, zou bijna een apart wetenschappelijk onderzoeksproject behelzen. En dat is niet de bedoeling van het lab. Het laboratorium werkt voor bedrijven die resultaten willen, geen inzicht.
In feite functioneert de AI als een soort ‘black box’, die problemen oplost maar geen menselijk begrip creëert.
Als een artificieel neuraal netwerk een vraagstuk heeft opgelost, is het vaak zelfs voor de menselijke ontwerpers van dat netwerk niet duidelijk hóe het dat precies heeft gedaan.
Het roept een verontrustend toekomstbeeld op. Worden intelligente neurale netwerken op termijn een soort ‘orakels’ voor wetenschappers, en krijgen we een wetenschap die resultaten produceert maar geen inzicht? Als je een moeilijk vraagstuk hebt, dan leg je het voor aan het orakel, en het antwoord dat je krijgt, moet je maar gewoon geloven.
Alsof je het antwoord achterin het boek kunt opzoeken.
Deze column is op 30 september 2017 verschenen in De Tijd.
