Twee merkwaardige en lezenswaardige boeken, over een van de moeilijkste vragen die de wetenschap al heeft opgeworpen: hoe kan de hardware (of wetware) van onze hersenen, met haar neuronen, synapsen, actiepotentialen en neurotransmitters, aanleiding geven tot subjectieve ervaringen, tot bewustzijn, tot emoties, tot het gevoel een ‘ik’ te zijn?
Zie ook de meer uitgewerkte versie van deze bedenking hier.
“An intriguing possibility is that we’re closing the era of ‘comprehensible’ science.”
Citaat van Adrien Treuille (computerwetenschapper aan Carnegie Mellon University), geciteerd in Science, 7 juli 2017.
Treuille heeft het over de opkomst van artificiële intelligentie (en meer bepaald neurale netwerken en deep learning) in de wetenschap. In het artikel in Science waarin dit citaat voorkomt, wordt bijvoorbeeld een lab beschreven waar AI-systemen en robots zelfstandig research doen om genetisch gewijzigde bacteriën te maken die efficiënter bepaalde stoffen aanmaken. De AI beslist zelf welke experimenten gedaan worden, analyseert de uitkomst en bedenkt vervolgexperimenten. Eindresultaat is inderdaad een bacterie die méér van de gevraagde stof produceert. Maar: de mensen die het proces begeleiden, begrijpen niet hoe dat komt. De AI bedenkt wel genetische wijzigingen die de bacterie efficiënter maken, maar kan er geen uitleg bij geven. De AI functioneert als een soort ‘black box’, die problemen oplost maar geen menselijk begrip creëert. Worden intelligente neurale netwerken op termijn een soort ‘orakels’ voor wetenschappers, en krijgen we een wetenschap die resultaten produceert maar geen inzicht?
Noot: In juli en augustus verschijnt er geen column ‘De Zandrekenaar’ in De Tijd, en ook de activiteit op de blog staat op een lager pitje. Ik ben van plan het thema van het bovenstaande citaat over AI in september uit te werken tot een volwaardige column.
