‘Zoals mensen kunnen discrimineren, kan kunstmatige intelligentie dat ook’

Robots, zelflerende software en designer babies. Tot voor kort klonk het nog als toekomstmuziek, maar deze innovatieve technologieën komen steeds dichterbij. Dat schept veel economische en maatschappelijke kansen. Maar het roept ook ethische vragen op. Want behandelt een computer iedereen wel altijd gelijk? En in hoeverre mag je je DNA “verbeteren”? Philip Brey is hoogleraar ethiek en filosofie aan de Universiteit Twente. Hij leidt het SIENNA project, een groot onderzoek naar de ethische en juridische gevolgen van ontwikkelingen op het gebied van kunstmatige intelligentie, mensverbetering en gen-verandering. Wat hoopt Brey met dit project te bereiken? En wat kunnen onderzoekers en innovators ervan leren?

De ontwikkeling van kunstmatige intelligentie, mensverbetering en gen-verandering zal grote maatschappelijke en economische verandering teweegbrengen, verwacht de EU. ‘Iedere belangrijke nieuwe technologie roept ethische vragen op’, vertelt Brey. ‘Deze drie technologieën bieden niet alleen veel kansen, ze dagen ook onze waarden en normen uit en roepen vragen over mensenrechten op. Daarom kijken we met het SIENNA project welke ethische uitdagingen deze technologieën met zich meebrengen. Hoe kunnen ze bijvoorbeeld vrijheid, privacy of gelijkheid positief of negatief beïnvloeden?’ Het project ontvangt een subsidie van 4 miljoen uit het Europese Innovatieprogramma Horizon 2020 en er zijn 13 organisaties en honderden personen en instanties van over de hele wereld bij betrokken.

Kunstmatige intelligentie

Van kunstmatige intelligentie zijn de gevolgen al voelbaar. Zo wordt het in sommige landen bijvoorbeeld al gebruikt om te bepalen hoe iemand die de wet heeft overtreden gestraft moet worden. Nemen computers en robots straks besluiten die eigenlijk door mensen genomen zouden moeten worden? En is kunstmatige intelligentie dan wel fair? ‘Zoals mensen kunnen discrimineren, kan kunstmatige intelligentie dat ook. Doordat mensen de programma’s maken, maar ook doordat computers zelf patronen leren herkennen in grote hoeveelheden data.’ Zo kan het zo zijn dat iemand in een wijk woont waar mensen veel schulden hebben, die ze niet altijd even goed aflossen. Zelfs als diegene wel altijd netjes zijn schuld aflost, kan het programma de woonwijk meenemen als variabele in de beslissing of hij in aanmerking komt voor een hypotheek.

Genomica

Afgelopen jaar werd in China de eerste genetisch gemanipuleerde baby geboren. Een arts zou het DNA van het meisje zo hebben gemanipuleerd dat ze resistent is tegen hiv. ‘Met genomica kun je de genen van mensen al bij de conceptie permanent veranderen’, legt Brey uit. ‘Zo kun je zorgen dat ze geen erfelijke ziektes krijgen, maar ook dat ze blauwe ogen hebben of beïnvloeden hoe intelligent ze zijn. Dat is eugenetica: rasverbetering. Het is heel omstreden en verboden in de meeste landen, maar er is veel discussie over of het verboden moet blijven.’

Mensverbetering

‘Op het gebied van human enhancement worden technologieën ontwikkeld waarmee het karakter of lichaam van mensen kan worden verbeterd’, vertelt Brey. In theorie kunnen we in de toekomst mensen zo minder verlegen of agressief maken, langer laten leven, infrarood laten zien, sterker maken, beter laten horen of beter bestand maken tegen hitte of kou. ‘Dat staat nog deels in de kinderschoenen, maar er wordt bijvoorbeeld al wel gewerkt aan technologieën om mensen te genezen van bepaalde geestelijke aandoeningen. De stap van genezen naar “verbeteren” lijkt niet groot. De vraag is of dat wenselijk is. Is het een goed idee als mensen aan hun lichaam en persoonlijkheid gaan sleutelen? En mogen ouders dat bij hun kinderen doen? En zorgt dat niet juist voor een hoop ongelijkheid, doordat sommige mensen het kunnen betalen en anderen niet?’

Ethics by design

Mensen die producten en systemen ontwerpen zouden rekening moeten houden met de ethische gevolgen ervan, vindt Brey. ‘Dat heet ethics by design. Het betekent dat je ontwerpmethoden hanteert waarbij je ethische vragen en de antwoorden daarop meeneemt in het ontwerpproces. Veel onderzoekers en technologie-ontwikkelaars kunnen dat nog niet goed en weten ook niet goed hoe ze antwoorden op zulke vragen kunnen verwerken in hun onderzoek. In ons onderzoek kijken we niet alleen naar de ethische aspecten en maatschappelijke uitdagingen, maar doen daarover ook aanbevelingen voor beleid. En we stellen mogelijke aanpassingen van het recht voor en formuleren ethische richtlijnen. Die richtlijnen kunnen onderzoekers en ontwikkelaars helpen ethische vragen te stellen over hun onderzoek.’  

Richtlijnen

De richtlijnen zullen onder meer gebruikt worden voor het Horizon 2020 programma van de Europese Commissie, dat met een budget van meer dan 70 miljard euro het grootste onderzoek- en innovatieprogramma ooit is. ‘We zullen onze richtlijnen ook toepassen in een nieuw programma van de Europese Commissie, waar 9 miljard euro wordt geïnvesteerd in onderzoek naar kunstmatige intelligentie en robotica. Daarbij moet ieder project aandacht besteden aan ethics by design. In de Europese Commissie weten ze nog niet goed hoe dat moet, daaraan kunnen wij bijdragen.’

Wat de richtlijnen precies worden, is nog niet duidelijk: het onderzoek is nog in volle gang. ‘Het zal gaan over wat wel of niet mag, maar vaak zullen het ook dingen zijn waar mensen over na moeten denken. Bijvoorbeeld als het gaat over systemen die adviseren of beslissingen maken over de strafmaat in een proces. Die systemen zijn zo ingewikkeld dat niemand goed begrijpt hoe ze tot een beslissing komen. Het zou een vereiste moeten zijn dat het systeem ook uitlegt waarom het een bepaalde beslissing neemt, zodat het besluit ook onderzocht en aangevochten kan worden.’

Meer weten?

Kijk op de website van het SIENNA project.