Een overzicht van blogs geschreven door aanbieders die zich hebben aangesloten bij e-Learning.nl.
Artificiële intelligentie zal er toe bijdragen dat beslissingen steeds vaker genomen zullen worden door zelflerende machines. Deze ontwikkeling kent de nodige risico’s. Hoe kun je daar mee omgaan?
Foto: geralt, Pixabay
Fast Moving Targets presenteert vandaag een groot aantal bronnen over artificiële intelligentie, één van de belangrijkste technologische ontwikkelingen van dit moment. Machine learning is onderdeel van artificiële intelligentie.
Bij machine learning nemen computers zelfstandig beslissingen of doen computers voorspellingen op basis van data of ervaringen. Dat deze ontwikkeling ook kwalijke kanten kan hebben, laat John Naish zien in ‘Are computers turning into bigots?’
Voorbeelden negatieve gevolgen
This is because there are more black offenders than white in the parole population — which civil liberties campaigners argue is due to historical racism by humans, rather than by computers — but nevertheless, the robot can perpetuate and worsen this.
De data waar de robot gebruik van maakt creëert een “spiral of self-fulfilling prediction”, aldus Naish. Postcodes vormen daarbij het alternatief voor ras of armoede. Het gegeven dat zwarte/arme mensen vaker gevangen worden gezet kunnen bias via een zogenaamde ‘runaway feedback loop;’ versterken.
Verlies van controle
De auteur wijst alleen op de beperkingen en risico’s van machine learning en concludeert dat robots steeds meer controle krijgen over belangrijke aspecten van ons leven. Werknemers, bijvoorbeeld van een verzekeringsmaatschappij, zijn niet bij machte beslissingen van robots te corrigeren. Mensen controleren en begrijpen de algoritmes niet op basis waarvan geavanceerde computers beslissingen nemen.
Machines beoordelen vaak nog slecht, op basis van onnauwkeurige informatie. Beslissingen op basis van algoritmes kunnen onrechtvaardig en discriminerend uitpakken. Het wordt ook lastig om onjuiste informatie te verwijderen. Hoe meer data robots verwerven, des te meer ‘leren’ zij. Mensen hebben daar weinig grip op.
Once they have been programmed for a particular use — in banks, employment agencies, insurance firms, hospitals or marketing companies, for example — the robots become self-teaching, using swathes of accumulated data to make their own rulings on the lives of individuals.
Bij de politie in Burbank heeft dit ook geleid tot minder gemotiveerde medewerkers.
Aanbevelingen
Daar kun je natuurlijk ook een laatste aanbeveling uit destilleren. Investeer in de deskundigheid om machine learning te doorgronden.
Naam (verplicht)
E-mail (verplicht)
Bericht mij via e-mail over vervolg commentaar