In deze aflevering van AIToday Live bespreken we het onderzoek van Elise Lems naar interpreteerbare kunstmatige intelligentie (AI) modellen. Interpreteerbaarheid helpt bij het begrijpen van de redenen achter de voorspellingen van AI-modellen en vermindert de kans op problemen zoals bias in de data.
Een voorbeeld van onbedoelde 'slimheid' is het Clever Hans-effect, waarbij AI-modellen juiste voorspellingen maken om verkeerde redenen. Door de interpreteerbaarheid van AI-modellen te verbeteren, kunnen we hun kwaliteit verhogen. Dit kan gebeuren door het aanpassen van het model aan menselijke interpretaties en het trainen om voorspellingen te maken op basis van de juiste redenen, in plaats van bias of verkeerde interpretaties.
Diversiteit in zowel het AI-team als in de gebruikte data is essentieel voor het voorkomen van onbedoelde gevolgen, zoals het Clever Hans-effect. Schone en diverse data zijn cruciaal om het ontstaan van bias te vermijden.
Elise's onderzoek draagt bij aan het verbeteren van interpreteerbare AI-modellen en zorgt voor een beter begrip van de onderliggende redenen achter de voorspellingen. Door minder gebruik te maken van "blackbox"-modellen en meer in te zetten op interpreteerbaarheid en uitlegbaarheid, wordt de toekomst van AI steeds veelbelovender.'
Links
- Cognitive Services van Microsoft Azure - gebruikt door Niels voor computer vision projecten: https://azure.microsoft.com/nl-nl/services/cognitive-services/
- Radboud Universiteit Nijmegen - hier studeert Elise Lems AI: https://www.ru.nl/
- Info Support - het bedrijf waar Elise haar scriptie schrijft.: https://www.infosupport.com/
- Apple Credit Card - genoemd als voorbeeld van bias in AI: https://www.apple.com/apple-card/
Met onze podcast AIToday Live zijn we genomineerd voor de Belgian Podcast Awards ! 🏆🤩 Belgisch? Ja, een Belgische award, want er is een speciale categorie voor Nederlandse podcasts: Prijs van Oranje.
Wil je ons steunen? 🙏❤️ Stem op ons!
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Wil je toegang tot exclusieve toegang voor onze luisteraars? Schrijf je in voor de nieuwsbrief 'AI versterkt de Mens'
Contact AIToday Live
We zijn altijd op zoek naar nieuwe gasten die over AI willen spreken.
- Stuur een bericht via LinkedIn naar Joop Snijder of Niels Naglé