BrainCreators gaat samenwerken met het Insight SFI Research Centre for Data Analytics om structuur in neurale netwerken te vinden

Onderzoek moet ervoor zorgen dat neurale netwerkmodellen beter begrepen worden door menselijke gebruikers

| BrainCreators | 3 min | 26 oktober 2021 12:45
Copyright: SFI
BrainCreators, de specialist in intelligente digitale inspecteurs op basis van AI technologie, kondigt vandaag aan dat het een samenwerkingsverband is aangegaan met het Insight SFI Research Centre for Data Analytics uit Dublin. Het doel van de samenwerking is om in één jaar tijd vooruitgang te boeken in het vinden van structuur bij neurale netwerkmodellen. Op deze manier kunnen neurale netwerkmodellen beter begrepen worden door menselijke gebruikers. Het belang van begrijpbare modellen is groot, wanneer de keuzes van een model levens kunnen veranderen. Denk hierbij aan modellen die juridische of medische beslissingen maken. In dergelijke situaties moeten modellen niet alleen correct zijn, maar ook om de juiste reden correct zijn en uitlegbaar zijn aan een mens.

Aangezien veel AI-toepassingen op dit moment gebaseerd zijn op ‘black box modellen’, is het vaak niet mogelijk om de beslissing van een toepassing verklaarbaar te maken. Kenmerkend voor een ‘black box’ is het boeken van betere resultaten ten koste van de uitlegbaarheid. Dit betekent dat moeilijke taken goed geautomatiseerd kunnen worden, maar dat de manier waarop het model keuzes maakt niet meer goed begrepen worden door menselijke gebruikers. Wetenschappelijke vooruitgang op dit gebied is zowel technisch uitdagend als van maatschappelijk belang, omdat het onbedoeld kan leiden tot discriminatie of een gebrek aan vertrouwen.

Neurale netwerkmodellen zijn typische ‘black boxes’. Neurale netwerken zijn het meest gangbaar om te gebruiken in de huidige Deep Learning, en vormen daarom een probleem. Dit komt omdat het begrijpen van de interne structuur van een getraind neuraal netwerk op dit moment nog niet goed mogelijk is. Een neuraal netwerk bestaat immers uit veel verbindingen, die elk een kleine statistische bijdragen leveren aan de beslissingen die het model maakt. Als het model een fout maakt, dan is het vaak niet goed af te leiden welke verbindingen hiervoor verantwoordelijk zijn. Indien een neuraal netwerkmodel echter visuele objecten en concepten wel op een voor de mens begrijpelijke manier zou ordenen, dan zullen eindgebruikers beter inzicht krijgen of een model ook om de juiste reden correct is. Dit zal uiteindelijk leiden tot meer vertrouwen in de beslissingen van het model.

“Wetenschappelijke vooruitgang op het gebied van neurale netwerken is belangrijk, omdat de keuzes die AI toepassingen maken steeds vaker impact hebben op de maatschappij en de levens van mensen. Wij hebben daarom besloten om samen te werken met het Insight SFI Research Centre for Data Analytics uit Dublin en onze kennis en ervaring te delen,” aldus Maarten Stol, Chief Scientist bij BrainCreators. “Op deze manier willen wij in 2022 samen met de onderzoekers van het Insight SFI Research Centre for Data Analytics toewerken naar een wetenschappelijke publicatie die een bijdrage levert aan een betere toepassing van neurale netwerken. Het doel is om deze bevindingen vervolgens ook te gebruiken voor onze intelligente digitale inspecteurs.”

“Dankzij de samenwerking met BrainCreators kunnen wij ons onderzoek beter afstemmen op de praktijk. Al onze interacties en wetenschappelijke discussies met BrainCreators zijn dan ook erg productief omdat ze vaak meteen met relevante feedback komen,” aldus Vitor Horta, PhD Student bij Insight SFI Research Centre for Data Analytics. “Samenwerkingen zoals die met BrainCreators zijn waardevol en komen niet vaak voor. Echter is deze samenwerking essentieel om onze methoden af te stemmen op de praktische behoeften uit de praktijk. Op deze manier kunnen we onze resultaten overbrengen naar toepassingen uit de echte wereld.”

Hoe vind je dit artikel?


Geef jij de eerste rating?

Content op basis van interesse of taal liever niet meer zien? Ga dan naar settings om eenvoudig je voorkeuren in te stellen.

Deel dit item
Over BrainCreators
BrainCreators is in 2016 opgericht door drie ondernemers die elkaar in de jaren 90 hebben leren kennen via de opleiding Artificial Intelligence aan de Universiteit van Amsterdam. BrainCreators wil met intelligente automatisering de kwaliteit van het leven verbeteren door repeterende handelingen te automatiseren. Dankzij haar BrainMatter platform kunnen organisaties snel digitale inspecteurs ontwikkelen, die direct als digitale dienst inzetbaar zijn in de fysieke wereld.
Meer over BrainCreators
Disclaimer
Deze content is verkregen via óf is gebaseerd op een externe bron en valt daarmee buiten de verantwoordelijkheid van de redactie. Als de content een (gedeeltelijke) vertaling is van het origineel, dan is bij eventuele verschillen in betekenis de originele content leidend.
20191030103431.png
Conference by app developers, for app developers!
20191030100036.png
Voor professionals met passie voor digitale revolutie!
20200707165104.png
Meer meisjes en vrouwen in bèta, techniek en IT
20191030101402.jpg
De grootste Nederlandse site over Android
20191029200614.jpg
Drive value with data
20200608191257.png
Dé leukste website op het gebied van zorg in Nederland
© 2019-2022, alle rechten voorbehouden.
TechVisor
Het vizier op de tech industrie.