Op elk gebied in ons dagelijkse leven zijn we het doelwit van algoritmes, en in de meeste gevallen zijn we onverschillig over de gevolgen hiervan, die zijn op zijn zachts gezegd nogal gevaarlijk. In het boek weapons of Math destruction, gaat wiskundige Cathy O’Neil in op de wereld van de modellen , algoritmes en de effecten hiervan op ons mensen.
De algoritmes worden gemaakt door mensen en bevatten hun ideeën , vooroordelen en verwachtingen. En zodra een algoritme bewezen ‘nut’ heeft wordt het opgeschaald. En de meeste doen dit ook. Met als gevolg enorme zogenaamde feedback loops die dan uiteindelijk leiden tot een zichzelf vervullende voorspelling. Dit gebeurd op gebieden als onderwijs, de financiele wereld, veiligheid en politie inzet en ondermijnt inmiddels onze democratie.
Op een goed te begrijpen wijze legt Cathy O’Neil de verschillende effecten van deze modellen en hun feedback loops uit, die weer worden gevoed door een hele industrie die mensen ‘helpt’ deze modellen te verslaan en daarmee de uitkomsten wederom versterkt. En het meest verontrustende ? Er is geen wetgeving, geen onafhankelijk orgaan waarbij je in beroep kan gaan en geen transparantie in hoe de modellen werken. Angstaanjagend ?Jazeker, en daarom zou iedereen dit boek moeten lezen.