I fremtiden, efterhånden som eksperter bliver erstattet af algoritmer, vil flere og flere opleve at blive afvist af en computer. Det kan være ansøgere til et kredit kort, en given stilling, en kredit rating, en forsikring, medicinsk behandling, boligens værdi osv.
Simple algoritmer er lette at forstå, men efterhånden som AI udvikler sig til at være mere komplekse vil man nå et punkt, hvor det bliver næste umuligt at pin pointe, hvordan computeren nåede frem til det svar, den gjorde. Beslutningsprocessen bliver i praksis lavet om til en ”Black Box” som kan være umuligt at gennemskue i sær for den menneskelige hjerne og hvor resultatet er lige så overraskende for den der designede algoritmen som den der udsættes for beslutningen.
Forklarlig AI er derfor et begreb der begynder at gribe om sig, ud fra den meget menneskelige synsvinkel at hvad er ideen med meget sofistikerede algoritmer, hvis man ikke er i stand til at forklare hvordan man nåede frem til resultatet. Der er allerede mange eksempler på dette fx milliardærer der ikke kan bliver kreditgodkendt o.a.
Når disse personer forsøger at klage over beslutningen vil de først blive mødt af en uforsonlig chat bot i det intelligente kundecenter, bliver de ved med at klage vil de dernæst blive mødt af et menneske der svarer noget i retning af ”at det ved vi ikke, men det siger algoritmen”. Det er sandsynligvis denne type problemer som den danske EU kommissær Margrethe Vestager skal forsøge at løse..
I myhouse forsøger vi at estimere værdien af en bolig og at det ikke er helt let kan man bl.a. se ved at følge SKATs forsøg på at nå frem til en model de tør bruge i virkeligheden. Udover at være adskillige år forsinket så er budgettet nu vokset til kr. 3 mia. og projektet er lige blevet skubbet yderlig fire år.
Den model vi benytter i myhouse, indeholder nu cirka 1.5 mio. parametre og vi har for længe siden opgivet at finde ud af hvordan den beregner værdien af en given bolig, til gengæld kan vi holde algoritmen op i mod det faktiske salg på de cirka 300 boliger der i gennemnit bliver solgt hver dag og hvor algoritmen så efterfølgende korrigerer sig selv. Vi kan se at den bliver bedre og bedre henover tid og i visse kategorier fx ejerlejligheder i byerne er vi oppe over 90%. Sammenligner vi det med TV programmet ”Hammerslag” har vi på landsplan allerede overhalet mennesket, med flere længder, vi forstår bare ikke hvordan..