Mens of machine? Dit is een vraag die ons al decennialang weet te boeien. Waar precies twintig jaar geleden schaakcomputer Deep Blue voor het eerst wist te winnen van de toenmalige schaakkampioen Garri Kasparov, draait het vandaag de dag allemaal om het Aziatische bordspel Go: ook de software AlphaGo van Google wist recentelijk een overwinning te boeken op de Zuid-Koreaanse kampioen Lee Sedol.
Wat zich momenteel op spelniveau afspeelt, heeft ook een flinke invloed op het bedrijfsleven. Kunstmatige intelligentie is steeds beter in staat om menselijke taken over te nemen, en zelfstandig beslissingen te nemen. Een van de beroepsgroepen onder vuur is de creditmanager. Welke gevolgen dat voor de beoordeling van bedrijfsrisico’s heeft, vertelt Jan Schneider-Maessen, voorzitter van het Duitse ‘Bundesverband für Credit Management’ (BvCM) en voorzitter en directielid van de Europese koepelorganisatie FECMA.
Creditmanager automatiseren
Carl Benedikt Frey en Michael A. Osborn van de University of Oxford onderzochten in 2013 welke beroepen computers of robots kunnen uitvoeren. Hieruit bleek dat de werkzaamheden van een ‘creditmanager’ ook geautomatiseerd kunnen worden. Creditmanagers beschermen hun bedrijf tegen betalingsuitval en kijken waar nieuwe omzetkansen liggen. Ook zijn zij verantwoordelijk voor het verstrekken van kredieten.
Momenteel maken creditmanagers al vaak gebruik van software om kredietverstrekking te bepalen. Deze software wordt steeds verder doorontwikkeld, waardoor besluiten binnen een milliseconden worden gemaakt. ‘Binnenkort zal 80 procent van alle kredietbesluiten automatisch gebeuren. Voor de resterende 20 procent zijn nog wel creditmanagers nodig. Binnen een niet al te lange tijd zal deze verhouding nog meer verschuiven. Dan zal 95 procent van de beslissingen automatisch gebeuren’, voorspelt Schneider-Maessen.
Verouderde data
Een nadeel van deze automatische beslissingen is dat bedrijven volledig moeten vertrouwen op de software. De kwaliteit van deze beslissingen hangt daarbij sterk af van de beschikbare data. Wanneer de software beslissingen maakt op basis van verouderde data, kan dit nog wel eens problemen opleveren, meent Schneider-Maessen. ‘Beslissingen op basis van verouderde data kunnen leiden tot verkeerde toezeggingen. Zo kan het gebeuren dat een kerngezond bedrijf, waarbij geen uitvalwaarschijnlijkheid bestaat, toch geen krediet krijgt toegewezen. Het kan ook gebeuren dat leveranciers te laag worden beoordeeld, waardoor de zakenrelaties onder druk komen te staan.’
Schneider-Maessen benadrukt daarom dat het belangrijk voor ratingbureaus, kredietverzekeraars en andere dataverzamelaars is om altijd de actuele data over de economische situatie aan te leveren. ‘Deze denkwijze moet echt nog doordringen bij deze bedrijven. Het vraagt namelijk om een proactieve aanpak. Wie zijn data voor zichzelf houdt, kan als gevolg van de automatische beslissingen in de problemen komen.’
Onderbuikgevoel
Een ander belangrijk aspect bij het verlenen van leverancierskrediet, is de ervaring en het spreekwoordelijke onderbuikgevoel van de creditmanager. Schneider-Maessen is bang dat deze ‘softe’ factoren bij de automatische beslissingen steeds minder belangrijk worden. ‘De software houdt geen rekening met de jarenlange goede zakelijke banden of een inschatting van de persoonlijkheid van een ondernemer. Dit zal dan geen invloed hebben op de besluitvorming.’
Een uitdaging voor de creditmanager is om complete branches te beoordelen. ‘De economische cyclus wordt steeds korter. Complete branches veranderen in adembenemend tempo en succesmodellen storten na korte tijd weer in elkaar. Wie vandaag de dag succesvol is, kan morgen al failliet zijn’, vertelt hij. ‘Neem de drukkerijen die lijden onder goedkope online aanbieders of Youtube en Netflix die de televisie in het nauw drijven. Ook zullen online streamingdiensten als Spotify zorgen voor het eind van cd’s. De beoordeling van deze complete branches en de daaraan gekoppelde risico’s en kansen worden steeds ingewikkelder.’
Mens onvervangbaar
Schneider-Maessen ziet daarom een belangrijke rol weggelegd voor creditmanagers bij het herkennen van potentiële risico’s. ‘Veel grote bedrijven beschikken tegenwoordig niet meer over eigen assets als productiehallen of een machinepark. De online giganten hebben in de praktijk alleen nog servers en kantoorgebouwen. Dat maakt de waardebepaling en inschatting van de financiële slagkracht niet eenvoudiger. Een bedrijf als Paypal is aan de beurs meer waard dan de Deutsche Bank. Dat was jaren geleden absoluut ondenkbaar. Ondanks dat intelligentie een belangrijk instrument is voor bedrijven, is de mens op dit vlak echt onvervangbaar.’
Tot slot kaart Schneider-Maessen het privacy-aspect van kunstmatige intelligentie aan. ‘De privacyrichtlijnen worden over het algemeen steeds strenger. Het moet nog blijken of automatische beslissingen passen binnen de gegevensbescherming. Juist de wereldwijde dataverzamelaars zoals Google of Facebook moeten aan de ketting worden gelegd. Dat kan de mogelijkheden van intelligente software inperken. Hoe minder data beschikbaar zijn, hoe kleiner de basis is waarop beslissingen moeten worden genomen.’
Dit artikel is ook verschenen in Computable Magazine, jaargang 49, nummer 4, april 2016.
Wat is artificial intelligence?
Computable-expert Bart van der Mark, emerging business accelerator bij Cognizant, definieert kunstmatige intelligentie of artificial intelligence (AI) als ‘systemen die kunnen denken en leren, waarbij de menselijke capaciteiten worden aangevuld en vergroot’. In sommige situaties kan AI mensen compleet vervangen. ‘Dit gebeurt vaak bij repetitieve taken die op basis van vaste structuren worden uitgevoerd; de zogenaamde rule-based processen’, vertelt Van der Mark.
Met AI leren systemen om zelfstandig beslissingen te nemen en problemen onafhankelijk op te lossen. ‘Dit doen zij door op een menselijke manier te denken’, vertelt Van der Mark. ‘De systemen leren hiervoor data en context te begrijpen en analyses te maken. Hiermee kunnen ze flexibele besluiten maken. Daarnaast genereert AI een schat aan gegevens die kunnen worden ingezet voor procesoptimalisatie en businessanalyses.’
Kunstmatige intelligentie verbetert veel geavanceerde processen in termen van kwaliteit en compliance. Het is schaalbaar, bespaart kosten en versnelt de uitvoering van processen. Dit is de reden om handmatige taken te automatiseren. ‘Voor de Nederlandse it-markt betekent dit dat automatisering verder toeneemt. Ook de rol van de cio neemt toe omdat de it-afdeling van cruciaal belang is bij elke automatiseringsstrategie en implementatie.’
AI voor IT-managers
Volgens Van der Mark moeten it-managers in staat zijn om in te spelen op de dynamische ontwikkelingen rondom robots en AI. ‘Robot- en AI-implementaties zijn meestal kort en snel en vereisen multidisciplinaire teams die samenwerken. It moet dus meer gaan samenwerken met operations.’
It-managers staan bovendien continu onder druk om meer te leveren voor minder en dit op een snelle en flexibele manier. ‘Kunstmatige intelligentie helpt it-managers om kosten verder terug te dringen door meer te automatiseren’, vervolgt van der Mark. ‘Dankzij de schaalbaarheid en relatief snelle implementatietijden zijn it-managers beter in staat te reageren op pieken en zich aan te passen aan de toenemende dynamische bedrijfsomgeving.’
De it-manager speelt bovendien een belangrijke rol om te zorgen dat organisaties de gegevens die worden gegenereerd door AI gebruiken om tot betere besluitvorming te komen. ‘Kunstmatige intelligentie vergroot de impact van de it-afdeling en helpt de rest van de organisatie om zich te richten op meer complexe en klant-gerelateerde taken. Dit voegt meer waarde toe aan het bedrijf en helpt organisaties te innoveren’, aldus Van der Mark.
Congres RAID 2016
Welk effect heeft kunstmatige intelligentie op de economie en de maatschappij? Daarover discussiëren circa vijfhonderd C-level deelnemers aan het congres RAID 2016 in Utrecht op 31 mei en 1 juni 2016. Twee dagen lang staat de Jaarbeurs op bestuurlijk en politiek niveau in het teken van de strategische omgang met disruptive innovations. De simpele, maar belangrijke vraag luidt: ‘Wie heeft de toekomst in handen?’
Deelname aan RAID 2016 kost 1499 euro. Meer informatie en registratie, klik hier.
Automatiseren per definitie is gewoon meer productie met minder inspanning en bemensing. Een ontwikkeling als AI hoort daar, me dunkt, best in thuis. Toch zie je telkens de commerciële hype, druk, geroeptoeter toenemen terwijl gewoon nadenken daardoor in het gedrang komt. Wanneer zou je iets aan AI hebben, of misschien deels en wanneer moet je als mens/persoon aan de knoppen blijven.
Een eenvoudig voorbeeld.
Ik ben klant van Vodafone. Ik ervaar/detecteer een probleem. Ik bel de helpdesk en daar vraagt iemand mij de laatste vier cijfers van mijn bankrekening. Ik weiger. ‘Dan kan ik u niet helpen want ik ben verplicht u dit te vragen’. Als paranoïde IT professional leg ik uit waarom ik dit niet doe. A; Ik heb van vodafone geen schrijven gehad dat mij hiertoe verplicht b: Er is geen enkele juridische grondslag dit te verlangen van mij c: waar heeft vodafone haar klanten hierover geïnformeerd? In alle drie de gevallen stilzwijgen.
Nu faseren we deze medewerk(st)er uit en laten het over aan de VAS of VAR. We gaan met opties werken of zelfs met VRP. (Voice Recognition Programs) Een stapje dichter naar die AI. Mijn optie? Niet op het bord. En nu?
Over heel veel commerciële uitingen word absoluut niet nagedacht waardoor geïmplementeerde processen mank gaan. En naast de benoemde ‘onderbuikgevoelens’, is er ook zoiets als een grijs gebied tussen proces en AI waarin veel meer plaats neemt dan men denkt. AI vind ik professioneel en persoonlijk een zeer interessant speelveld waarbij ik altijd roep, stop zoiets in een game en laat AI dan wijzer worden voor je uiteindelijk gaat roepen….
AI is de weg, niets anders dan AI en nee, u kunt niet terug.
Want ook AI is straks gewoon afhankelijk van dat ene draadje.
Dom en kortzichtig. De groep van creditmanagers is een onderdeel van de middeninkomens in dit land en waarschijnlijk ook klant van een van de banken. Door ze te vervangen door een stuk software, maak je als bank dus een groep klanten armer en haalt een stukje welvaart weg uit het land waarin je opereert. Het argument dat er voldoende andere hoogwaardige banen beschikbaar komen door deze verandering gaat allang niet meer op. Dat zien we bijvoorbeeld aan de oudere IT-ers die nu thuis zitten. Dit soort “innovaties” verhinderen mensen om te werken.
Uiteraard is dit geen sustainable ontwikkeling, het is een race naar de bodem, die uiteindelijk eindigt in globale armoede.
Het ontschuldige verhaal uit de jaren 80 waarin ons werdt voorgeschoteld dat de ICT ons leven gemakkelijker zou maken zodat wij ons op “belangrijker” taken konden richten lijkt nu vervangen te zijn door een onduurzame en ongecontroleerde vorm van winstbejag.
Een mooi voorbeeld hier: http://tinyurl.com/gv7lku6
“Met AI leren systemen om zelfstandig beslissingen te nemen en problemen onafhankelijk op te lossen. ‘Dit doen zij door op een menselijke manier te denken’, vertelt Van der Mark. ‘De systemen leren hiervoor data en context te begrijpen en analyses te maken. Hiermee kunnen ze flexibele besluiten maken. ”
Tja, AI word hier als iets magische en menselijks beschreven, dat is onzin. Er zijn geen systemen die “denken” zoals de mens denkt. Er zijn geen systemen die “denken”.
Kredietbeoordeling is op zijn hoogst een stukje “machine learning”. Men verzamelt informatie over het onderwerp. Zoals transacties in het verleden, het bedrijf en soortgelijke bedrijven (de branche). Hoe meer kolommen waarden kunnen bevatten en hoe meer kredietverstrekkingen als “goed” of “niet goed” zijn aangemerkt. Hoe makkelijker het is om aan een voorgestelde transactie een voorspelling te doen of deze goed of niet goed is. That’s it. Daar zit niets denkend aan. Omdat er steeds meer data beschikbaar is, word het hooguit lastiger om na te gaan Waarom het systeem goed of niet goed geeft. Overigens worden waarden uitgedrukt in 0 (100% zeker niet goed) en 1 (100% zeker goed) en word de kans op Goed dus op een schaal tussen 0 en 1 uitgedrukt (bijvoorbeeld 0.84534). De bank heeft dan een threshold waarop er een goedgekeurd uit het systeem rolt. Er kan evt. een bandbreedtje ingesteld worden. Dus tussen 0.8 en 0.9 word er nog een handmatige check gedaan. En de getallen kunnen per soort aanvraag verschillen bijv. voor bedragen tussen de 0 en 1000 geldt x, tussen 1000 en 10000 geldt y, en overige businessrules. Dit zijn wellicht de “contexten” waarover het artikel schrijft.
KJ, sorry maar ik vind jouw reactie welliswaar logisch, maar kortzichtig. In een omgeving (global) kun je niet alle parameters beïnvloeden. Dus als Google bank word en dit automatiseert, kun je als bank wel vasthouden aan het verstrekken van banen, maar dan verlies je het gewoon als bank. Tuurlijk kan we e.e.a. tegenworden gehouden met protectionisme, maar ik geloof daar niet in.
Als welvaartstaat groeien we nu eenmaal naar een situatie toe waar er niet genoeg werk is voor iedereen. Een hele lastige transitiefase.
Als ik eerlijk ben geloof ik dat we als westerse wereld onevenredig rijk zijn. We verkeren zogezegd in meer luxe dan we eigenlijk verdienen. Met relatief eenvoudig werk kunnen we een huis, 1 of 2 auto’s veroorloven, lekker eten en ook nog op vakantie gaan. Dat moet ten koste gaan van iemand anders buiten onze welvaartstaat.
Dus humaan gezien snap ik je redenatie wel, alleen is de oplossing niet om dingen met de hand te blijven doen.
Kijk naar de ontwikkeling in de US. Daar helpen ze wel veel mensen aan een baan, alleen tegen een (extreem) lage beloning, waardoor er in feite moderne slavernij ontstaat.
Ik weet ook niet wat de juiste oplossing is, en hoe we dit moeten aanpakken, maar wel dat wat jij voorstelt domweg niet goed mogelijk is.
@KJ: Jij houdt het concept van loonslaaf liever levend? Of het gebroken economische systeem waarmee we leven? Waarin papiertjes met cijfertjes erop meer waard zijn dan sommige grondstoffen en de toestand van het milieu?
@henri
Ik stel niets voor, ik constateer slechts.
De inzet van technologie om bedrijven steeds efficienter te maken heeft als uiterste consequentie dat steeds minder mensen werk hebben. Aangezien die mensen ook consumenten zijn, heeft dat uiteindelijk weer zijn negatieve weerslag op de omzet van die bedrijven.
Aangezien de economische wetten van vraag en aanbod ongewijzigd blijven, zal de wal het schip keren en zullen de prijzen omlaag moeten gaan. Dramatisch omlaag.
@technicus
Ik “hou niets levend” maar constateer hier slechts een paar zaken. De mythe dat techniek eenvoudig en saai werk overbodig maakt is al lang achterhaald. Zelfs doktoren en uiteindelijk ook ICT-ers zijn vervangbaar door een programma.
Er zullen oplossingen moeten worden gevonden voor de verstoorde werk/inkomen balans (wellicht in de vorm van een basisinkomen), en de prijzen van de produkten zullen moeten dalen.