Amazon Web Services (AWS) zet zwaar in op machine learning. De marktleider op de cloudmarkt introduceert een groot aantal nieuwe diensten waarmee kunstmatige intelligentie binnen het bereik van meer applicatie-ontwikkelaars en eindgebruikers komt. Ook bedrijven die nauwelijks ervaring op dit gebied hebben, kunnen nu aan de slag.
AWS-topman Andrew Jassy neemt tijdens de opening van het evenement AWS Re:Invent alle twijfels weg dat AWS zich op dit gebied de kaas van het brood laat eten door Google. Over een breed front kondigt hij tijdens de door 65.000 ‘Amazon-fans’ bezochte show in Las Vegas nieuwe ai-diensten aan. ‘Veel services zijn ontwikkeld op verzoek van klanten’, benadrukt Jassy. De Amazon-dochter heeft al tienduizenden klanten die met ai bezig zijn.
‘AWS is niet meer te stoppen,’ aldus Jassy. Hij citeert de tekst van wijlen Freddy Mercury. ‘Don’t stop me now. I’m having such a good time. I don’t want to stop at all’, herhaalt Jassy de tekst die een Queen-coverband kort daarvoor ten gehore bracht. En zoals Mercury zong: AWS is als een tijger die de wetten van de zwaartekracht tart.
Jassy begon zijn keynote met de kanttekening dat AWS Re:Invent geen marketing- en salesshow is, maar een educatief evenement wil zijn. In zijn toespraak, die net als bij voorgaande edities van AWS Re:Invent liefst drie uur duurde, presenteert de AWS-topman ruim een dozijn grote vernieuwingen waarvan de meeste op gebied van ai. AWS claimt de breedste en meest complete verzameling diensten op gebied van machine learning te hebben. Maar het gaat niet om het aantal mogelijkheden, aldus Jassy. Veel belangrijker zijn de geboden diepte en kwaliteit.
Om zijn woorden kracht bij te zetten laat Jassy een aantal vooraanstaande ceo’s het podium betreden, zoals David Solomon, topman van de zakenbank Goldman Sachs. Ook Brent Shafer, ceo Cerner (gezondheidsinformatie) en Hans Vestberg, baas van telecomgigant Verizon, delen hun ervaringen met AWS.
Boven water
Amazon denkt ook een van de lastigste bedrijfsproblemen te kunnen oplossen, namelijk dat van het intern zoeken. De afgelopen jaren zijn veel pogingen gedaan om het vinden van documenten binnen een bedrijf te vergemakkelijken. Tot nog toe levert dit weinig resultaat op. Organisaties hebben grote hoeveelheden ongestructureerde tekst. Als al die gegevens boven water zijn te krijgen, betekent dat een schat aan bruikbare informatie. Maar het probleem is dat die data in veel formaten zijn opgeslagen en verspreid liggen over verschillende databronnen zoals Sharepoint, Intranet, Amazon S3 en opslagsystemen in eigen datacenters. Zelfs met de gebruikelijke, op het web gebaseerde zoekinstrumenten lukt binnen organisaties slecht om gegevens op te diepen. Vaak zit er weinig anders op dan trefwoorden te gebruiken. Die verschijnen dan in meerdere documenten uit allerlei hoeken. Het resultaat is meestal dat een werknemer hele lijsten met allerlei willekeurige links moet doorwerken om de juiste informatie te vinden.
De nieuwe dienst Amazon Kendra gooit het over een andere boeg. Werknemers kunnen een veelheid aan silo’s vol data doorzoeken door vragen in natuurlijke taal te stellen. Ze hoeven zich niet meer te beperken tot trefwoorden. Dankzij machine learning wordt het mogelijk hele precieze antwoorden te geven in plaats van een verzameling willekeurige links. Werknemers kunnen vragen stellen op een manier zoals ze dat met collega’s doen. Voorbeeld van een vraag kan zijn: ‘Wanneer gaat de it-helpdesk open?’ Kendra geeft dan een antwoord als ‘De helpdesk gaat om halftien vanochtend open.’
De software zorgt ervoor dat de zoekresultaten uitsluitend documenten omvatten die de gebruiker mag inzien. Kendra is in staat het model voor machine learning steeds weer te verbeteren. Hoe meer het gebruik vordert des te betere antwoorden worden gegeven.
Duurste regels
Een andere vernieuwing is CodeGuru. Deze dienst verbetert de ontwikkeling van software met behulp van machine learning. CodeGuru automatiseert de ‘code reviews’. Tevens worden organisaties geholpen de duurste regels code te vinden, wat kosten bespaart. Volgens Jassy kost het zelfs Amazon moeite om ervaren ontwikkelaars te vinden die genoeg tijd over hebben om het werk van hun collega’s te beoordelen. Dagelijks worden zoveel regels code geschreven dat het bijna onmogelijk is zo’n klus te klaren. Bovendien zien zelfs de meest ervaren ‘reviewers’ fouten over het hoofd. CodeGuru werkt zonder dat er iets in het ontwikkelproces hoeft te veranderen. De software ontvangt een ‘pull request’ en begint automatisch met een evaluatie van de code. Daarbij wordt gebruik gemaakt van modellen die zijn getraind met de talrijke code reviews die Amazon door de jaren heen heeft gedaan. Ook de reviews van de 10.000 belangrijkste opensourceprojecten op GitHub zijn hieraan toegevoegd. CodeGuru kijkt naar de kwaliteit van de code. Als een probleem wordt ontdekt, legt het in gewone mensentaal uit wat er mis is. CodeGuru suggereert ook een oplossing, voegt betere code als voorbeeld toe en links naar relevante documentatie.
Amazon zet CodeGuru al geruime tijd intern in. Daarbij is de code niet alleen substantieel verbeterd maar zijn ook kostenbesparingen gerealiseerd. Het team rond het koopjesfestival Amazon Prime Day wist hiermee de efficiency van applicaties aanzienlijk te vergroten. Volgens Jassy werden de kosten met een kleine veertig procent gedrukt.
Kat-en-muisspel
Als derde belangrijke ai-dienst werd Amazon Fraud Detector aangekondigd. Met machine learning kan de opsporing van fraude worden geautomatiseerd. Nu kost het AWS-klanten nog veel moeite deze systemen actueel te houden omdat de fraudepatronen veranderen. Het is een continue kat-en-muisspel. De huidige systemen zijn vaak gebaseerd op met de hand gecodeerde regels. Dat kost veel tijd en aanpassingen zijn duur. Amazon heeft al meer dan twintig jaar ervaring met malafide personen. Al die kennis wordt nu ook aan derden beschikbaar gesteld. Fraud Detector biedt een volledig beheerde dienst voor de opsporing van mogelijke online-identiteitsfraude en financiële fraude in realtime. De ai-modellen zijn getraind met een schat aan historische gegevens van zowel frauduleuze als legitieme transacties. Het gebruik van deze tool vereist geen kennis van machine learning.
De vierde dienst, Amazon Transcribe Medical, biedt artsen de mogelijkheid alles wat ze tijdens hun werk zeggen over de patiënt, automatisch in transcripties vast te leggen. Veel artsen zijn overwerkt of ervaren stress door de zware administratieve lasten. De nieuwe dienst verlicht hun werk waardoor er meer tijd voor de patiënt overblijft.
De vijfde dienst is Augmented Artificial Intelligence (A2I). A2I stelt ontwikkelaars in staat om de voorspellingen die met machine learning tot stand zijn gekomen, te valideren met menselijke reviewers. Deze dienst maakt het gemakkelijker om deze reviews in het proces in te passen. A2I regelt de workflow. Alle voorspellingen waaraan wordt getwijfeld, en die onder een bepaalde doelstelling blijven, kunnen automatisch naar menselijke reviewers worden gestuurd. Dat kunnen de half miljoen reviewers zijn die onder Amazon Mechanical Turk vallen, of reviewers van derde partijen dan wel eigen mensen.