De gemeente Amsterdam heeft besloten de pilot met de ai-toepassing Microsoft Copilot te beëindigen. Aanleiding zijn de zorgen over de privacyrisico’s. Uit een recente toets (Data Protection Impact Assessment, DPIA), uitgevoerd door SLM Rijk, blijkt dat Copilot niet voldoet aan de noodzakelijke privacyvereisten. Dat meldt de Vereniging van Nederlandse Gemeenten (VNG).
De VNG adviseert gemeenten nu om de voordelen van de ai-tool op te wegen tegen de mogelijke risico’s.
Microsoft Copilot is een ai-toepassing die onder andere wordt ingezet voor het notuleren van vergaderingen, het schrijven van documenten en het doorzoeken van e-mails en chats. De interactie met de toepassing, waarbij ambtenaren vragen stellen en Copilot antwoorden genereert, resulteert in de verwerking van gevoelige gegevens. Deze verwerking moet voldoen aan de geldende wet- en regelgeving, zoals de AVG, wat momenteel niet gewaarborgd is volgens de privacytoets.
De DPIA van SLM Rijk wees op belangrijke risico’s die voortkomen uit een gebrek aan transparantie rondom de verwerking van gegevens. Omdat de technologie nog niet volledig compliant is, heeft Amsterdam besloten de pilot stop te zetten en Microsoft te verzoeken concrete stappen te zetten om de risico’s te verhelpen.
Veel kansen
De VNG benadrukt dat generatieve ai, zoals Copilot, veel kansen biedt voor gemeenten, bijvoorbeeld voor efficiëntere procesautomatisering en datagestuurd beleid. Echter, de inzet van dergelijke technologie moet zorgvuldig worden afgewogen, waarbij de bescherming van inwoners centraal staat.
In een reactie bevestigde de gemeente Amsterdam de zorgen over de privacyrisico’s en sluit zich aan bij het standpunt van SLM Rijk, die aandringt op verbeteringen voordat verdere implementatie van Copilot mogelijk is. Eerder al was er in het onderwijsveld kritiek te horen op Microsofts generatieve ai-tool: it-dienstverlener Surf gaf een negatief advies over het gebruik ervan vanwege de privacyrisico’s en het gebrek aan openheid bij de leverancier.
Copilot Innovation Awards
Wereldwijd baanbrekende ai-toepassingen in de schijnwerpers. Dat belooft de Copilot Innovation Awards, georganiseerd door Team Copilot, ondersteund door Microsoft en it-consultancy Wortell. Tot nu toe komen de meeste inzendingen uit het buitenland, waardoor er – aldus de organisatie – een kans wacht voor Nederlandse bedrijven om hun ai-oplossingen te presenteren.
Inzendingen zijn mogelijk tot 14 maart, waarna de winnaars later in die maand bekend worden gemaakt. Meer informatie is te vinden op de website van Team Copilot.
