FD-column Laura van Geest: 'Graag meer betutteling en minder gebruiksgemak'

Technologie is neutraal. Het kan ten goede en ten kwade worden aangewend. Dat geldt voor een hamer, dat geldt voor AI. Bij een werkbezoek aan de financiële sector in de Verenigde Staten lagen AI en GenAI steeds voor in de mond. Er werd gesproken over de kansen die AI biedt om klanten beter te bedienen en over het gemak waarmee medewerkers adviezen op maat kunnen geven met behulp van AI.

Maar al vrij vlot doemde ook het woord fraude op. Soms ging het over de bescherming die AI kan bieden tegen frauderende klanten, vaker werd gesproken over hoe voorkomen kan worden dat klanten het slachtoffer worden van fraude – deels vanuit de gedachte dat klantbelang centraal staat, deels vanuit eigenbelang. Want hoe kun je voorkomen dat de financiële instelling voor de kosten opdraait?

De vooruitzichten zijn allesbehalve geruststellend. Criminaliteit is een bedrijfstak als iedere andere, steeds op zoek naar nieuwe kansen. Met digitalisering ontstond een nieuw werkterrein, AI is de nieuwste machine. De productiewaarde van die machine is duizelingwekkend: phishing mails kunnen in een oogwenk worden geproduceerd, met AI gemaakte video’s zijn bijna niet meer van echt te onderscheiden. De investeringen zijn gering, de productie is footloose en anoniem, de gebruiksvriendelijkheid hoog. Voor GenAI zijn geen grootse productiehallen of specialistische kennis nodig.

Zegen en vloek

Helaas is Nederland een aantrekkelijke markt voor cybercriminelen. Bijna iedereen zit op internet en niet iedereen is ook digi savy. Onhandig zijn met internet kan een zegen zijn – je kunt immers niet beroofd worden waar je niet bent – maar ook een vloek: je bent meer ontvankelijk voor ‘de hulp’ van kwaadwillenden.
De digital native Gen Z besteedt weliswaar zo’n vijf uur per dag op hun smartphone, maar lijkt ook gevangen in de eigen bubbel en lang niet altijd mediawijs genoeg om de betrouwbaarheid van informatie in te schatten. Een korte, catchy video op TikTok past beter bij het zoekgedrag van Gen Z dan de lappen tekst van een zoekopdracht op Google. Maar dat het algoritme van TikTok het bedrijfsbelang vooropstelt in plaats van klantbelang, lijkt Gen Z niet altijd te beseffen.
Betere voorlichting kan helpen om mensen alert te maken op nieuwe vormen van oplichting (het frauduleuze appje van dochterlief), maar kent grenzen. Vaak reageren mensen op de automatische piloot en komt denken later, blijkt uit onderzoek van Nobelprijswinnaar en psycholoog Daniel Kahneman. Dit is een fenomeen waar criminelen op inspelen: met de deur in huis en overrompelen, zoals deze krant onlangs rapporteerde (FD, 6 november).

Naast voorlichting, zouden we de zegeningen van de ‘seamless experience’ moeten terugschroeven. Dus niet ongebreideld per direct kunnen overschrijven, maar vertragen, bij hogere bedragen of bij transacties naar het buitenland. Het is helemaal niet nodig om voor elke (kleine) aankoop in een handomdraai een lening te kunnen sluiten. Misschien zouden banken afwijkende betalingen in winkels moeten mogen signaleren en beperken. Dit zou een uitbreiding zijn op regels die we al kennen, zoals maximum bedragen bij betalingen, enige bescherming bij contactloos betalen en alleen geactiveerd in het buitenland betalen.

Dicht op de huid

Onze gastvrouw in de VS meldde dat een betaling op haar kaart in een warenhuis al werd geblokkeerd, omdat het algoritme van de bank de locatie oppikte als atypisch voor de betrokkene. In dit geval bleek dat terecht, maar mijn eerste reactie was: wat betuttelend en dicht op de huid. Deze bank presenteerde haar klanten ook een ‘veiligheidsmeter’ die aangaf hoe veilig de instellingen en wachtwoorden van de klant waren, met tips hoe de meter van rood naar groen te laten schieten. En waar in Nederland de bankkantoren sluiten, werden in de VS juist nieuwe kantoren geopend. De verantwoordelijkheid voor fraudebestrijding ligt niet enkel bij de consument: financiële instellingen moeten hun rol blijven spelen in het kat en muisspel met de criminelen en AI inzetten om fraude aan te pakken. Dat is niet gratis natuurlijk, maar de reputatieschade na een forse oplichtingsactie is ook niet gering.

Voorkomen is beter dan genezen. Het is niet reëel om alle bankgebruikers van het internet te halen en terug te keren naar het stenen tijdperk – in letterlijke zin: de financiële instelling als gebouw. Maar rimpelloos financieel consumeren is nu al een hobbelig pad. Klanten en de financiële sector moeten samen het goede evenwicht vinden in de driehoek veiligheid, gebruiksgemak en paternalisme.