AI maakt cybercriminaliteit veel makkelijker en geraffineerder

Een financieel medewerkster van een multinational krijgt tijdens een online vergadering opdracht van de financieel directeur in Londen om voor ‘een geheime deal’ 200 miljoen Hong Kong dollar (bijna 25 miljoen euro) over te boeken naar een haar onbekend rekeningnummer. Ze twijfelt, maar doet wat haar wordt gevraagd. De digitale vergadering blijkt een met artificial intelligence (AI) gecreëerde nabootsing. Het geld verdwijnt in de zakken van cybercriminelen.

Via de Amerikaanse zender CNN ging het nieuws de wereld over. Menigeen schrok van deze ingrijpende gevolgen van AI – kunstmatige ­intelligentie. Wie kun je nog vertrouwen? AI versnelt bestaande phishing-technieken met een factor honderd in tien keer zoveel variaties.

Iedereen weet inmiddels dat je appjes direct moet verwijderen als de tekst luidt: ‘Hoi pap, mijn telefoon is kapot. Kun je snel 250 euro overmaken?’ Maar als je zoon of dochter zélf belt met zo’n noodkreet, weet je dan wel zeker dat het géén fake is? Een met AI gecreëerde stem van je kind is immers niet van echt te onderscheiden.

Deze oplichtingstechniek heet voice phishing (ook wel vishing). Digitale criminele bendes proberen als vanouds slachtoffers met valse e-mails naar hun malicieuze websites te lokken om hen daar geld af te troggelen. Steeds minder mensen trappen erin. Daarom proberen criminelen het nu met nagemaakte stemmen, want die zijn zeer geloofwaardig.

Cybercrime is voolopig in het nadeel

In Helsinki kwamen eind mei zevenhonderd cyberspecialisten bijeen voor de jaarlijkse ­Sphere-conferentie. Het ging er over de gevolgen van AI. Verwacht werd dat een catastrofaal perspectief centraal zou staan, met AI als een onneembare horde voor beveiligers.

Maar het goede nieuws is: vooralsnog zijn cyberverdedigers in het voordeel. Ook zij gebruiken AI. Doordat zij over veel grotere databestanden beschikken en daarop het zelflerend vermogen van AI-programma’s kunnen loslaten, staan ze sterker dan de cyberpiraten. Die speuren weliswaar gewiekst naar andermans zwakke plekken, maar hun bestanden zijn te klein als oefenterrein voor AI.

Voor beveiligers is AI dus een uitkomst. De wereld staat nog maar aan het begin van deze revolutie, maar de verdedigers maken er net iets handiger gebruik van dan hun criminele opponenten. Met AI-detectieprogramma’s kun je hackers van jouw bestanden 24/7 bespieden. In data­stromen van bedrijven en overheid pikken AI-programma’s feilloos de opvallende zaken eruit.

Cybercrime wordt met AI makkelijker een hak gezet

Mikko Hypponen (55), chef research van de Finse databeveiliger WithSecure: ‘Voor de duidelijkheid gebruik ik even de termen van een ouderwetse inbraak. AI-programma’s zien dat een medewerker ’s nachts om half drie opeens rondsluipt in een deel van het gebouw waar hij anders nooit komt. Of ze zien dat er op een zeer ongebruikelijke plek op het bedrijfs­terrein zomaar grote vrachtwagens parkeren. Dat is vreemd en dus slaan ze alarm.’

De digitale inbrekers merken niet dat ze door een AI-programma worden bespied en voelen zich heer en meester. Terwijl ze hun kraak zetten, leert het AI-programma razendsnel bij, werpt een beveilingsmuur op en neemt ze te grazen.

De digitale roof van 25 miljoen euro in Hongkong is een schrikbeeld. ‘Technisch kun je een online vergadering ensceneren om één niet-virtuele persoon te misleiden,’ zegt Hypponen. ‘Maar ik ken uit mijn praktijk slechts één, twee voorbeelden waarin dat is gelukt.’

De Finse expert heeft nog een geheimtip. Zo goed als AI-programma’s zijn met gezichten, zo slecht zijn ze met menselijke handen. ‘Als er foto’s van jou worden gemaakt die op internet verschijnen, zorg er dan altijd voor dat je handen zichtbaar zijn.’ Een deepfake – nepbeelden van een persoon die op basis van bestaand beeldmateriaal met AI zijn samengesteld – beeldt vaak je vingers en de rest van je handen uit in een onnatuurlijke houding.

Hypponen kocht voor een paar tientjes een rubberen namaakvinger. ‘Als mensen met mij een selfie of een filmpje maken, zorg ik dat die extra vinger ook in beeld komt. Dergelijke opnames belanden op internet. Produceren AI-programma’s vervolgens een deepfake van mij, dan verschijn ik in beeld met zes vingers aan één hand en weet iedereen meteen dat het nep is.’ Triomfantelijk steekt hij zijn hand op: ‘Kijk hier, vijf vingers!’

Russische cybercrime onderuitgeschoffeld met AI

Mensen zijn niet zo onnozel als wordt verondersteld in de alarmistische CNN-berichtgeving. De AI-revolutie kan tot grootscheepse misleiding leiden, maar veel mensen zijn al op hun hoede. Vergelijk het met de Photoshop-programma’s die vanaf 1990 opkwamen en die het voor iedereen mogelijk maken om een portret bij te werken voor extra geluk op een datingsite. Te mooi om waar te zijn. Het veranderde de kijk op foto’s van onbekenden. Leuk, knap, maar er is vast aan geschaafd.

Rechtshandhavers haalden de afgelopen tijd veel digitale bendes uit de lucht. Het kan bijna niet anders of dat gebeurde met AI-technieken. Zo rapporteerden in augustus vorig jaar de Amerikaanse FBI, het Nederlandse Openbaar Ministerie en de autoriteiten van zes andere landen dat ze Qakbot hadden uitgeschakeld. Qakbot, ook wel Qbot, was een Russisch ‘botnet’, een toeleverancier van criminelen die ransomware gebruiken.

De piraten beloven door hen geblokkeerde databestanden terug te geven aan de rechtmatige eigenaar, in ruil voor losgeld. Het botnet strijkt een deel van de buit op. Tal van ­cybercriminelen gebruikten de Qakbot-technologie op basis van deze provisie, maar opeens was het dus afgelopen.

Inmiddels zijn er berichten dat de criminele praktijken zijn voortgezet onder de naam Darkgate. Met die technologie worden mensen in de val gelokt door ze te bestoken met gefingeerde personeelsadvertenties op LinkedIn – het zogeheten mal advertising, kortweg malvertising – of vervalsingen via de chatbox van Microsoft Teams.

Hamas actief in cybercrime

De Palestijnse terreurorganisatie ­Hamas zat in de jaren voorafgaand aan de terreuraanslagen van 7 oktober ook volop in cybercrime. Vermoedelijk stelden Iraniërs de technologie beschikbaar. Anti-Israël-hacktivisten brachten malware in omloop om computerbestanden te vernietigen. Het programma heette BiBi-Linux Wiper, een verwijzing naar de Israëlische premier Benjamin ‘Bibi’ Netanyahu. Particuliere databeveiligers uit westerse landen kregen ook de Gaza Cyber-bende (‘aka Molerats’) in het vizier.

Onlangs maakte de Eenheid Landelijke Opsporing en Interventies van de nationale politie in Driebergen het welslagen bekend van ‘de grootste cyber defence-operatie ooit’. Samen met Amerikaanse, Duitse, Franse, Britse en Deense opsporingsdiensten werden servers in zeven Europese landen platgelegd en botnets als IdedID, Bumblebee, Pikabot en TrickBot ontmanteld.

Opvallend hoeveel moeite de criminelen doen om stoere namen te bedenken voor hun malicieuze software. Karen Elazari, een ‘bonafide hacker’ uit Tel Aviv, legde in Helsinki de achtergrond daarvan uit. Cybercrimegroepen voeren een marketingcampagne. Naar het voorbeeld van motorclub Hells Angels proberen ze hun naamsbekendheid te vergroten, zodat slachtoffers extra bevreesd zijn en dus eerder geneigd om het geëiste losgeld te betalen.

Cybercrime krijgt steeds vaker gezicht

Klinkt logisch, maar is dat niet ook een teken van zwakte van de cybermisdadigers? Als ze moeten terugvallen op dit soort reclame, vormen ze kennelijk een minder groot gevaar. Dat kon Elazari niet met zekerheid stellen. Ze liet foto’s zien van jongeren die het logo van de beruchte cyberbende LockBit op hun lichaam laten tatoeëren.

De FBI loofde begin mei een beloning uit van 10 miljoen dollar voor inlichtingen die leiden tot de arrestatie van de leider van de LockBit-bende, Dmitri Joerjevitsj Choro­sjev, alias LockBitSupp. Op de FBI-posters stond de foto van Chorosjev. Die reageerde brutaal door T-shirts te laten drukken met daarop de FBI-poster, en postte vervolgens foto’s van zichzelf waarop hij het T-shirt draagt.

Zo overblufte hij de Amerikaanse veiligheidsdienst. Tegelijk bewijzen dergelijke strapatsen ook dat cybercriminelen steeds vaker een gezicht krijgen en in het nauw worden gedreven.

Chorosjev leverde ‘ransomware as a service’ (RaaS) en liet hackers als onderaannemers voor zich werken. Zolang zij provisie betaalden en hun slachtoffers capituleerden om toch (een deel van) hun gestolen data te kunnen behouden, was dat profijtelijk. Maar de Britse National Crime Agency (NCA) infiltreerde in ­fe­bruari de darknet-site van Lockbit. In mei was de zaak rond. Met hulp van politiediensten uit vijftien andere landen (waaronder Nederland) werd Chorosjev uit de lucht gehaald. Met gevoel voor Britse ironie plaatste de NCA op zijn site instructies om data beter te beschermen. Als jij kunt pesten, dan pesten wij ook.

Te weinig coördinatie

Niet iedereen in Helsinki was overtuigd van het blijvende karakter van de recente overwinningen op de hackers. Sinds Russische hackers in 2007 de complete digitale infrastructuur van Estland lamlegden, mag Toomas Hendrik Ilves (70) zich ervaringsdeskundige noemen.

Hij was destijds president. Zijn regering besloot een foeilelijk monument uit de Sovjet-tijd te verplaatsen naar een minder prominente plek. Als reactie begonnen hackers een 22 dagen durende aanval op zijn land. De schade was enorm.

Ilves is somber over de strijd tegen politiek gemotiveerde cybercampagnes. ‘We zitten in een security-nachtmerrie. De ­tegenstander opereert vanuit vijandige staten over de landsgrenzen heen. Zij die de bloedbaden in Oekraïne aanrichten, zijn dezelfde personen die onze digitale in­frastructuur binnendringen. Onze defensie is nog veel te nationaal.’

Ilves gaf enkele voorbeelden. In de ­Europese Unie valt cyberverdediging onder de Permanent Structured Cooperation (PESCO), onderdeel van het veiligheids- en defensiebeleid van de Europese Unie. Maar PESCO heeft te weinig middelen. NAVO-cyberbeveiligers beschermen alleen de alliantie zelf en missen het mandaat om EU-lidstaten te waarschuwen.

AI maakt het slechts complexer

Cyberspecialisten van de Five Eyes Community, een samenwerkingsverband van de geheime diensten van de Verenigde Staten, het Verenigd Koninkrijk, Canada, Australië en Nieuw-Zeeland, willen volgens Ilves niet eens met de EU-collega’s praten. Cyberchefs hebben een achtergrond als expert in de elektronische spionage (Signals Intelligence) bij een geheime dienst. En geheime diensten houden data het liefst voor zichzelf en willen geheimen hooguit uitruilen.

‘De EU-regelgeving vloeit voort uit het twintigste-eeuwse denken,’ stelde Ilves, ‘terwijl je cyberdefensie juist moet baseren op de 21ste eeuw.’

En: ‘AI maakt het allemaal nog complexer.’ Verbitterd constateerde de oud-president dat het Westen geen eenheid vormt tegen de aanvallen vanuit de zogeheten CRINKs, de vijandige landen China, Rusland, Iran en Noord-­Korea. Ilves imiteerde Donald Trump, straks mogelijk weer de president van de Verenigde Staten, die zijn onwetendheid over de digitale wereld niet verhulde toen hij het had over ‘The Cyber’ – alsof het om een honkbalploeg gaat.

Inerte EU

Hoogleraar Anu Bradford van de Columbia Law School in New York en schrijver van het boek Digital Empires – The Global Battle to Regulate Technology schetste het grotere plaatje. De Verenigde Staten zijn goed in innoveren, terwijl de Europese Unie goed is in reguleren. In China bepaalt de Communistische Partij de gang van de technologie. Wie trekt er aan het langste eind?

Autocratische regimes overal ter wereld zien de voordelen van het Chinese model. Ook daarom moeten de Verenigde Staten en de Europese Unie de handen ineenslaan en digitale technologie inzetten voor een mondiale vrije ­samenleving. Het gebeurt niet of nauwelijks.

De EU legt de grote Amerikaanse techbedrijven aan banden en deelt miljardenboetes uit wegens marktmisbruik, terwijl de Verenigde Staten de techgiganten juist de ruimte geven omdat ze bruikbaar zijn in de wedloop met China. ‘Zo verliest de democratie het van de autoritaire regimes,’ vreest Bradford.

Mensen reageren huiveringwekkend menselijk op AI

Zorgwekkend was ook de beschouwing van Kate Darling van het Massachusetts Institute of Technology (MIT) in Boston. Mensen omarmen nieuwe technologie zo innig dat ze er zelfs een persoonlijkheid aan toeschrijven.

Darling liet onder meer een filmpje zien van een Japanse fabriek waar de personeelsleden aan ochtendgymnasiek deden, ­terwijl robotarmen dezelfde bewegingen maakten. Het bedrijf ontdekte dat medewerkers hierdoor de robots als menselijke collega’s gingen zien en er zorgvuldiger mee omsprongen.

In de Verenigde Staten maakte het toonaangevende robotica-bedrijf Boston Dynamics een viervoetige robot die in zijn manier van lopen lijkt op een hond. Iemand plaatste een filmpje op sociale media waarop te zien is hoe een onverlaat de robot schopt. De robot deinsde terug. Talloze mensen belden de dierenbescherming.

In Amerikaanse ziekenhuizen verzorgen robots de verstrekking van medicijnen. Die robots kregen oer-Amerikaanse meisjesnamen als Betsy, want ziekenhuizen ontdekten dat patiënten er dan beter op reageren. Is er een foutje gemaakt en heeft de patiënt een verkeerde dosering gekregen, dan wordt er niet gefoeterd over de robot. Patiënten tonen begrip: ‘Betsy heeft zich weer eens vergist.’

Hilarisch, maar ook huiveringwekkend als je bedenkt dat de mensheid ook kunstmatige intelligentie dreigt te omarmen als een persoonlijke vriend. Wie eenzaam is, kan nu al een warme relatie aangaan met een door AI continu bijgewerkt computerindividu, dat alles van je weet. De Walt Disney-filmstudio’s ontwerpen de benodigde gezichten.

Moet er een wettelijk verbod komen op de inzet van AI op het terrein van de menselijke affectie? De risico’s van manipulatie en crimineel bedrog zijn hier het grootst. Maar er zijn al te veel bedrijven die erin investeerden en er geld mee verdienen. Dus is een appèl op zo’n juridisch taboe bij voorbaat kansloos.

Technologische revolutie

Hypponen sloot de conferentie af met een rocknummer dat hij door een AI-programma had laten componeren. Het strijdlied voor de wereldwijde cyberverdedigers klonk fantastisch en opzwepend: ‘Nerds, verenigt u! Wij zijn in opmars! Wij breken de codes! Tot diep in de nacht, koffie door onze aderen! De toetsenborden zijn onze zwaarden!’

AI-software had er maar een paar minuten voor nodig. In nog veel kortere tijd is de tekst om te zetten in willekeurig welke andere taal. Of kan het rocknummer veranderen in een tango, Italiaanse ballade of welke muziekstijl ook. Hypponen voorspelde ‘een technologische revolutie, waarvan we zoals altijd de snelheid overschatten en de uiteindelijke impact onderschatten’.