Sinds 2 augustus gelden in de Europese Unie nieuwe regels die ervoor moeten zorgen dat consumenten beter kunnen herkennen wanneer zij met kunstmatige intelligentie (AI) te maken hebben. Chatbots, AI-gegenereerde afbeeldingen, video's en andere toepassingen moeten in meer gevallen duidelijk als zodanig herkenbaar zijn. De nieuwe regels maken deel uit van de Europese AI Act en zijn bedoeld om transparantie te vergroten, misleiding tegen te gaan en het vertrouwen in AI te versterken.
AI is overal, maar niet altijd herkenbaar
Kunstmatige intelligentie speelt een steeds grotere rol in ons dagelijks leven. We gebruiken AI om teksten te schrijven, afbeeldingen te maken, vragen te beantwoorden en zelfs complete video's of stemmen te genereren. Ook bedrijven zetten AI op grote schaal in voor klantenservice, productadvies en administratieve processen.
Het probleem is dat AI steeds moeilijker van menselijke communicatie is te onderscheiden. Een chatbot kan overtuigend een gesprek voeren, een AI-gegenereerde foto lijkt soms nauwelijks van echt te onderscheiden en met zogenoemde deepfakes kunnen zelfs video's of telefoongesprekken worden vervalst. Dat biedt kansen, maar brengt ook risico's met zich mee, zoals desinformatie, identiteitsfraude en geavanceerde phishing.
Nieuwe Europese regels zijn nu van kracht
Om consumenten beter te beschermen, zijn sinds 2 augustus nieuwe verplichtingen uit de Europese AI Act van kracht geworden. Organisaties die AI gebruiken, moeten in meer situaties duidelijk maken dat daarvan sprake is.
Dat betekent onder meer dat:
* chatbots herkenbaar moeten zijn als AI-assistent;
* gebruikers moeten weten wanneer zij niet met een mens communiceren;
* AI-gegenereerde afbeeldingen, video's en geluidsfragmenten in bepaalde gevallen als zodanig herkenbaar moeten zijn;
* aanbieders transparanter moeten zijn over de werking van AI-systemen die een grotere invloed op mensen kunnen hebben.
Het doel is niet om AI te beperken, maar om gebruikers beter te informeren zodat zij bewuster kunnen omgaan met de informatie die zij ontvangen.
Waarom deze regels nodig zijn
De ontwikkeling van AI gaat razendsnel. Waar enkele jaren geleden nog duidelijk zichtbaar was dat een afbeelding of tekst door een computer was gemaakt, is dat tegenwoordig vaak nauwelijks nog te herkennen.
Daar maken helaas ook cybercriminelen gebruik van. Zij zetten AI in om geloofwaardige phishingmails te schrijven, stemmen van familieleden of collega's na te bootsen, nepvideo's te produceren en desinformatie op grote schaal te verspreiden.
Door gebruikers beter te informeren wanneer AI wordt ingezet, wil de Europese Unie voorkomen dat mensen ongemerkt worden misleid.
Wat merk je daar als consument van?
Veel mensen zullen de nieuwe regels vooral merken tijdens het gebruik van online diensten.
Zo kun je bijvoorbeeld een melding zien dat je met een AI-chatbot communiceert in plaats van met een medewerker. Ook kunnen websites aangeven dat een afbeelding, video of geluidsfragment met behulp van AI is gemaakt of bewerkt. Daarnaast zullen organisaties vaker uitleg geven over het gebruik van AI binnen hun dienstverlening.
De veranderingen zullen niet overal tegelijk zichtbaar zijn. Sommige aanbieders voldeden al aan de nieuwe eisen, terwijl anderen hun systemen de komende periode verder moeten aanpassen.
AI blijft gewoon toegestaan
De nieuwe regels betekenen nadrukkelijk niet dat AI wordt verboden. Integendeel: de Europese Unie ziet AI juist als een belangrijke technologie voor innovatie en economische groei.
Wel worden er duidelijke grenzen gesteld aan toepassingen die grote gevolgen kunnen hebben voor burgers. Hoe groter het risico van een AI-systeem, hoe zwaarder de verplichtingen voor de aanbieder. Voor toepassingen met een beperkt risico ligt de nadruk vooral op openheid en transparantie.
Wat betekent dit voor HCC-leden?
Voor HCC-leden zijn de nieuwe regels een positieve ontwikkeling. Meer transparantie maakt het eenvoudiger om te herkennen wanneer AI wordt gebruikt en helpt gebruikers om informatie beter op waarde te schatten.
Toch is het belangrijk om alert te blijven. Ook wanneer duidelijk wordt vermeld dat AI is gebruikt, betekent dat niet automatisch dat de inhoud volledig correct of betrouwbaar is. Controleer belangrijke informatie daarom altijd via meerdere betrouwbare bronnen.
Wees bovendien extra voorzichtig met onverwachte telefoontjes, e-mails, video's of geluidsfragmenten waarin iemand om geld, persoonlijke gegevens of inlogcodes vraagt. Dankzij AI kunnen oplichters tegenwoordig zeer overtuigende nepberichten maken.
Digitale weerbaarheid blijft daarom minstens zo belangrijk als nieuwe wetgeving.
Standpunt van HCC
HCC juicht de nieuwe Europese transparantieregels toe. Kunstmatige intelligentie biedt enorme kansen voor innovatie, efficiëntie en gebruiksgemak, maar gebruikers moeten wel kunnen herkennen wanneer AI wordt ingezet.
Meer openheid helpt om vertrouwen op te bouwen en maakt het moeilijker voor kwaadwillenden om AI te misbruiken voor phishing, deepfakes en andere vormen van digitale fraude. Tegelijkertijd is wetgeving alleen niet voldoende. Bewustwording, digitale vaardigheden en kritisch blijven denken blijven de beste bescherming.
HCC zal de verdere invoering van de Europese AI Act blijven volgen en leden informeren over nieuwe ontwikkelingen. Zo kunnen zij veilig profiteren van de mogelijkheden die AI biedt, zonder de risico's uit het oog te verliezen.