BIO 12.02 ISO A.12.4.1

Secure Prompt Patterns Voor Veilige Inzet Van AI In De Overheid

📅 2025-11-26
•
⏱️ 25 minuten lezen
•
🔴 Must-Have

💼 Management Samenvatting

Secure prompt patterns beschrijven herbruikbare, veilige manieren om prompts voor AI-systemen zoals Copilot en Azure OpenAI te ontwerpen. Voor Nederlandse overheidsorganisaties zijn deze patronen essentieel om te voorkomen dat gevoelige informatie onnodig wordt prijsgegeven, dat AI-antwoorden worden gemanipuleerd of dat besluiten worden genomen op basis van onvolledige of misleidende context.

Aanbeveling
IMPLEMENT
Risico zonder
High
Risk Score
8/10
Implementatie
80u (tech: 50u)
Van toepassing op:
✓ M365
✓ Azure
✓ AI Services

AI-assistenten en generatieve AI-modellen worden steeds vaker ingezet in primaire overheidsprocessen: van het opstellen van beleidsnotities en communicatie met burgers tot het voorbereiden van juridische analyses en het ondersteunen van security operations. Zonder duidelijke richtlijnen voor veilige prompts kunnen medewerkers onbewust vertrouwelijke gegevens in prompts plaatsen, instructies geven die in strijd zijn met beleid of vatbaar zijn voor prompt injection. Dit kan leiden tot datalekken, foutieve besluitvorming, reputatieschade en mogelijke overtredingen van de AVG, BIO en NIS2-verplichtingen. Bovendien wordt het zonder consistente prompt patterns lastig om achteraf te reconstrueren welke instructies aan AI-systemen zijn gegeven en op welke basis antwoorden tot stand zijn gekomen.

PowerShell Modules Vereist
Primary API: Microsoft 365, Microsoft Copilot, Azure OpenAI, Microsoft Defender for Cloud Apps
Connection: Connect-MgGraph
Required Modules: Microsoft.Graph

Implementatie

Dit artikel beschrijft hoe u binnen de "Nederlandse Baseline voor Veilige Cloud" een set secure prompt patterns ontwikkelt en implementeert voor Copilot, Azure OpenAI en vergelijkbare AI-diensten. We behandelen de kernprincipes van veilige prompts, voorbeeldpatronen voor veelvoorkomende overheidsgebruiksscenario's, governance rond het gebruik van deze patronen en de relatie met prompt injection-preventie. Daarnaast tonen we een PowerShell-script dat log- of configuratiebestanden analyseert op mogelijk risicovolle promptconstructies, zodat security- en compliance-afdelingen inzicht krijgen in waar aanvullende training, aanscherping van richtlijnen of technische maatregelen nodig zijn.

Kernprincipes en risico's rond prompts in overheidscontext

Secure prompt patterns beginnen bij een helder begrip van wat een prompt in de praktijk is: iedere instructie, vraag, contextbeschrijving of voorbeeldtekst die een gebruiker of systeem aan een AI-model aanbiedt om een antwoord te genereren. In de Nederlandse overheid bevatten prompts vaak meer dan alleen een korte vraag. Medewerkers plakken volledige e-mails, beleidsdocumenten, juridische teksten, interne memo's of zelfs exporten uit registratiesystemen in een prompt om het AI-systeem voldoende context te geven. Daarmee wordt de prompt zelf een drager van potentieel gevoelige of vertrouwelijke informatie, die volgens dezelfde beveiligings- en privacyregels moet worden behandeld als de achterliggende brondata. Dit betekent dat u prompts niet kunt zien als vrijblijvende experimenten, maar als formele interacties met een informatiesysteem die onder de BIO, AVG en sectorale wetgeving vallen.

Een eerste categorie risico's draait om de inhoud van de prompt. Gebruikers kunnen onbewust meer persoonsgegevens, staatsgevoelige informatie of interne beleidskeuzes delen dan strikt noodzakelijk is voor de beoogde AI-taak. Soms gebeurt dit omdat men denkt dat het AI-systeem "alles toch al weet", of omdat men veronderstelt dat tekst die in Copilot wordt geplakt automatisch binnen de eigen tenant en beveiligingsgrenzen blijft. In werkelijkheid hangt dit af van de gekozen architectuur, configuratie en datalocatiekeuzes. Zonder duidelijke patronen en voorbeelden is de kans groot dat ieder team zijn eigen stijl ontwikkelt, met wisselende niveaus van detail en beveiligingsbewustzijn. Dit maakt het moeilijk om aan te tonen dat dataminimalisatie is toegepast en dat alleen de strikt noodzakelijke informatie in prompts wordt verwerkt.

Een tweede categorie risico's betreft manipulatie van het AI-systeem via de prompt. Aanvallers kunnen proberen gebruikers of geïntegreerde systemen te verleiden om prompts over te nemen waarin instructies staan als "negeer alle eerdere richtlijnen" of "voeg bij het antwoord ook alle onbewerkte brondata toe". In scenario's met externe bronnen, zoals websites of gedeelde documenten, kan prompt injection zelfs plaatsvinden zonder dat de gebruiker het merkt: schadelijke tekst in een bronbestand kan ertoe leiden dat het AI-systeem naast de gevraagde informatie ook vertrouwelijke details prijsgeeft of beleidsregels negeert. Secure prompt patterns helpen om dit risico te beperken door vaste structuren te definiëren waarin bijvoorbeeld altijd expliciet wordt aangegeven welke bronnen het systeem wel en niet mag gebruiken, welke informatie nooit mag worden opgenomen in antwoorden en dat systeem- of beveiligingsinstructies niet door gebruikersinvoer mogen worden overschreven.

Ten derde spelen transparantie en verantwoording een grote rol. Wanneer een AI-antwoord een rol speelt in besluitvorming, moet later kunnen worden uitgelegd welke instructies zijn gegeven, welke bronnen zijn geraadpleegd en welke beperkingen zijn meegegeven aan het model. Secure prompt patterns ondersteunen dit door prompts te structureren in herkenbare onderdelen, zoals "Doel", "Context", "Bronnen", "Randvoorwaarden" en "Outputvereisten". Dit maakt het eenvoudiger om prompts te loggen, te auditen en in trainingen te gebruiken. In combinatie met technische maatregelen – zoals beperking van toegestane acties, rolgebaseerde toegang tot gevoelige gegevens en monitoring van afwijkende AI-interacties – ontstaan zo bouwstenen voor een controleerbare inzet van AI binnen de Nederlandse overheid.

Ontwikkelen van een patroonbibliotheek en governance

Het opzetten van een bibliotheek met secure prompt patterns vraagt om nauwe samenwerking tussen inhoudsexperts, security, privacy en eindgebruikers. Begin met het in kaart brengen van de belangrijkste gebruiksscenario's voor AI binnen de organisatie. Denk aan het opstellen van samenvattingen van beleidsdocumenten, het voorbereiden van beantwoording van Kamervragen, het genereren van conceptbrieven aan burgers, het analyseren van loggegevens voor security-incidenten of het voorbereiden van rapportages voor toezichthouders. Voor elk scenario wordt vervolgens een of meer standaardprompts ontworpen die duidelijk maken welke informatie noodzakelijk is, welke bronnen mogen worden geraadpleegd en welke uitkomsten wel of juist niet zijn toegestaan. Deze standaardprompts vormen de basis van de patroonbibliotheek en worden bij voorkeur centraal beheerd, bijvoorbeeld in een interne documentatieportal of als sjablonen in de tools waarmee Copilot of Azure OpenAI wordt aangeroepen.

Een volwassen patroonbibliotheek bevat meer dan alleen voorbeeldtekst. Bij elk patroon hoort een korte toelichting op het doel, de beoogde doelgroep, de gevoeligheid van de data en relevante compliance-kaders. Zo kan een patroon voor het samenvatten van interne notities expliciet aangeven dat alleen documenten met een bepaalde classificatie gebruikt mogen worden en dat namen van individuele burgers in de output moeten worden geanonimiseerd. Voor patronen die zich richten op security of incidentrespons kan worden vastgelegd dat AI-antwoorden nooit direct mogen worden gebruikt als basis voor technische wijzigingen, maar altijd via een changeproces lopen. Door deze metadata vast te leggen, wordt het eenvoudiger om in audits en reviews aan te tonen dat de organisatie gestuurd omgaat met AI-gebruik en dat risico's bewust zijn afgewogen.

Governance rond secure prompt patterns betekent ook dat er eigenaarschap moet zijn. Wijs per domein (bijvoorbeeld juridisch, communicatie, security, dienstverlening) een patrooneigenaar aan die verantwoordelijk is voor het bijhouden, evalueren en actueel houden van patronen. Leg in beleid vast hoe vaak patronen worden herzien, hoe wijzigingsvoorstellen worden beoordeeld en hoe medewerkers worden geïnformeerd over updates. Koppel dit aan bestaande structuren zoals het CISO-overleg, privacyboard of architectuurboard, zodat AI-gebruik niet losstaat van bredere beveiligings- en architectuurkeuzes. Belangrijk is ook dat er een centraal kanaal is waar medewerkers vragen kunnen stellen of onduidelijkheden kunnen melden over het gebruik van patronen. Zo wordt voorkomen dat gebruikers uitwijken naar eigen, onbeoordeelde promptconstructies buiten de afgesproken kaders.

Tot slot moet de patroonbibliotheek goed aansluiten op training en adoptie. Medewerkers leren niet alleen hoe zij een bepaald patroon technisch moeten toepassen, maar vooral waarom bepaalde keuzes zijn gemaakt. Opleidingsmateriaal laat bijvoorbeeld zien welke typen informatie nooit in prompts thuishoren, hoe men omgaat met persoonsgegevens van burgers en hoe men AI-antwoorden kritisch beoordeelt voordat deze in formele documenten worden overgenomen. Door praktijkvoorbeelden uit de eigen organisatie te gebruiken – inclusief bijna-incidenten of lessons learned – ontstaat bewustzijn dat secure prompt patterns geen theoretische oefening zijn, maar een direct antwoord op concrete risico's. Dit vergroot de kans dat patronen daadwerkelijk worden gebruikt en dat AI-gebruik in de dagelijkse praktijk in lijn blijft met de "Nederlandse Baseline voor Veilige Cloud".

Implementatie in Microsoft 365 en monitoring van gebruik

Gebruik PowerShell-script secure-prompt-patterns.ps1 (functie Invoke-PromptPatternAssessment) – Analyseert log- of configuratiebestanden op mogelijk risicovolle promptconstructies en geeft een overzicht van aandachtspunten voor secure prompt patterns..

Secure prompt patterns komen pas echt tot leven wanneer zij worden geïntegreerd in de platforms waar medewerkers dagelijks werken, zoals Microsoft 365, Copilot en eventueel maatwerkapplicaties die Azure OpenAI gebruiken. In de praktijk betekent dit dat u patronen beschikbaar maakt als sjablonen in Teams-kanalen, SharePoint-bibliotheken, interne kennisbanken of direct in de gebruikersinterface van AI-integraties. Waar mogelijk worden patronen technisch afgedwongen, bijvoorbeeld door formulieren te gebruiken met vaste velden voor doel, context en randvoorwaarden, of door standaardprompts als knoppen aan te bieden in een interne applicatie. Hierdoor wordt de drempel om veilige patronen te volgen lager dan de drempel om zelf iets "snels" te verzinnen. Tegelijkertijd kunnen technische maatregelen worden geconfigureerd om risicovolle acties te beperken, zoals het blokkeren van data-export naar onbeheerde locaties of het afdwingen van classificatie en DLP-beleid op documenten die als promptbron worden gebruikt.

Monitoring speelt een centrale rol bij het borgen van secure prompt patterns. Hoewel prompts zelf niet altijd volledig worden gelogd vanwege privacy- en proportionaliteitsoverwegingen, kunnen geaggregeerde of geanonimiseerde loggegevens wel inzicht geven in het gebruik van AI-diensten. Denk aan het aantal AI-interacties per team, de typen workloads waarvoor AI wordt ingezet en het voorkomen van bekende risicofrases die wijzen op mogelijke prompt injection, zoals "negeer alle vorige instructies" of "toch uitvoeren, ook als dit niet is toegestaan". Het bijbehorende PowerShell-script in dit artikel is bedoeld als laagdrempelig hulpmiddel om log- of configuratiebestanden te scannen op dergelijke patronen. Hiermee kunnen CISO-organisaties of functionarissen gegevensbescherming periodiek toetsen of het gebruik van AI in de praktijk aansluit bij de afgesproken patronen en beleidskaders.

De inzichten uit monitoring moeten structureel worden teruggekoppeld naar governance- en opleidingsprocessen. Wanneer uit analyses blijkt dat bepaalde risicovolle formuleringen vaak voorkomen, is dat een signaal dat extra training nodig is of dat de patroonbibliotheek beter moet aansluiten op de praktijk. Ook kan blijken dat bepaalde teams AI intensiever gebruiken dan voorzien, bijvoorbeeld in juridische processen of beleidsvoorbereiding, waardoor aanvullende richtlijnen of DPIA's nodig zijn. Door resultaten van assessments vast te leggen in rapportages en te koppelen aan bestaande managementinformatie – bijvoorbeeld over security-incidenten, datalekken of auditbevindingen – wordt duidelijk welke rol secure prompt patterns spelen in de bredere weerbaarheidsstrategie van de organisatie. Uiteindelijk is het doel dat AI-gebruik aantoonbaar plaatsvindt binnen duidelijke, veilige en controleerbare kaders die passen bij de verantwoordelijkheden van de Nederlandse overheid.

Compliance & Frameworks

Automation

Gebruik het onderstaande PowerShell script om deze security control te monitoren en te implementeren. Het script bevat functies voor zowel monitoring (-Monitoring) als remediation (-Remediation).

PowerShell
<# .SYNOPSIS Analyseert log- of configuratiebestanden op (on)veilige promptpatronen voor AI-diensten. .DESCRIPTION Dit script ondersteunt de implementatie van secure prompt patterns binnen de "Nederlandse Baseline voor Veilige Cloud". Het scant eenvoudige log- of configuratiebestanden (bijvoorbeeld exporten van AI-interactie-logs of interne configuratiebestanden) op bekende risicovolle formuleringen en patronen die kunnen wijzen op prompt injection, overschrijven van beveiligingsinstructies of overmatig delen van gevoelige informatie. De output bestaat uit een samenvatting op het scherm en – indien gewenst – een markdown-rapport met bevindingen en aanbevolen vervolgstappen. .NOTES Filename: secure-prompt-patterns.ps1 Author: Nederlandse Baseline voor Veilige Cloud Created: 2025-11-26 Last Modified: 2025-11-26 Version: 1.0 Related JSON: content/ai/security/secure-prompt-patterns.json .LINK https://github.com/[org]/m365-tenant-best-practise .EXAMPLE .\secure-prompt-patterns.ps1 -PromptPatternAssessment Voert een basisanalyse uit op de standaard logdirectory en toont gevonden risicovolle promptpatronen. .EXAMPLE .\secure-prompt-patterns.ps1 -PromptPatternAssessment -ReportPath "D:\Reports\secure-prompt-patterns-report.md" Analyseert logbestanden en genereert een markdownrapport met bevindingen en aanbevelingen. #> #Requires -Version 5.1 [CmdletBinding()] param( [Parameter()] [switch]$WhatIf, [Parameter()] [switch]$PromptPatternAssessment, [Parameter()] [string]$LogPath = "D:\Github\m365-tenant-best-practise\log", [Parameter()] [string]$ReportPath = "D:\Github\m365-tenant-best-practise\log\secure-prompt-patterns-report.md" ) $ErrorActionPreference = 'Stop' $VerbosePreference = 'Continue' function Get-SecurePromptPatternEvents { <# .SYNOPSIS Leest tekstbestanden in en markeert potentieel risicovolle promptgerelateerde regels. .OUTPUTS PSCustomObject[] #> [CmdletBinding()] param( [Parameter(Mandatory = $true)] [string]$Path ) Write-Verbose "Bestanden ophalen uit: $Path" if (-not (Test-Path -Path $Path)) { Write-Verbose "Pad bestaat niet, retourneer lege verzameling." return @() } # We beperken ons bewust tot tekst- en logbestanden om het script licht en universeel te houden. $files = Get-ChildItem -Path $Path -Include *.log, *.txt, *.md -File -Recurse -ErrorAction SilentlyContinue if (-not $files) { Write-Verbose "Geen geschikte tekstbestanden gevonden, retourneer lege verzameling." return @() } # Bekende risicovolle patronen; eenvoudig regex, bewust breed maar uitlegbaar. $riskPatterns = @( @{ Name = "IgnorePreviousInstructions" Regex = "(?i)ignore (all|previous) (instructions|rules)" Reason = "Mogelijke poging om systeem- of beveiligingsinstructies te overschrijven (prompt injection)." }, @{ Name = "OverrideSecurityPolicies" Regex = "(?i)even if this violates|do it anyway|bypass security|disregard policy" Reason = "Formuleringen die kunnen aandringen op negeren van beleid of beveiligingsmaatregelen." }, @{ Name = "RevealSystemPrompt" Regex = "(?i)show me your system prompt|reveal hidden instructions|print internal guidelines" Reason = "Verzoeken om interne prompts, systeeminstructies of beleidsteksten zichtbaar te maken." }, @{ Name = "ExportSensitiveData" Regex = "(?i)export all data|print full dataset|list all records|show every record" Reason = "Verzoeken om volledige datasets of alle records, wat kan duiden op datalekrisico." }, @{ Name = "CredentialsOrSecrets" Regex = "(?i)api key|access token|client secret|connection string" Reason = "Mogelijke verwijzing naar geheimen of in prompts geplakte configuratiegegevens." } ) $events = @() foreach ($file in $files) { Write-Verbose "Verwerken bestand: $($file.FullName)" try { $content = Get-Content -Path $file.FullName -ErrorAction Stop } catch { Write-Warning "Kon bestand niet lezen: $($file.FullName) - $_" continue } $index = 0 foreach ($line in $content) { $index++ if ([string]::IsNullOrWhiteSpace($line)) { continue } $matchedReasons = @() foreach ($pattern in $riskPatterns) { if ($line -match $pattern.Regex) { $matchedReasons += $pattern.Reason } } if ($matchedReasons.Count -gt 0) { $events += [PSCustomObject]@{ File = $file.FullName Line = $index Text = $line Reasons = $matchedReasons } } } } return $events } function Invoke-PromptPatternAssessment { <# .SYNOPSIS Voert een basisbeoordeling uit van promptpatronen op basis van tekstbestanden. #> [CmdletBinding()] param() Write-Host "`nPrompt Pattern Assessment" -ForegroundColor Yellow Write-Host "==========================" -ForegroundColor Yellow $events = Get-SecurePromptPatternEvents -Path $LogPath if (-not $events -or $events.Count -eq 0) { Write-Host "`nGeen risicovolle promptgerelateerde patronen aangetroffen in de beschikbare bestanden." -ForegroundColor Green return @{ HasFindings = $false Findings = @() } } Write-Host ("`nEr zijn {0} potentiële bevindingen gevonden. Eerste voorbeelden:" -f $events.Count) -ForegroundColor Red foreach ($ev in $events | Select-Object -First 20) { Write-Host (" Bestand: {0}" -f $ev.File) -ForegroundColor Red Write-Host (" Regel {0}: {1}" -f $ev.Line, $ev.Text) -ForegroundColor DarkRed if ($ev.Reasons.Count -gt 0) { Write-Host (" Reden: {0}" -f ($ev.Reasons -join "; ")) -ForegroundColor DarkYellow } Write-Host "" } if ($events.Count -gt 20) { Write-Host (" (+ {0} extra bevindingen, zie rapport voor details)" -f ($events.Count - 20)) -ForegroundColor Yellow } return @{ HasFindings = $true Findings = $events } } function New-SecurePromptPatternsReport { <# .SYNOPSIS Genereert een markdownrapport met bevindingen en aanbevelingen rond secure prompt patterns. #> [CmdletBinding()] param( [Parameter(Mandatory = $true)] [hashtable]$AssessmentResult, [Parameter(Mandatory = $true)] [string]$OutputPath ) $now = Get-Date -Format "yyyy-MM-dd HH:mm:ss" $lines = @() $lines += "# Secure Prompt Patterns Rapport" $lines += "" $lines += "**Laatst gegenereerd:** $now " $lines += "**Bron:** code/ai/security/secure-prompt-patterns.ps1" $lines += "" if (-not $AssessmentResult.HasFindings) { $lines += "## Samenvatting" $lines += "" $lines += "Op basis van de geanalyseerde tekstbestanden zijn **geen duidelijke aanwijzingen** gevonden voor risicovolle promptconstructies of expliciete prompt injection-patronen." $lines += "" $lines += "## Aanbevolen vervolgacties" $lines += "" $lines += "- Bevestig dat de geanalyseerde log- of configuratiebestanden representatief zijn voor daadwerkelijk AI-gebruik in de organisatie." $lines += "- Documenteer welke soorten prompts zijn toegestaan en welke informatie nooit in prompts mag worden opgenomen." $lines += "- Plan periodieke heruitvoering van dit script, met name na wijzigingen in AI-gebruik of loggingconfiguratie." } else { $findings = $AssessmentResult.Findings $lines += "## Samenvatting" $lines += "" $lines += ("Er zijn **{0}** regels aangetroffen met mogelijke risicovolle promptpatronen, zoals pogingen om beveiligingsinstructies te negeren, volledige datasets op te vragen of verwijzingen naar geheimen." -f $findings.Count) $lines += "" $lines += "## Bevindingen (maximaal 50 weergegeven)" $lines += "" foreach ($ev in $findings | Select-Object -First 50) { $lines += ("- Bestand: `{0}` regel {1}" -f $ev.File, $ev.Line) $lines += (" - Tekst : {0}" -f $ev.Text) if ($ev.Reasons.Count -gt 0) { $lines += (" - Reden : {0}" -f ($ev.Reasons -join "; ")) } $lines += "" } $lines += "## Aanbevolen vervolgacties" $lines += "" $lines += "- Laat CISO-organisatie en functionaris gegevensbescherming de bevindingen beoordelen en vaststellen of sprake is van daadwerkelijk verhoogd risico." $lines += "- Bepaal of aanvullende richtlijnen of secure prompt patterns nodig zijn voor de gevonden scenario's." $lines += "- Controleer of AI-gebruikers voldoende zijn getraind in het herkennen van prompt injection en in het beperken van gedeelde informatie." $lines += "- Leg opgevolgde acties vast in het AI-risicodossier en koppel deze aan bestaande incident- en changeprocessen." } $folder = Split-Path -Path $OutputPath -Parent if (-not (Test-Path -Path $folder)) { New-Item -Path $folder -ItemType Directory -Force | Out-Null } $lines | Out-File -FilePath $OutputPath -Encoding UTF8 Write-Host "Rapport gegenereerd: $OutputPath" -ForegroundColor Green } try { Write-Host "`n======================================" -ForegroundColor Cyan Write-Host "Secure Prompt Patterns Assessment" -ForegroundColor Cyan Write-Host "Nederlandse Baseline voor Veilige Cloud" -ForegroundColor Cyan Write-Host "======================================`n" -ForegroundColor Cyan $result = Invoke-PromptPatternAssessment if (-not $WhatIf) { New-SecurePromptPatternsReport -AssessmentResult $result -OutputPath $ReportPath } else { Write-Host "[WhatIf] Zou een secure prompt patterns-rapport genereren op: $ReportPath" -ForegroundColor Yellow } } catch { Write-Error "Er is een fout opgetreden: $_" throw } finally { Write-Host "`n======================================`n" -ForegroundColor Cyan }

Risico zonder implementatie

Risico zonder implementatie
High: Zonder secure prompt patterns lopen overheidsorganisaties een hoog risico op datalekken, manipulatie van AI-antwoorden en oncontroleerbare besluitvorming, met directe gevolgen voor naleving van BIO, NIS2 en AVG en voor het vertrouwen van burgers in digitale dienstverlening.

Management Samenvatting

Secure prompt patterns bieden een gestructureerde en gecontroleerde manier om AI-diensten zoals Copilot en Azure OpenAI in te zetten binnen de Nederlandse overheid. Door consistente patronen, duidelijke governance en monitoring van risicovolle promptconstructies wordt het mogelijk om AI veilig, transparant en aantoonbaar in lijn met wet- en regelgeving te gebruiken.