model-risiko
Beslægtet begreb der påvirker, hvor sikker en samlet AI-løsning er.
Indlæser... LLM-sikkerhed
LLM-sikkerhed handler om at beskytte sprogmodeller mod angreb rettet mod deres input og output, herunder prompt injection, data-lækage og jailbreaks.
Gennemgået og kvalitetssikret ud fra praktisk erfaring med LLM-risikokortlægning i virksomheder. Kim
Hvordan har vi verificeret denne side?Vi tager ansvar for det indhold, vi udgiver. Ekspert verificeret betyder, at:Vores ekspert inden for emnet har sikret, at indholdet og rådgivningen er korrekt.Vi har gennemgået og kvalitetssikret de tal og kilder, der ligger til grund.
FAQ
Svar på de mest almindelige spørgsmål om at beskytte sprogmodeller i produktion.
LLM-sikkerhed hænger tæt sammen med beslægtede begreber og ydelser, som alle påvirker, hvor sikker en samlet AI-løsning er.
Beslægtet begreb der påvirker, hvor sikker en samlet AI-løsning er.
Ydelsen der sætter rammerne, når governance-delen skal håndteres fuldt ud.
Beslægtet begreb der påvirker, hvor sikker en samlet AI-løsning er.
Se hele ordbogen for flere begreber inden for AI.
Denne side er gennemgået og godkendt af Kim Like
Kim Like er AI- og udviklingskonsulent med mere end 10 års erfaring inden for web, software og automatisering for danske virksomheder. Han er principal konsulent hos AI Enterprise, hvor han sammen med et team driver større AI-projekter fra problemafklaring og planlægning til implementering og drift. Han skriver desuden kildekritisk om AI og automatisering, uden hype og uden løse påstande.
Ekspertiser
AI-sikkerhed
LLM-sikkerhed handler om at beskytte sprogmodeller mod angreb rettet mod deres input og output, herunder prompt injection, data-lækage og jailbreaks. Det er ikke det samme som at forklare, hvad en LLM er (se vores guide om hvad er en LLM), men et selvstændigt sikkerhedsfelt, der opstår, når sprogmodeller får adgang til virksomhedsdata og eksterne handlinger.
Hvad er prompt injection? Prompt injection er, når en ondsindet instruks smugles ind i det, en LLM læser, med det formål at få modellen til at ignorere sine oprindelige regler. Angrebet kan ligge skjult i et dokument, en webside eller andre data, som modellen behandler, uden at nogen medarbejder selv har skrevet noget forkert. Det gør truslen reel, fordi den ikke kræver en fejl fra brugeren, kun at modellen læser ondsindet indhold.
Hvorfor er LLM-guardrails nødvendige i en virksomhedskontekst? I en virksomhed har en LLM ofte adgang til følsomme data, systemer eller kundevendte flows. Uden guardrails kan et vellykket angreb føre til data-lækage eller uønskede handlinger udført i modellens navn. Guardrails begrænser, hvad modellen kan gøre og videregive, men de erstatter ikke governance og løbende kontrol, hvilket hænger tæt sammen med model-risiko.
Hvad kræver sikker LLM-brug i praksis? Sikker brug kræver en kombination af tekniske kontroller, klar governance og menneskelig kontrol af kritiske outputs. Det handler om at teste løbende, begrænse modellens adgang til det nødvendige og have en plan for, hvad der sker, når noget går galt. Vi arbejder med denne tilgang hos AI Enterprise, hvor Kim Like som principal konsulent har erfaring med at kortlægge risici, før en LLM-løsning skaleres i en virksomhed.