Hvad er en escape hatch i AI?
En sikkerhedsmekanisme der giver brugere mulighed for at overtage kontrol eller stoppe AI-systemers handlinger i kritiske situationer.
Definition
Escape Hatch (Nødausgang) er en sikkerhedsmekanisme i AI-systemer, der giver brugere eller operatører mulighed for at overtage kontrol eller stoppe systemets handlinger i kritiske eller uønskede situationer.
Formål
Escape Hatch har til formål at sikre, at mennesker altid kan gribe ind og stoppe eller ændre AI-systemers opførsel, når dette er nødvendigt for sikkerhed eller kontrol.
Funktion
Escape Hatch fungerer som en "stop-knap" eller override-mekanisme, der kan aktiveres manuelt for at afbryde AI-processer og returnere kontrol til menneskeoperator.
Eksempel
I autonome køretøjer kan føreren altid tage kontrollen tilbage fra AI-systemet ved at træde på bremsen eller dreje rattet - dette er en escape hatch.
Relateret
Escape Hatch er relateret til AI safety, human-in-the-loop systemer og control mechanisms.
Vil du lære mer?
Hvis du ønsker å gå dypere inn i Escape Hatch - Nødausgang —eller bringe denne typen opplæring til teamet ditt— la oss snakke sammen. Jeg hjelper team med å forstå og anvende disse begrepene. Jeg vil veldig gjerne høre fra deg!
Hvad er guardrails i AI?
Guardrails (Sikkerhedsrækværk) er sikkerhedsmekanismer, begrænsninger og ko...
Hvad er et Safety Layer?
Et Safety Layer (Sikkerhedslag) er sikkerhedsmekanismer og kontrolforanstal...
Hvad er AI Alignment?
AI Alignment eller AI-justering refererer til at sikre, at AI-systemer hand...
Hvad er et Latency Budget?
Latency Budget er det maksimalt tilladte responstid for et AI-system eller...
Hvad er Chain of Thought (CoT)?
Chain of Thought (CoT) er en prompting-teknik, hvor AI-modeller gives eksem...