Vad är en Escape Hatch?
En Escape Hatch är en säkerhetsmekanism som tillhandahåller mänsklig kontroll över AI-system i kritiska situationer.
Definition
En Escape Hatch är en inbyggd säkerhetsmekanism som gör det möjligt för människor att omedelbart ta kontroll över eller stoppa ett AI-system när det beter sig oväntat eller farligt.
Syfte
Escape Hatches säkerställer att människor alltid kan ingripa och åsidosätta AI-beslut, särskilt i kritiska eller högriksituationer.
Funktion
Mekanismen ger användare direkt åtkomst till att pausa, stoppa, återgå till manuell kontroll eller aktivera säkra standardinställningar.
Exempel
En nodsäkerhet-knapp i autonoma fordon, manuell övergång i automatiserade handelssystem eller mänsklig godkännelse för kritiska medicinska beslut.
Relaterat
Human-in-the-Loop, Safety Layer, Fail-Safe Mechanisms, AI Safety
Vill du veta mer?
Om du vill fördjupa dig i Escape Hatch —eller ta den här typen av utbildning till ditt team— låt oss prata. Jag hjälper team att förstå och tillämpa dessa begrepp. Jag vill gärna höra från dig!
Vad är Guardrails?
Guardrails är säkerhetsmekanismer och begränsningar som implementeras för a...
Vad är ett säkerhetslager inom AI?
Ett säkerhetslager (Safety Layer) är en uppsättning skyddsmekanismer, filte...
Vad är en förtroendegräns inom AI?
En förtroendegräns (Trust Boundary) inom AI definierar de punkter i ett sys...
Vad är AI Alignment?
AI Alignment är det vetenskapliga och tekniska området som fokuserar på att...
Vad är RAG (Retrieval-Augmented Generation)?
RAG (Retrieval-Augmented Generation) är en AI-teknik som kombinerar informa...