Taalmodellen
Jailbreak
Jailbreak
Een jailbreak is een techniek met prompts die een groot taalmodel tekst laat geven die zijn veiligheidsregels willen tegenhouden. Bij een gewone, directe vraag weigert het model die tekst, maar een jailbreak herformuleert het verzoek zodat die weigering uitblijft. Daardoor kan een chatbot, zoals een digitale hulpchat op een school, toch inhoud geven die de maker met die veiligheidsregels wilde tegenhouden.