Jailbreak

Jailbreaks er formuleringer, der forsøger at få modellen til at gå uden om sine regler, ofte ved at pakke anmodningen ind i en rolle eller et hypotetisk scenarie. Udbyderne lukker dem løbende, men nye dukker op.

For en kundeservice-assistent er risikoen sjældent farlige svar, men upassende svar i jeres navn. Derfor kører vi med en snæver systeminstruktion, et fast emneområde og logning, så vi kan se, hvad der blev spurgt om, og hvad der blev svaret.