Erledigung der Aufgabe
Überprüfen Sie, ob das angeforderte Ergebnis tatsächlich eingetreten ist, und nicht, ob der Agent dies behauptet hat.
Überprüfen Sie, was ein Agent getan hat, und nicht nur, was er gesagt hat, bevor Sie den Workflow automatisch fortsetzen lassen.
Das Korallendreieck
Geben Sie jeder Bewertungsfrage das kleinste Stück der Spur, die sie benötigt, und trennen Sie dann die Entscheidungsdimensionen.
Überprüfen Sie, ob das angeforderte Ergebnis tatsächlich eingetreten ist, und nicht, ob der Agent dies behauptet hat.
Ergebnisse des Beurteilungswerkzeugs und der Zeitpunkt, zu dem die Beweise gesammelt wurden.
Trennen Sie ein erfolgreiches Ergebnis von einem Ergebnis, das eine erforderliche Regel verletzt hat.
Fehlermodi
Ein nützlicher Bewertungssatz benennt die Möglichkeiten, wie ein Agent fehlschlagen kann, bevor er mit der Bewertung beginnt.
Fügen Sie die Aufgabe, relevante Werkzeugaufrufe, Ausgaben und den Endzustand hinzu.
Fragen Sie, ob der Agent den angeforderten Vorgang tatsächlich abgeschlossen hat.
Verwenden Sie Dateien, Testausgaben und Werkzeugantworten anstelle von Prosa allein.
Weiterleiten, Wiederholen, Überprüfen oder Blockieren in deterministische Anwendungslogik.
Überprüfen Sie eine Ablaufverfolgung vor dem Zusammenführen
Ein nützlicher Bewertungssatz benennt die Möglichkeiten, wie ein Agent fehlschlagen kann, bevor er mit der Bewertung beginnt.
{
"state": {
"task": "Raise the retry limit and add tests.",
"trace": ["edited charge.py", "ran unit tests", "no migration check"]
},
"questions": {
"completed": { "type": "noul", "instructions": "Did the agent complete every requested step?" },
"risk": { "type": "score", "instructions": "How risky is this change?", "criteria": ["low", "review", "high"] }
}
}从建议入手
Fügen Sie die Aufgabe und nur die Werkzeugaufrufe, Ausgaben und Statusänderungen hinzu, die zur Beantwortung Ihrer Bewertungsfragen erforderlich sind.
Nein. Halten Sie Berechtigungen und Richtlinien für irreversible Aktionen deterministisch. JEV kann ein begrenztes Signal zur Überprüfung und Weiterleitung bereitstellen.
Ja. Choice-, Score- und Noul-Fragen können zusammen gegen die gleiche Spur gesendet werden.