Wie testen Sie ein KI-System vor dem Einsatz?

Der Test umfasst die Genauigkeit der Antworten, die korrekte Nutzung der Quellen, Berechtigungen, Grenzfälle, böswillige Eingaben, Integrationsfehler und das Verhalten bei fehlenden Informationen. Bei Agenten werden zudem die Aktionen getestet: was sie tun dürfen, mit welchen Bestätigungen und wie jeder Schritt protokolliert wird. Die Einführung kann mit einer Pilotgruppe beginnen.