Wie reduziert man Halluzinationen eines Chatbots?

Halluzinationen lassen sich nicht vollständig beseitigen, aber durch die Kombination von kontrollierten Quellen, Retrieval, präzisen Anweisungen, Konfidenzschwellen, Quellenangaben, Validierungen und Fallbacks reduzieren. Für kritische Aufgaben kommen deterministische Regeln und menschliche Freigabe hinzu. Zudem werden vor der Freigabe normale, mehrdeutige und gezielt herausfordernde Fragen getestet.