Portal:Künstliche Intelligenz/Beispiel-RAG

Beispiel für ein RAG

Wir haben ein Beispiel-RAG entsprechend der Grundanleitung erstellt. Der Bot beantwortet Fragen aus diesem Wiki für den gesamten Portalbereich KI (allerdings auch nur dazu!), zusätzlich sind die Mitarbeitenden des LLZ mit ihren Kontaktdaten hinterlegt. Sie können den Systemprompt für die Zeit des Logins ändern, er ist aber bereits optimiert.

Einschränkung: Die RAG-Nutzung liefert mit dem voreingestellten LLM die besten Ergebnisse. Alternativ können Sie noch MetaLlama 3.1. 8KB einstellen, andere LLM aber nicht (Buchsymbol neben dem LLM). Zudem scheint es derzeit nach mehreren Anfragen zu Problemen mit dem Systemspeicher zu kommen, daher steht am Ende jeder Antwort die Kurzanweisung, wie man den Speicher wieder freigibt. Wenn sich die Antwort merklich verzögert, nutzen Sie diese Anleitung zum Löschen des Verlaufs.Typische Fragen wären etwa: Was nützt KI Studierenden? Wo finde ich eine Anleitung zu MLU-KI? Was muss ich rechtlich beachten? Wer berät mich dazu? Wo finde ich den Selbstlernkurs für Lehrende usw. Die Antworten sind jeweils auf die Inhalte dieses Wiki-Portals zu KI beschränkt, eine Frage nach der Aufzeichnungstechnik im Hörsaal IX führt daher zu keiner sinnvollen Antwort, auch wenn sich diese Information hier im Wiki an anderer Stelle befindet.

Umsetzung des Beispiels

Wi Bei der Erstellung des Beispiels