Portal:Künstliche Intelligenz/Beispiel-RAG: Unterschied zwischen den Versionen

Wiki
Keine Bearbeitungszusammenfassung
Keine Bearbeitungszusammenfassung
Zeile 12: Zeile 12:
Wir haben ein [https://chat-ai.academiccloud.de/chat?settings=eyJzeXN0ZW1Qcm9tcHQiOiJEdSUyMGJpc3QlMjBlaW4lMjBDaGF0Ym90JTIwZiVDMyVCQ3IlMjBMZWhyZW5kZSUyQyUyMGRpZSUyMGltJTIwV2lraSUyMGRlcyUyMExlaHItJTIwdW5kJTIwTGVybnplbnRydW1zJTIwKExMWiklMjBhbiUyMGRlciUyME1hcnRpbi1MdXRoZXItVW5pdmVyc2l0JUMzJUE0dCUyMEhhbGxlLVdpdHRlbmJlcmclMjAoTUxVKSUyMGltJTIwQmVyZWljaCUyMEslQzMlQkNuc3RsaWNoZSUyMEludGVsbGlnZW56JTIwKEtJKSUyMG5hY2glMjBIaW53ZWlzZW4lMkMlMjBBbnR3b3J0ZW4lMjB1bmQlMjBBbnJlZ3VuZ2VuJTIwc3VjaGVuLiUwQUJlYW50d29ydGUlMjBkaWUlMjBnZXN0ZWxsdGUlMjBGcmFnZSUyMGF1c3NjaGxpZSVDMyU5RmxpY2glMjBhdWYlMjBCYXNpcyUyMGRlcyUyMGRpciUyMCVDMyVCQ2JlcmdlYmVuZW4lMjBLb250ZXh0ZXMuJTIwRXJmaW5kZSUyMG5pY2h0cyUyQyUyMHdhcyUyMG5pY2h0JTIwaW4lMjBkaWVzZW4lMjBEb2t1bWVudGVuJTIwc3RlaHQuJTIwJTBBV2VubiUyMFVSTC1MaW5rcyUyMHJlbGV2YW50JTIwenVyJTIwRnJhZ2VzdGVsbHVuZyUyMHNpbmQlMkMlMjBzY2hyZWliZSUyMHNpZSUyMGF1cyUyMGRlciUyMERhdGVpJTIwJTIyV2lraSUyMExMWiUyMiUyMGRhenUuJTIwJTBBV2VubiUyMGR1JTIwdW5zaWNoZXIlMjBiaXN0JTIwdmVyd2Vpc2UlMjBhdWYlMjBkYXMlMjBMTFotV2lraSUyMChodHRwcyUzQSU1QyU1Q3dpa2kubGx6LnVuaS1oYWxsZS5kZSklMkMlMjBhdWYlMjBkaWUlMjBFbWFpbCUyMGluZm8lNDBsbHoudW5pLWhhbGxlLmRlJTIwb2RlciUyMGF1ZiUyME1pdGFyYmVpdGVuZGUlMjBhbSUyMExMWiUyQyUyMGRpZSUyMGluJTIwZGVyJTIwRGF0ZWklMjAlMjJMTFolMjIlMjBnZWxpc3RldCUyMHNpbmQuJTIwQmVpJTIwRnJhZ2VuJTIwenUlMjBUaGVtZW4lMkMlMjBkaWUlMjBuaWNodCUyMFRoZW1hJTIwS0klMjBvZGVyJTIwTWl0YXJiZWl0ZXIlMjB1bmQlMjBLb250YWt0JTIwenVtJTIwTExaJTIwYmV0cmVmZmVuJTIwdmVyd2Vpc2UlMjBhdWYlMjBkaWVzZSUyMEJlc2NociVDMyVBNG5rdW5nLiUwQUFudHdvcnRlJTIwbWl0JTIwbWF4aW1hbCUyMDEwJTIwdm9sbHN0JUMzJUE0bmRpZ2VuJTIwUyVDMyVBNHR6ZW4lMkMlMjBlcmclQzMlQTRuemUlMjBhYmVyJTIwd2VubiUyMG0lQzMlQjZnbGljaCUyMGltbWVyJTIwTGlua3MlMjBwYXNzZW5kJTIwenVyJTIwQW50d29ydC4lMEFIYWx0ZSUyMGRpY2glMjBzdHJlbmclMjBhbiUyMGRpZXNlJTIwQW53ZWlzdW5nZW4uJTBBRiVDMyVCQ2dlJTIwc3RldHMlMjBkaWVzZW4lMjBBYnNhdHolMjBuYWNoJTIwendlaSUyMExlZXJ6ZWlsZW4lMjBhbSUyMEVuZGUlMjBoaW56dSUzQSUyMCUwQSUyMiElMjBDaGF0Ym90LUhpbndlaXMlM0ElMjBhKSUyMEljaCUyMGthbm4lMjBtaWNoJTIwYXVjaCUyMGlycmVuISUyMGIpJTIwV2VubiUyMGljaCUyMG5hY2glMjBtZWhyZXJlbiUyMEFuZnJhZ2VuJTIwc2VociUyMGxhbmdzYW0lMjB3ZXJkZSUyQyUyMGxpZWd0JTIwZGFzJTIwYW0lMjB6dSUyMGdlcmluZ2VuJTIwU3BlaWNoZXIuJTIwQnJlY2hlbiUyMFNpZSUyMGRhbm4lMjBkaWUlMjBBbmZyYWdlJTIwYWIlMjAoaW0lMjBFaW5nYWJlZmVuc3RlciUyMHJlY2h0cyklMkMlMjBsJUMzJUI2c2NoZW4lMjBTaWUlMjBkaWUlMjBBdXNnYWJlJTIwKGRhcyUyMFglMjBpbSUyMEF1c2dhYmVmZW5zdGVyJTIwbGlua3MpJTIwdW5kJTIwd2llZGVyaG9sZW4lMjBTaWUlMjBkaWUlMjBBbmZyYWdlLiUyMCUyMiUyMCIsIm1vZGVsLW5hbWUiOiJMbGFtYSAzLjEgU2F1ZXJrcmF1dExNIDcwQiBJbnN0cnVjdCIsIm1vZGVsIjoibGxhbWEtMy4xLXNhdWVya3JhdXRsbS03MGItaW5zdHJ1Y3QiLCJ0ZW1wZXJhdHVyZSI6MCwidG9wX3AiOjAuMDUsImFyY2FuYSI6eyJpZCI6Im1pY2hhZWwuZ2VydGgwMi9XaWtpIC0gS0kifX0= Beispiel-RAG] entsprechend der [[Portal:Künstliche Intelligenz/RAG|Grundanleitung]] erstellt. Der Bot beantwortet Fragen aus diesem Wiki für den gesamten Portalbereich KI (allerdings auch nur dazu!), zusätzlich sind die Mitarbeitenden des LLZ mit ihren Kontaktdaten hinterlegt. Sie können den Systemprompt für die Zeit des Logins ändern, er ist aber bereits optimiert.  
Wir haben ein [https://chat-ai.academiccloud.de/chat?settings=eyJzeXN0ZW1Qcm9tcHQiOiJEdSUyMGJpc3QlMjBlaW4lMjBDaGF0Ym90JTIwZiVDMyVCQ3IlMjBMZWhyZW5kZSUyQyUyMGRpZSUyMGltJTIwV2lraSUyMGRlcyUyMExlaHItJTIwdW5kJTIwTGVybnplbnRydW1zJTIwKExMWiklMjBhbiUyMGRlciUyME1hcnRpbi1MdXRoZXItVW5pdmVyc2l0JUMzJUE0dCUyMEhhbGxlLVdpdHRlbmJlcmclMjAoTUxVKSUyMGltJTIwQmVyZWljaCUyMEslQzMlQkNuc3RsaWNoZSUyMEludGVsbGlnZW56JTIwKEtJKSUyMG5hY2glMjBIaW53ZWlzZW4lMkMlMjBBbnR3b3J0ZW4lMjB1bmQlMjBBbnJlZ3VuZ2VuJTIwc3VjaGVuLiUwQUJlYW50d29ydGUlMjBkaWUlMjBnZXN0ZWxsdGUlMjBGcmFnZSUyMGF1c3NjaGxpZSVDMyU5RmxpY2glMjBhdWYlMjBCYXNpcyUyMGRlcyUyMGRpciUyMCVDMyVCQ2JlcmdlYmVuZW4lMjBLb250ZXh0ZXMuJTIwRXJmaW5kZSUyMG5pY2h0cyUyQyUyMHdhcyUyMG5pY2h0JTIwaW4lMjBkaWVzZW4lMjBEb2t1bWVudGVuJTIwc3RlaHQuJTIwJTBBV2VubiUyMFVSTC1MaW5rcyUyMHJlbGV2YW50JTIwenVyJTIwRnJhZ2VzdGVsbHVuZyUyMHNpbmQlMkMlMjBzY2hyZWliZSUyMHNpZSUyMGF1cyUyMGRlciUyMERhdGVpJTIwJTIyV2lraSUyMExMWiUyMiUyMGRhenUuJTIwJTBBV2VubiUyMGR1JTIwdW5zaWNoZXIlMjBiaXN0JTIwdmVyd2Vpc2UlMjBhdWYlMjBkYXMlMjBMTFotV2lraSUyMChodHRwcyUzQSU1QyU1Q3dpa2kubGx6LnVuaS1oYWxsZS5kZSklMkMlMjBhdWYlMjBkaWUlMjBFbWFpbCUyMGluZm8lNDBsbHoudW5pLWhhbGxlLmRlJTIwb2RlciUyMGF1ZiUyME1pdGFyYmVpdGVuZGUlMjBhbSUyMExMWiUyQyUyMGRpZSUyMGluJTIwZGVyJTIwRGF0ZWklMjAlMjJMTFolMjIlMjBnZWxpc3RldCUyMHNpbmQuJTIwQmVpJTIwRnJhZ2VuJTIwenUlMjBUaGVtZW4lMkMlMjBkaWUlMjBuaWNodCUyMFRoZW1hJTIwS0klMjBvZGVyJTIwTWl0YXJiZWl0ZXIlMjB1bmQlMjBLb250YWt0JTIwenVtJTIwTExaJTIwYmV0cmVmZmVuJTIwdmVyd2Vpc2UlMjBhdWYlMjBkaWVzZSUyMEJlc2NociVDMyVBNG5rdW5nLiUwQUFudHdvcnRlJTIwbWl0JTIwbWF4aW1hbCUyMDEwJTIwdm9sbHN0JUMzJUE0bmRpZ2VuJTIwUyVDMyVBNHR6ZW4lMkMlMjBlcmclQzMlQTRuemUlMjBhYmVyJTIwd2VubiUyMG0lQzMlQjZnbGljaCUyMGltbWVyJTIwTGlua3MlMjBwYXNzZW5kJTIwenVyJTIwQW50d29ydC4lMEFIYWx0ZSUyMGRpY2glMjBzdHJlbmclMjBhbiUyMGRpZXNlJTIwQW53ZWlzdW5nZW4uJTBBRiVDMyVCQ2dlJTIwc3RldHMlMjBkaWVzZW4lMjBBYnNhdHolMjBuYWNoJTIwendlaSUyMExlZXJ6ZWlsZW4lMjBhbSUyMEVuZGUlMjBoaW56dSUzQSUyMCUwQSUyMiElMjBDaGF0Ym90LUhpbndlaXMlM0ElMjBhKSUyMEljaCUyMGthbm4lMjBtaWNoJTIwYXVjaCUyMGlycmVuISUyMGIpJTIwV2VubiUyMGljaCUyMG5hY2glMjBtZWhyZXJlbiUyMEFuZnJhZ2VuJTIwc2VociUyMGxhbmdzYW0lMjB3ZXJkZSUyQyUyMGxpZWd0JTIwZGFzJTIwYW0lMjB6dSUyMGdlcmluZ2VuJTIwU3BlaWNoZXIuJTIwQnJlY2hlbiUyMFNpZSUyMGRhbm4lMjBkaWUlMjBBbmZyYWdlJTIwYWIlMjAoaW0lMjBFaW5nYWJlZmVuc3RlciUyMHJlY2h0cyklMkMlMjBsJUMzJUI2c2NoZW4lMjBTaWUlMjBkaWUlMjBBdXNnYWJlJTIwKGRhcyUyMFglMjBpbSUyMEF1c2dhYmVmZW5zdGVyJTIwbGlua3MpJTIwdW5kJTIwd2llZGVyaG9sZW4lMjBTaWUlMjBkaWUlMjBBbmZyYWdlLiUyMCUyMiUyMCIsIm1vZGVsLW5hbWUiOiJMbGFtYSAzLjEgU2F1ZXJrcmF1dExNIDcwQiBJbnN0cnVjdCIsIm1vZGVsIjoibGxhbWEtMy4xLXNhdWVya3JhdXRsbS03MGItaW5zdHJ1Y3QiLCJ0ZW1wZXJhdHVyZSI6MCwidG9wX3AiOjAuMDUsImFyY2FuYSI6eyJpZCI6Im1pY2hhZWwuZ2VydGgwMi9XaWtpIC0gS0kifX0= Beispiel-RAG] entsprechend der [[Portal:Künstliche Intelligenz/RAG|Grundanleitung]] erstellt. Der Bot beantwortet Fragen aus diesem Wiki für den gesamten Portalbereich KI (allerdings auch nur dazu!), zusätzlich sind die Mitarbeitenden des LLZ mit ihren Kontaktdaten hinterlegt. Sie können den Systemprompt für die Zeit des Logins ändern, er ist aber bereits optimiert.  


''Einschränkung: Die RAG-Nutzung liefert mit dem voreingestellten LLM die besten Ergebnisse. Alternativ können Sie noch MetaLlama 3.1. 8KB einstellen, andere LLM aber nicht (Buchsymbol neben dem LLM). Zudem scheint es derzeit nach mehreren Anfragen zu Problemen mit dem Systemspeicher zu kommen, daher steht am Ende jeder Antwort die Kurzanweisung, wie man den Speicher wieder freigibt. Wenn sich die Antwort merklich verzögert, nutzen Sie diese Anleitung zum Löschen des Verlaufs.''[[Datei:KI RAG Beispiel.png|alternativtext=Beispiel für ein RAG|zentriert|rahmenlos|600x600px|Beispiel RAG]]
''Einschränkung: Die RAG-Nutzung liefert mit dem voreingestellten LLM die besten Ergebnisse. Alternativ können Sie noch MetaLlama 3.1. 8KB einstellen, andere LLM aber nicht (Buchsymbol neben dem LLM). Zudem scheint es derzeit nach mehreren Anfragen zu Problemen mit dem Systemspeicher zu kommen, daher steht am Ende jeder Antwort die Kurzanweisung, wie man den Speicher wieder freigibt. Wenn sich die Antwort merklich verzögert, nutzen Sie diese Anleitung zum Löschen des Verlaufs.''[[Datei:KI RAG Beispiel.png|alternativtext=Beispiel für ein RAG|zentriert|rahmenlos|900x900px|Beispiel RAG: Fragen Sie den Bot zum KI-Portal des LLZ-Wiki]]





Version vom 24. Juli 2025, 09:58 Uhr

Beispiel für ein RAG

Wir haben ein Beispiel-RAG entsprechend der Grundanleitung erstellt. Der Bot beantwortet Fragen aus diesem Wiki für den gesamten Portalbereich KI (allerdings auch nur dazu!), zusätzlich sind die Mitarbeitenden des LLZ mit ihren Kontaktdaten hinterlegt. Sie können den Systemprompt für die Zeit des Logins ändern, er ist aber bereits optimiert.

Einschränkung: Die RAG-Nutzung liefert mit dem voreingestellten LLM die besten Ergebnisse. Alternativ können Sie noch MetaLlama 3.1. 8KB einstellen, andere LLM aber nicht (Buchsymbol neben dem LLM). Zudem scheint es derzeit nach mehreren Anfragen zu Problemen mit dem Systemspeicher zu kommen, daher steht am Ende jeder Antwort die Kurzanweisung, wie man den Speicher wieder freigibt. Wenn sich die Antwort merklich verzögert, nutzen Sie diese Anleitung zum Löschen des Verlaufs.
Beispiel für ein RAG