Kauz hat diesen Sommer ein zweimonatiges Studentenprojekt gestartet, um neue Techniken der Chatbot-Entwicklung zu testen. Wir drei Studentinnen sind aus unterschiedlichen Ecken Deutschlands, also haben wir uns zur Einführung in Düsseldorf getroffen und dann von zuhause gearbeitet. Zwar haben wir uns vor allem per Videokonferenz ausgetauscht, aber die Zusammenarbeit war ausgesprochen erfolgreich!
Das Grundkonzept des Praktikums war, den üblichen Lebenzyklus eines Chatbots zu durchlaufen und dabei eigene Konzepte zu entwickeln, bzw. existente Vorgänge mit neuen Möglichkeiten zu vergleichen, um alternative Ansätze zu testen.
Zuerst haben wir uns der Wahl des LLMs gewidmet: die Implementation und das anschließende Testen der vier LLMs mit gleichen Faktoren präsentierten einen klaren Spitzenreiter. .
Parallel werden die Embeddings, die wir zum Kontenxtverständnis nutzen, mit anderen Embeddings Creators verglichen, um zu ermitteln, ob wir den Chatbot mit einem anderen Embeddings Creator verbessern könnten. Die Ergebnisse sind schon vielverheißend!
Bei der Halbzeitbesprechung Ende August haben wir unsere Ergebnisse präsentiert und das Feedback in weiteren Schritten angepasst: jetzt werden noch weitere Tests durchgeführt, um die Fine-Tuning Ergebnisse zu verbessert!
Bleiben Sie dran! Die endgültigen Ergebnisse werden am Anfang des Oktobers veröffentlicht!
Hier berichtet unsere Praktikantin Mia Nick vom Studierendenprojekt zur LLM-Forschung.