Einführung zu Open Source AI

In diesem Workshop werden die Grundlagen von AI vermittelt. Wie funktioniert (Generative) KI, was sind Transformer Modelle und wie werden basierend darauf Large Language Modelle (LLMs) entwickelt.
Der Workshop versucht so gut wie möglich ohne Mathematik auszukommen, sondern die Konzepte so weit zu vermitteln, dass ein Verständnis dafür entsteht.

In einem zweiten Teil wird vermittelt wie LLMs auf lokalen Geräten unter Einhaltung des Datenschutzes angewendet werden können. Dies machen wir anhand des Beispiels von LM-Studio, welches die Verwendung von LLMs auf lokalen Geräten ermöglicht.

Folgende Themen werden behandelt:

• Was sind Transformer-Modelle und wie funktionieren sie?
• Wie funktioniert Generative KI?
• Lokale Nutzung von LLMs mittels LM-Studio
• Wie funktioniert Retrieval Augmented Generation (RAG)?
• Wie baue ich einen RAG-Chatbot auf meinen eigenen Dokumenten mit Open Source AI?

Zusätzliche Diskussionsthemen, die im Rahmen des Workshops auf Wunsch angesprochen werden können:

• Ethische Aspekte von KI (Bias, Fake News, Verantwortung)
• Open-Source vs. Closed-Source KI-Modelle
• Die Zukunft von LLMs und personalisierter KI

Marcel Gygli

Prof. Dr. Marcel Gygli is passionate about advancing Artificial Intelligence in the Public Sector. His focus is to drive transformative innovation, bringing cutting-edge AI research to practical applications in government.