Generative KI-Assistenten entwickeln mit LLM, RAG und Cloud-Services
.svg)
.svg)
.svg)
Machine Lerning Engineer
1. Technische Grundlagen generativer Sprachmodelle
- Die Evolution von Chatbots zu LLM-Agenten
- Text Embeddings: Von Text zu Vektoren
- Effiziente Sprachmodellierung mit der Transformer-Architektur
- Funktionsweise moderner Chat-Modelle
- Evaluierung von Sprachmodellen
2. LLMs per API und Cloud-Integration
- Proprietäre APIs nutzen (OpenAI, Anthropic, Google AI)
- LLMs in der Cloud (Azure OpenAI Service u.a.)
- Sicherheit, Datenschutz, Kostenkontrolle bei API-Aufrufen
3. Open-Source-Sprachmodelle einsetzen
- Open-Source-Sprachmodelle selber hosten
- Einfacher Zugang zu Open-Source-LLMs am Beispiel Ollama
- Aufbau einer eigenen KI-Chat-Anwendung mit OpenWebUI und Ollama
4. Best Practices in der LLM-Entwicklung
- LLM-Frameworks einsetzen: LangChain, LlamaIndex, Haystack u.a.
- Strukturierte Daten mit LLMs generieren
- Strukturierte JSON-Outputs und Datenextraktion
5. LLM anpassen: RAG und Feintuning
- Grundlagen: Retrieval-Augmented Generation (RAG) in Projekten
- Aufbau eines einfachen RAG- Systems mit LlamaIndex
- Wann und wie Finetuning gegenüber RAG verwendet wird
6. Fortgeschrittene Konzepte und Praxis
- Einführung in multimodale Modelle (Text & Vision)
- Quantisierte Modelle für beschränkte Speicheranforderungen
- Agentic AI: Sprachmodelle für komplexe Aufgaben nutzen
- Praxisprojekt: Entwicklung eines Chatbots (End-to-End)
Überblick über Modelle und Technologien: Du verschaffst Dir einen Überblick und Detailwissen über die verschiedenen Ansätze in der Entwicklung von KI-Lösungen – mit Open-Source- oder proprietären Modellen, per API oder lokal gehostet, mit Finetuning oder RAG, mit oder ohne Cloud-Services.
Praxisreife Assistenten entwickeln: Entlang der Vermittlung von Grundlagen und Technik entwickelst du in Praxisübungen selbst an einem KI-Assistenten.
Fundierte Technologie-Entscheidungen treffen: Du vergleichst Public-API, Azure OpenAI und eigene GPU-Cluster im Hinblick auf Kosten, Latenz und Kontrolle.
Skalieren ohne Überraschungen: Durch Quantisierung, Sicherheitsmaßnahmen und lokales Hosting behältst Du Betriebskosten und Risiken im Griff.
Unterstützung beim Lerntransfer: Cloud-Lab, Quellcode, Jupyter Notebooks und Deploy-Blueprint sichern den Transfer in deinen Arbeitsalltag.
Dieses Online-Seminar wird in einer Gruppe von maximal 12 Teilnehmenden mit der Videokonferenz-Software Zoom durchgeführt.
In dem Seminar arbeitest du in einer cloudbasierten Laborumgebung, die dir von den Referent:innen bereitgestellt wird. Webbrowser und Internetanbindung genügen, es muss keine weitere Software installiert werden.
Interaktive Jupyter Notebooks dienen als Lernmaterial und Arbeitsumgebung. Du erhältst Zugriff auf Quellcode, Dokumentation, Referenzen und Links. Ein leistungsstarker Server für die Arbeit mit aktuellen KI-Modellen wird bereitgestellt.
Der Kurs wird in deutscher Sprache durchgeführt, die Kursunterlagen liegen durch den Fokus auf Programmierung größtenteils auf Englisch vor.
Die bekommst Raum für deine Fragen – individuelle Betreuung durch die Referent:innen ist garantiert.
Zugang zu weiterführenden Materialien erhältst du in deiner persönlichen Lernumgebung.
Software-Entwickler:innen, ML-Engineers, Data Scientists, Solution-Architekt:innen und IT-Berater:innen, die KI-Assistenten konzipieren, implementieren und betreiben möchten.
Python-Grundkenntnisse werden vorausgesetzt, da Beispiele auf Code-Basis analysiert und programmiert werden. Bestehendes Data-Science-Wissen ist hilfreich, aber nicht zwingend erforderlich.
.svg)
