Einen eigenen KI-Server im Unternehmen bereitstellen und nutzen
.MP4, AVC, 1280x720, 30 fps | Deutsch, AAC, 2 Ch | 1 Std. 58 Min. | 257 MB
Trainer: Thomas Joos
.MP4, AVC, 1280x720, 30 fps | Deutsch, AAC, 2 Ch | 1 Std. 58 Min. | 257 MB
Trainer: Thomas Joos
Dieser Kurs richtet sich an Unternehmen, die einen eigenen KI-Server betreiben möchten, um die Leistungsfähigkeit kommerzieller Anbieter zu erreichen und gleichzeitig die vollständige Kontrolle über ihre Daten zu behalten.
Thomas Joos zeigt, wie ein KI-Server auf Basis von Open Source-Technologien mit Ollama installiert wird. Dann erklärt er, wie sich mit Open WebUI eine benutzerfreundliche Weboberfläche einrichten lässt, die es ermöglicht, Lösungen auf Grundlage leistungsstarker Sprachmodelle wie Llama 3.x bereitzustellen. Anwender profitieren dabei von einer Funktionalität, die der von ChatGPT ähnelt. Darüber hinaus vermittelt der Kurs, wie ein solcher KI-Server effizient gewartet wird, OpenAI eingebunden werden kann und gibt praktische Tipps die Nutzung optimieren.