Open-Source LLMs: Unzensierte & sichere KI lokal auf dem PC
Private ChatGPT-Alternativen: Llama, Mistral, DeepSeek, Function Calling, RAG, Vektordatenbanken, LangChain u KI-Agenten
4.78 (198 reviews)
1,586
students
8 hours
content
Mar 2025
last update
$54.99
regular price
What you will learn
Warum Open-Source LLMs? Unterschiede, Vorteile und Nachteile von Open-Source und Closed-Source LLMs
Was sind LLMs wie ChatGPT, Llama, Mistral, Phi3, Qwen2-72B-Instruct, Grok usw.
Welche LLMs gibt es und was soll ich verwenden? "Die besten LLMs" finden
Voraussetzungen für die lokale Nutzung von Open-Source LLMs
Installation und Verwendung von LM Studio, Anything LLM, Ollama und alternative Methoden zum Betrieb von LLMs
Zensierte vs. unzensierte LLMs
Finetuning eines Open-Source-Modells mit Huggingface oder Google Colab
Vision (Bilderkennung) mit Open-Source LLMs: Llama3, Llava & Phi3 Vision
Details zur Hardware: GPU Offload, CPU, RAM und VRAM
Alles zu HuggingChat: Ein Interface für die Nutzung von Open-Source LLMs
Systemprompts im Prompt Engineering + Function Calling
Prompt Engineering Basics: Semantic Association, strukturierte & Rollen-Prompts
Groq: Open-Source LLMs mit schnellem LPU-Chip statt GPU nutzen
Vektordatenbanken, Embedding-Modelle & Retrieval-Augmented Generation (RAG)
Erstellen eines lokalen RAG-Chatbots mit Anything LLM & LM Studio
Verknüpfen von Ollama & Llama 3, und Nutzung von Function Calling mit Llama 3 & Anything LLM
Function Calling zur Datenzusammenfassung, Speicherung und Diagrammerstellung mit Python
Nutzung weiterer Funktionen von Anything LLM und externe APIs.
Tipps für bessere RAG-Apps mit Firecrawl für Webseiten-Daten, effizienteres RAG mit LlamaIndex & LlamaParse für PDFs und CSVs.
Definition und verfügbare Tools für KI-Agenten, Installation und Nutzung von Flowise lokal mit Node (einfacher als Langchain und LangGraph).
Erstellung eines KI-Agenten, der Python-Code und Dokumentationen erstellt, sowie Nutzung von KI-Agenten mit Function Calling, Internetzugriff und drei Experten.
Hosting und Nutzung: Welchen KI-Agenten solltest du bauen und externes Hosting, Text-to-Speech (TTS) mit Google Colab.
Finetuning von Open-Source LLMs mit Google Colab (Alpaca + Llama-3 8b, Unsloth)
Mieten von GPUs bei Runpod oder Massed Compute.
Sicherheitsaspekte: Jailbreaks und Sicherheitsrisiken durch Angriffe auf LLMs mit Jailbreaks, Prompt Injections und Data Poisoning
Datenschutz und Sicherheit deiner Daten, sowie Richtlinien zur kommerziellen Nutzung und dem Verkauf generierter Inhalte.
Screenshots
6030744
udemy ID
6/18/2024
course created date
6/30/2024
course indexed date
Bot
course submited by