Dify einrichten: Eine praktische Anleitung

Zusammenfassung

• Dify in 5 Minuten mit Docker Compose selbst hosten (docker-compose up -d)
• Ersten Chatbot im visuellen Editor erstellen – ohne Code
• RAG durch Hochladen von Dokumenten in eine Wissensdatenbank einbinden (unterstützt PDF, TXT, Markdown)
• Mit Workflows, APIs oder benutzerdefinierten Modellanbietern (OpenAI, Ollama etc.) erweitern
• In Produktion mit Kubernetes oder Cloud-Anbietern bereitstellen

1. Selbsthosting mit Docker Compose

Voraussetzungen

• Docker Engine ≥ 24.0.0 und Docker Compose ≥ 2.23.0 Docker-Installationsanleitung
• 4 GB+ RAM, 2 vCPUs (8 GB+ RAM für Produktionsumgebungen empfohlen)
• Ports 3000 (Frontend), 5001 (API) und 6379 (Redis) verfügbar

Schritt-für-Schritt-Einrichtung

1. Repository klonen und in das Verzeichnis wechseln:

   git clone https://github.com/langgenius/dify.git
   cd dify
   

   Copy

2. Beispiel-Umgebungsdatei kopieren und bearbeiten:

   cp .env.example .env
   nano .env  # oder verwenden Sie Ihren bevorzugten Editor
   

   Copy

   Wichtige Variablen zur Konfiguration:

   # Erforderlich für Selbsthosting
   CONSOLE_API_URL=http://localhost:5001
   APP_API_URL=http://localhost:5001
   SECRET_KEY=ihre-zufällige-geheime-schlüssel-hier  # Generieren mit `openssl rand -hex 32`
   
   # Optional: E-Mail-Konfiguration (für Passwortzurücksetzung)
   MAIL_DEFAULT_SENDER=no[email protected]
   SMTP_SERVER=smtp.ihranbieter.de
   SMTP_PORT=587
   SMTP_USERNAME[email protected]
   SMTP_PASSWORD=ihr-smtp-passwort
   

   Copy

3. Dienste starten:

   docker-compose up -d
   

   Copy

   Erwartete Ausgabe:

   Creating dify-redis    ... done
   Creating dify-db       ... done
   Creating dify-api      ... done
   Creating dify-worker   ... done
   Creating dify-web      ... done
   

   Copy

4. Überprüfen, ob die Container laufen:

   docker-compose ps
   

   Copy

   Erwartete Ausgabe:

   Name                Command               State           Ports
   -----------------------------------------------------------------
   dify-api      /bin/sh -c gunicorn ...   Up      0.0.0.0:5001->5001/tcp
   dify-db       docker-entrypoint.sh ...  Up      5432/tcp
   dify-redis    docker-entrypoint.sh ...  Up      6379/tcp
   dify-web      /docker-entrypoint.sh     Up      0.0.0.0:3000->3000/tcp
   dify-worker   /bin/sh -c celery -A ...  Up
   

   Copy

5. Auf das Dify-Dashboard zugreifen:

   • Öffnen Sie http://localhost:3000 in Ihrem Browser.
   • Registrieren Sie ein Admin-Konto (dies ist der erste Benutzer).

Häufige Fehler und Lösungen

• Fehler: Port 3000 bereits in Verwendung Lösung: Beenden Sie den Konflikt verursachenden Dienst oder ändern Sie den Port in docker-compose.yml (aktualisieren Sie ports für dify-web).

• Fehler: PostgreSQL-Verbindung verweigert Lösung: Stellen Sie sicher, dass DB_HOST=db in .env gesetzt ist (Docker-internes Netzwerk). Wenn Sie eine externe Datenbank verwenden, setzen Sie DB_HOST auf die korrekte IP/Hostname.

• Fehler: Redis-Verbindung fehlgeschlagen Lösung: Überprüfen Sie REDIS_HOST=redis in .env. Wenn Redis extern läuft, aktualisieren Sie REDIS_HOST und stellen Sie sicher, dass der Port (6379) offen ist.

2. Erstellen Ihres ersten Chatbots

Schritt 1: Zum Studio navigieren

1. Melden Sie sich bei Dify unter http://localhost:3000 an.
2. Klicken Sie auf "Studio" in der linken Seitenleiste.
3. Klicken Sie auf "Anwendung erstellen" und wählen Sie "Chatbot".

Schritt 2: Chatbot konfigurieren

1. Name: Mein erster Chatbot
2. Beschreibung: Ein einfacher Q&A-Bot zum Testen von Dify.
3. Modellanbieter: Wählen Sie OpenAI (oder einen anderen konfigurierten Anbieter – siehe Abschnitt 6).
   • Für lokale Tests verwenden Sie Ollama mit einem Modell wie llama3 (erfordert lokal laufendes Ollama).
4. Prompt-Vorlage:

   Sie sind ein hilfreicher Assistent. Beantworten Sie die Frage des Benutzers prägnant.
   
   Benutzerfrage: {{query}}
   

   Copy
5. Klicken Sie auf "Speichern", um den Chatbot zu erstellen.

Schritt 3: Chatbot testen

1. Klicken Sie auf die Registerkarte "Debug" im Chatbot-Editor.
2. Geben Sie eine Testfrage ein (z. B. Was ist Dify?).
3. Überprüfen Sie, ob die Antwort Ihrer Prompt-Vorlage entspricht.

Schritt 4: Chatbot veröffentlichen

1. Klicken Sie auf die Schaltfläche "Veröffentlichen" in der oberen rechten Ecke.
2. Wählen Sie "In Produktion veröffentlichen".
3. Ihr Chatbot ist nun unter folgender Adresse verfügbar:

   http://localhost:3000/chatbot/{app-id}
   

   Copy
   (Ersetzen Sie {app-id} durch die ID Ihres Chatbots aus der URL.)

3. Wissensdatenbank und RAG-Einrichtung

Schritt 1: Wissensdatenbank erstellen

1. Klicken Sie im Dify-Dashboard auf "Wissen" in der linken Seitenleiste.
2. Klicken Sie auf "Wissensdatenbank erstellen".
3. Name: Produktdokumentation
4. Beschreibung: Interne Produktdokumente für RAG.
5. Embedding-Modell: Wählen Sie text-embedding-ada-002 (OpenAI) oder bge-small-en (lokal).
6. Klicken Sie auf "Speichern".

Schritt 2: Dokumente hochladen

1. Klicken Sie auf die Registerkarte "Dokumente" in Ihrer Wissensdatenbank.
2. Klicken Sie auf "Hochladen" und wählen Sie eine Datei aus (unterstützt PDF, TXT, Markdown, DOCX, CSV).
   • Beispiel: Laden Sie ein PDF Ihrer Produktdokumentation hoch.
3. Warten Sie, bis das Dokument verarbeitet ist (Status ändert sich von In Warteschlange zu Indiziert).

Schritt 3: Wissensdatenbank mit Ihrem Chatbot verbinden

1. Öffnen Sie Ihren Chatbot im Studio.
2. Klicken Sie auf die Registerkarte "Kontext" in der linken Seitenleiste.
3. Klicken Sie auf "Wissensdatenbank hinzufügen" und wählen Sie Produktdokumentation.
4. Aktualisieren Sie die Prompt-Vorlage, um die Wissensdatenbank einzubeziehen:

   Sie sind ein hilfreicher Assistent. Nutzen Sie den folgenden Kontext, um die Frage des Benutzers zu beantworten:
   
   Kontext:
   {{knowledge}}
   
   Benutzerfrage: {{query}}
   

   Copy
5. Klicken Sie auf "Speichern" und testen Sie den Chatbot mit einer Frage zu Ihrer Dokumentation.

Schritt 4: Erweiterte RAG-Einstellungen konfigurieren

1. Klicken Sie im Kontext-Tab auf das Zahnrad-Symbol (⚙️) neben Ihrer Wissensdatenbank.
2. Passen Sie die folgenden Einstellungen an:
   • Top K: 3 (Anzahl der abzurufenden Chunks)
   • Score-Schwellenwert: 0.5 (minimale Relevanzbewertung)
   • Abrufmodus: Einzel (oder Mehrfach für Abfragen über mehrere Dokumente)
3. Klicken Sie auf "Speichern".

4. Workflow-Builder

Schritt 1: Workflow erstellen

1. Klicken Sie im Dify-Dashboard auf "Studio" > "Anwendung erstellen" > "Workflow".
2. Name: Kundensupport-Triage
3. Beschreibung: Weiterleitung von Kundenanfragen an das richtige Team.

Schritt 2: Workflow aufbauen

1. Ziehen Sie einen "Start"-Knoten auf die Arbeitsfläche.
2. Ziehen Sie einen "LLM"-Knoten und verbinden Sie ihn mit dem Start-Knoten.
   • Modell: gpt-4o (oder Ihr bevorzugtes Modell)
   • Prompt:

     Klassifizieren Sie die Anfrage des Benutzers in eine der folgenden Kategorien:
     - Rechnungsstellung
     - Technischer Support
     - Allgemeine Anfrage
     
     Anfrage: {{query}}
     Kategorie:
     

     Copy
3. Ziehen Sie einen "Bedingung"-Knoten und verbinden Sie ihn mit dem LLM-Knoten.
   • Bedingung 1: {{llm_output}} enthält "Rechnungsstellung"
     • Aktion: Verbinden Sie ihn mit einem "Antwort"-Knoten mit der Nachricht:

       Ihre Anfrage zur Rechnungsstellung wurde an das Finanzteam weitergeleitet.
       

       Copy
   • Bedingung 2: {{llm_output}} enthält "Technischer Support"
     • Aktion: Verbinden Sie ihn mit einem "Antwort"-Knoten mit der Nachricht:

       Ein Mitarbeiter des technischen Supports wird Sie in Kürze kontaktieren.
       

       Copy
   • Standardbedingung: Verbinden Sie ihn mit einem "Antwort"-Knoten mit der Nachricht:

     Vielen Dank für Ihre Nachricht! Wir werden uns in Kürze bei Ihnen melden.
     

     Copy
4. Klicken Sie auf "Speichern".

Schritt 3: Workflow testen

1. Klicken Sie auf die Registerkarte "Debug".
2. Geben Sie eine Testanfrage ein (z. B. Ich habe eine Frage zu meiner Rechnung).
3. Überprüfen Sie, ob der Workflow die Anfrage korrekt weiterleitet.

Schritt 4: Workflow veröffentlichen

1. Klicken Sie auf "Veröffentlichen" > "In Produktion veröffentlichen".
2. Der Workflow ist nun als API verfügbar (siehe Abschnitt 5).

5. API-Zugang und Einbettung

Schritt 1: API-Schlüssel abrufen

1. Klicken Sie im Dify-Dashboard auf Ihr Profil-Symbol > "API-Schlüssel".
2. Klicken Sie auf "Neuen Schlüssel erstellen".
3. Name: Mein App-Schlüssel
4. Kopieren Sie den generierten API-Schlüssel (Sie sehen ihn nicht erneut).

Schritt 2: Chatbot-API aufrufen

Verwenden Sie curl, um mit Ihrem Chatbot zu interagieren:

curl --location 'http://localhost:5001/v1/chat-messages' \
--header 'Authorization: Bearer {IHR_API_SCHLÜSSEL}' \
--header 'Content-Type: application/json' \
--data '{
  "inputs": {},
  "query": "Was ist Dify?",
  "response_mode": "blocking",
  "conversation_id": "",
  "user": "test-benutzer"
}'

Erwartete Ausgabe:

{
  "event": "message",
  "message_id": "abc123",
  "conversation_id": "xyz456",
  "answer": "Dify ist eine Open-Source-Plattform für die Entwicklung von LLM-Anwendungen..."
}

Schritt 3: Chatbot in eine Web-App einbetten

Verwenden Sie das Dify JavaScript SDK, um Ihren Chatbot einzubetten:

<!DOCTYPE html>
<html>
<head>
  <title>Dify Chatbot-Einbettung</title>
  <script src="https://cdn.jsdelivr.net/npm/@dify/[email protected]/dist/dify.umd.min.js"></script>
</head>
<body>
  <div id="dify-chatbot" style="width: 400px; height: 600px;"></div>
  <script>
    const chatbot = new DifyChatbot({
      el: '#dify-chatbot',
      appId: '{IHRE_APP_ID}',  // Diese ID finden Sie in der Chatbot-URL
      apiHost: 'http://localhost:5001',
      apiKey: '{IHR_API_SCHLÜSSEL}',
      user: 'web-benutzer'
    });
  </script>
</body>
</html>

Hinweis: Ersetzen Sie {IHRE_APP_ID} und {IHR_API_SCHLÜSSEL} durch Ihre Werte.

6. Modellanbieter-Konfiguration

Schritt 1: OpenAI hinzufügen

1. Klicken Sie im Dify-Dashboard auf "Einstellungen" > "Modellanbieter".
2. Klicken Sie auf "Anbieter hinzufügen" und wählen Sie OpenAI.
3. Geben Sie Ihren OpenAI-API-Schlüssel ein (erhalten Sie ihn von OpenAI Platform).
4. Klicken Sie auf "Speichern".

Schritt 2: Lokales Modell hinzufügen (Ollama)

1. Installieren Sie Ollama lokal:

   curl -fsSL https://ollama.com/install.sh | sh
   ollama pull llama3
   

   Copy
2. Gehen Sie in Dify zu "Einstellungen" > "Modellanbieter".
3. Klicken Sie auf "Anbieter hinzufügen" und wählen Sie Ollama.
4. Basis-URL: http://host.docker.internal:11434 (verwenden Sie host.docker.internal, um vom Docker-Container auf den Host zuzugreifen).
5. Klicken Sie auf "Speichern".

Schritt 3: Anthropic (Claude) hinzufügen

1. Holen Sie sich einen Anthropic-API-Schlüssel von Anthropic Console.
2. Gehen Sie in Dify zu "Einstellungen" > "Modellanbieter".
3. Klicken Sie auf "Anbieter hinzufügen" und wählen Sie Anthropic.
4. Geben Sie Ihren API-Schlüssel ein und klicken Sie auf "Speichern".

Schritt 4: Benutzerdefiniertes Modell verwenden

1. Klicken Sie in den Modellanbieter-Einstellungen auf "Anbieter hinzufügen" > "Benutzerdefiniert".
2. Name: Mein benutzerdefiniertes Modell
3. Basis-URL: https://api.ihremodellanbieter.de/v1
4. API-Schlüssel: ihr-api-schlüssel
5. Modelle: Fügen Sie Ihr(e) Modell(e) mit deren name und context_length hinzu.
6. Klicken Sie auf "Speichern".

7. Produktionsbereitstellung

Option 1: Kubernetes (Helm)

1. Fügen Sie das Dify-Helm-Repository hinzu:

   helm repo add dify https://dify-ai.github.io/helm-charts
   helm repo update
   

   Copy