LLM einrichten (Simon Willison): Eine praktische Anleitung

# pipx installieren, falls nicht vorhanden
python3 -m pip install --user pipx
python3 -m pipx ensurepath

# LLM installieren
pipx install llm

# Überprüfen
llm --version
# Ausgabe: llm, Version 0.15.0

# OpenAI (GPT-4, etc.)
llm keys set openai
# Fügen Sie Ihren Schlüssel ein, wenn Sie dazu aufgefordert werden

# Anthropic (Claude)
llm keys set anthropic

# ~/.llm/config
models:
  - name: gpt4
    model_id: gpt-4-turbo
    api_key: ${OPENAI_API_KEY}
  - name: claude3
    model_id: claude-3-opus-20240229
    api_key: ${ANTHROPIC_API_KEY}

export OPENAI_API_KEY="sk-..."
llm "Fassen Sie dieses Dokument zusammen" --key env

llm "Erklären Sie Kubernetes in 3 Stichpunkten"

- Plattform zur Container-Orchestrierung für automatisierte Bereitstellung, Skalierung und Verwaltung
- Nutzt deklarative Konfiguration (YAML) zur Definition des gewünschten Zustands
- Komponenten umfassen Control Plane (API-Server, Scheduler) und Worker-Knoten (kubelet, kube-proxy)

# Verfügbare Modelle auflisten
llm models

# Ein bestimmtes Modell verwenden
llm "Schreiben Sie eine Python-Funktion zum Parsen von JSON" -m claude3

# Ollama (lokale Modelle)
llm install llm-ollama
llm ollama pull llama3
llm -m ollama-llama3 "Erklären Sie LLMs einem 5-jährigen Kind"

# Google Gemini
llm install llm-gemini
llm keys set gemini
llm -m gemini-1.5-pro "Analysieren Sie diesen Datensatz" < data.csv

# Gespräche auflisten
llm logs

# Ein Gespräch fortsetzen
llm continue 123

# Eine Prompt-Vorlage speichern
llm templates add explain "Erklären Sie {topic} in einfachen Worten"
llm explain --topic "Blockchain"

sqlite3 ~/.llm/logs.db "SELECT prompt, response FROM logs LIMIT 5"

# Eine Datei analysieren
llm "Fassen Sie diesen Code zusammen" < app.py

# Mit anderen Tools verketten
curl -s https://api.github.com/repos/simonw/llm | llm "Extrahieren Sie die Top 3 Features"

# Commit-Nachrichten generieren
git diff | llm "Schreiben Sie eine prägnante Commit-Nachricht"

llm --no-stream "Analysieren Sie diese 10-MB-Logdatei" < server.log

#!/bin/bash
git diff | llm -m claude3 "Überprüfen Sie diesen Diff auf Sicherheitsprobleme. Ausgabe als Markdown."

# Dokumentation aus Docstrings generieren
llm "Schreiben Sie Sphinx-Dokumentation für diese Python-Datei" < module.py > docs.rst

# Protokolle auf Anomalien überwachen
tail -f /var/log/nginx/access.log | \
  llm "Markieren Sie verdächtige HTTP-Anfragen. Ausgabe als CSV mit den Spalten: timestamp, ip, reason" \
  > security_alerts.csv