Ollama ist eine speziell gehostete KI-Plattform für persönliche Unterhaltungen mit KI-Technologie. Die folgenden Einstellungen können hier vorgenommen werden:

• Name der KI-Verbindung: Dieser Name wird immer verwendet, wenn eine bestimmte KI-Verbindung verwendet wird.
• URL der Ollama-API: Die API-URL für Anfragen. Weitere Informationen unter https://ollama.ai.
• OAuth-Token: Optionales Token zur Authentifizierung bei einer gesicherten Ollama-Instanz. Leer lassen, wenn Ollama nicht geschützt ist.
• Ollama-Modell: Das Modell, das für Anfragen verwendet werden soll. Bitte prüfen Sie, welche Modelle für Sie verfügbar sind.
• Maximale Kontextlänge (Tokens): Maximale Anzahl von Tokens (Eingabe und Ausgabe zusammen), die das Modell verarbeiten kann. Eine Überschreitung kann zu Fehlern oder Kürzungen führen.

Ollama muss in Ihrer eigenen Umgebung installiert werden, um verwendet werden zu können. Das ermöglicht es, Anfragen an eine KI zu stellen, die sich in einer von Ihnen kontrollierten Umgebung befindet. Die allgemeinen Schritte, um dies zu erreichen, sind:

• Laden Sie Ollama von https://ollama.ai herunter und installieren Sie es.
• Installieren Sie ein Modell, z.B. Mistral mit: ollama run mistral
  • Dies kann ein wenig dauern, je nach Geschwindigkeit Ihrer Internetverbindung.
• Verwenden Sie http://localhost:11434/api/generate als Verbindungs-URL, wenn Sie lokal laufen.