Philipp
Niestroj
Independent
Software Architect
Alle Field NotesFIELD / 023

Cohere North stellt die Bereitstellung über das Modell

Suche, Dokumenterzeugung und Agenten auf eigenen Modellen — wahlweise im eigenen Rechenzentrum, in einer isolierten VPC oder als SaaS.

Meine These

North verkauft nicht das beste Modell, sondern den kürzesten Weg an Compliance vorbei zum Einsatz. Für regulierte Branchen ist das häufig das entscheidendere Argument.

01 / Das Angebot

Retrieval, Generierung und Agenten in einer Oberfläche

North bündelt drei Dinge, die in den meisten Unternehmen bisher getrennt beschafft wurden: Suche über die eigenen Daten, Erzeugung von Dokumenten, Zusammenfassungen, Tabellen und Diagrammen sowie Agenten, die wiederkehrende Aufgaben übernehmen. Der Anspruch ist eine gemeinsame Arbeitsfläche für Mensch und Agent statt eines weiteren Chatfensters neben den bestehenden Werkzeugen.

Zwei Bausteine tragen die Anpassung: Agent Studio, um Agenten auf konkrete Abläufe und Ziele eines Teams zuzuschneiden, und North Automations für mehrstufige Abläufe mit Steuerungs- und Freigabelogik. Branchenspezifisch gibt es Zuschnitte wie North for Banking, das gemeinsam mit RBC angekündigt wurde — ein Hinweis darauf, dass die Konfiguration je Branche erheblich ist.

02 / Die Modellbasis

Command, Embed und Rerank statt eines einzelnen Chatmodells

Unter der Oberfläche arbeiten drei Modellfamilien mit klarer Arbeitsteilung: Command für Generierung, Embed für semantische Repräsentation und Rerank für die Nachsortierung von Suchtreffern. Diese Trennung ist kein Detail, sondern der Grund, warum Retrieval-Qualität in der Praxis überhaupt steuerbar wird.

In den meisten schwachen RAG-Systemen liegt der Fehler nicht im Sprachmodell, sondern eine Stufe davor: Die richtigen Passagen landen nicht in den ersten Treffern. Ein dediziertes Rerank-Modell adressiert genau diesen Schritt. Wer eine solche Plattform bewertet, sollte deshalb die Retrieval-Qualität auf eigenen Dokumenten messen und nicht die Antwortformulierung beurteilen.

  • Command für Generierung und Zusammenfassung
  • Embed für semantische Repräsentation der Inhalte
  • Rerank für die Qualität der ersten Treffer

03 / Betrieb

Private Bereitstellung ist das eigentliche Verkaufsargument

North wird in drei Varianten angeboten: als private Installation im eigenen Rechenzentrum oder in einer isolierten VPC, über Model Vault als dedizierte Inferenzumgebung sowie als mandantenfähiges SaaS. Dazu kommen ein Zero-Trust-Zugriffsmodell und auditierbare Nachvollziehbarkeit.

Das adressiert den Punkt, an dem AI-Vorhaben in Banken, Versicherungen, im Gesundheitswesen und im öffentlichen Sektor regelmäßig stehenbleiben: nicht die Modellqualität, sondern die Frage, wohin die Daten fließen. Die genannten Referenzen — unter anderem Oracle, Dell Technologies, RBC, Fujitsu, SAP, TD Bank und Accenture — zeigen, welcher Markt hier adressiert wird.

04 / Grenze

Berechtigungen, Konnektoren und fehlende Zahlen

Die schwierigste Aufgabe einer solchen Plattform steht nicht im Prospekt: Zugriffsrechte müssen bis in das Retrieval durchschlagen. Wenn die Indexierung die Rechte des Quellsystems nicht sauber abbildet, wird die Suche zur bequemsten Datenpanne im Haus — und zwar unabhängig davon, wo die Modelle laufen. Diese Abbildung ist pro Quellsystem Projektarbeit, kein Konfigurationsschalter.

Dazu kommt, dass die Produktseite weder Benchmarks noch Latenzangaben oder Nutzungsgrenzen nennt und keine Einschränkungen benennt. Für eine belastbare Entscheidung braucht es deshalb einen eigenen Testaufbau: eigene Dokumente, eigene Berechtigungsmatrix, gemessene Trefferqualität und ein durchgerechnetes Betriebsmodell für die private Variante inklusive GPU-Kosten.

Kurzfazit

Plattform für Häuser, die ihre Daten nicht herausgeben können

North ist weniger ein Modellangebot als ein Betriebsangebot: dieselbe Funktionalität wahlweise im eigenen Haus. Für regulierte Branchen ist das der praktische Unterschied zwischen einem Pilotprojekt und einem Produktivsystem.

Interessant für
Unternehmen mit strengen Datenschutz- oder Aufsichtsanforderungen, die Suche, Dokumentenarbeit und Agenten auf eigenen Beständen betreiben wollen.
Im Blick behalten
Die Abbildung von Zugriffsrechten ins Retrieval bleibt Projektarbeit; ohne eigene Messung auf eigenen Daten ist die Qualität nicht einschätzbar.
Quellen & Transparenz

Einordnung auf Basis der Produktseite und der öffentlichen Dokumentation; kein gesponserter Beitrag, kein Zugang zu einer Testinstallation.