Projekte

Aufgabengerechte Modellbereitstellung

Modellbereitstellung für Programmieragenten und Geschäftsanwendungen

Im täglichen Einsatz

Sprachmodelle mit offenen Modellgewichten laufen auf Filipes eigener Hardware. Jede Konfiguration wird auf ihre Aufgabe abgestimmt und dafür getestet.

Rolle — Filipe Contente — Architekt und Produktverantwortlicher

Zwei NVIDIA RTX 5090 GPUs verarbeiten sehr lange Eingaben von Programmieragenten; zwei NVIDIA DGX Spark Rechner betreiben ein Mixture-of-Experts-Modell als eine gemeinsame Engine für Filipes Geschäftsanwendungen. Wesentliche Änderungen werden mit bewerteten Programmieraufgaben und verdeckten Tests unter den tatsächlichen Sampling-Einstellungen der Anwendungen geprüft. KI-Agenten erstellten die Konfiguration unter Filipes Leitung.

Status — Juli 2026–heute. Im täglichen Einsatz. Eine Beschleunigung, die echte Ausgaben verfälschte, wurde zurückgenommen.

Über Ihre Modellbereitstellung sprechen

Beispielhaftes Diagramm zur Modellbereitstellung mit fiktiven Daten. Täglicher interner Einsatz.

Alle Projekte