Field Notes

Offene Unternehmensmodelle, Weltmodelle und konkrete Agenten-Tools für deinen nächsten Sprint

Heute geht es um offene Modelle für Tabellen, Bausteine für Weltmodelle und vier Tools, die du sofort prüfen kannst.

Wichtige KI-Nachrichten

NVIDIA Kumo: Offene Grundmodelle für strukturierte Daten

NVIDIA stellt mit Kumo offene Grundmodelle, Bibliotheken und Tools für Vorhersagen aus strukturierten Unternehmensdaten vor. Das umfasst Aufgaben wie Forecasting, Anomalien und Risikoscoring, die sonst oft eigene ML-Pipelines brauchen. Frühe Anwender sind unter anderem Cognite, Coinbase, Databricks, DoorDash, Revolut und Tubi. Die Ankündigung kam letzte Woche in Berlin, die genannten Leistungsangaben stammen vom Anbieter.1

Cosmos Data Factory und Framework: Mehr Tempo für Weltmodelle

NVIDIA erweitert Cosmos um Data-Factory-Blueprints und Trainings-Tools. Ein Weltmodell ist ein Modell, das Sensor- und Videodaten so versteht, dass es die physische Welt simulieren und Handlungen testen kann. Fünf Cloud-Blueprints decken Fahrszenen, Bildattribute, Ereignisvideos, Defekte und Videoaugmentation ab und sind über GitHub, Azure, Nebius und CoreWeave verfügbar. Porsche erwartet damit weniger reale Testfahrten und kürzere Zyklen, das sind Anbieterzahlen und vier Tage alt.2

Finanzdienstleister setzen offene Modelle produktiv ein

Revolut baut seine Stack mit dem Foundation Model PRAGMA neu und bedient damit zunächst 80 Millionen Kunden, ausgelegt auf den dreifachen Ausbau. Neobank bunq meldet für den Assistenten Finn bei offenen Gewichten 60 Prozent geringere Antwortkosten bei vergleichbarer Qualität, betrieben auf Nebius. Diese Zahlen liefert der Anbieter. Weitere Beispiele reichen von ATUM bei Lloyds bis zu schnelleren Datenpipelines für Betrugserkennung.3

Highlights für deinen Arbeitsalltag

Uber führt ChatGPT Work für mehr als 30.000 Mitarbeitende ein. Du kannst dir daran eine interne Pilotgröße und typische Aufgaben ableiten: Recherche, Analysen, Folien, komplexe Abläufe.4

Amazon Quick erklärt den Weg zu einem HIPAA-fähigen Agenten-Arbeitsplatz. Der Beitrag trennt sauber zwischen HIPAA-eligibel und compliant und zeigt, welche Protokolle, Logs und Rechte du konfigurieren musst. Wenn du mit Gesundheitsdaten arbeitest, kannst du so Chat-Agenten mit Guardrails planen, vorausgesetzt BAA und korrekte Einstellungen.5

Audible zeigt, wie sich Hörbücher mit steuerbarer TTS besser anhören. Ein LLM beschreibt Sprechstile in natürlicher Sprache und steuert Stimmen konsistent über viele Stunden. Die Tests zeigen 3,7 Punkte bessere Dialogtrennung im MUSHRA-Verfahren und 97 Prozent korrekte Sprecher-Zuweisung in Englisch, beides Anbieterangaben.6

Tools und Updates

  • Omnara: Open-Source-API für dauerhafte Agenten, also Agenten, die Zustand behalten und Neustarts überleben. Agenten laufen als robuste Loops, Zustand liegt in Postgres, Befehle laufen in angebundenen Sandboxes oder deinem Laptop. Selbst hosten oder als Dienst nutzen.7
  • Open WebUI 0.12.4: Lazy-Loading für Skills, sichtbare Markierung bei Kontext-Kompression und feinere Sichtbarkeiten für Bedienelemente. Nützlich, wenn du viele Nutzer steuerst und Token-Last reduzieren willst. Update auf 0.12.4 nötig.8
  • Amazon Trainium jetzt näher an nativem PyTorch-Training. Eager-Mode, torch.compile und .to("neuron") statt XLA-Sonderwegen. SemiAnalysis berichtet von guter Richtung, aber noch nicht CUDA-Reife und einzelnen Bugs. Geeignet, wenn du mit BF16 trainierst und Alternativen zu NVIDIA testen willst.9
  • Replit Monitoring Agent: Ein On-Call-Agent, der für AI-App-Teams Änderungen erkennt, fixt und ausrollt. Setzt auf das Replit-Ökosystem und automatisiert den Betrieb von kleinen Apps.10

In fünf Minuten ausprobieren

Vergleiche Reasoning-Einstellungen für Code und entscheide deinen Team-Standard. Eigene Übungsidee, angeregt von Messungen zu Claude Sonnet 5.5.11

1) Aufgabe festlegen: Eine kleine Funktion mit klaren Akzeptanzkriterien, z. B. „E-Mail validieren und Domain extrahieren“. 2) Zwei Läufe starten: Einmal mit hoher Reasoning-Stufe, einmal mit maximaler Stufe in deinem Chat-Tool. Notiere angezeigte Tokenkosten, wenn verfügbar.11 3) Ergebnis prüfen: Beide Lösungen in dein Repo kopieren, Diff ansehen, Linter laufen lassen. Achte auf Diff-Größe, verschachtelte Bedingungen und Warnungen. Erwartung: Die maximalen Reasoning-Einstellungen liefern nicht zwingend den am besten mergebaren Code und verbrauchen oft mehr Token.11

Ergebnis: Du hast eine dokumentierte Wahl für die Standard-Einstellung. Prüfkriterium: Kleineres Diff und weniger Linter-Warnungen bei akzeptierter Funktionalität.

Ein guter Fund

Warum Compute nicht rechteckig ist: Modal-CEO Erik Bernhardsson über elastische GPUs. Workloads schwanken, feste Rechtecke verschwenden Budget. Pooled Capacity und schneller Start gelten als echte Produktmerkmale, nicht nur als Infrastrukturdetails. Plane Verträge so, dass du Spitzen ohne Leerlauf abfängst, und miss Kaltstartzeiten deiner Inferenz.12

Quellen

  1. NVIDIA Open Models Advance Europe’s Sovereign Intelligence Across Industries (blogs.nvidia.com)
  2. NVIDIA Cosmos Opens New Tools to Train, Evaluate and Deploy World Models (blogs.nvidia.com)
  3. Leading European Financial Services Organizations Embrace Open Models to Build Proprietary Intelligence (blogs.nvidia.com)
  4. Uber brings ChatGPT Work to all employees with OpenAI (openai.com)
  5. Deploy AI in a HIPAA-eligible environment with Amazon Quick (aws.amazon.com)
  6. Better speech synthesis for audiobooks (amazon.science)
  7. Show HN: Omnara – Open-source alternative to Claude Managed Agents (news.ycombinator.com)
  8. Open WebUI v0.12.4 (github.com)
  9. Amazon’s Trainium Takes a Strike at the Training King (newsletter.semianalysis.com)
  10. @replit: You now have an on-call engineer right in your pocket.

Meet Monitoring Agent.

Replit Monitoring Agent can see, fix, and deploy changes autonomously for AI-app builders.

Create y (x.com) 11. @deeplearningai: Max reasoning should mean best results, right? 🤔

Not always. Claude Sonnet 5.5 wrote less mergeable code at max than at xhigh, one level below, while using more tokens than any mo (x.com) 12. Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO (latent.space)