Offene Agenten lokal laufen lassen, Zero-Shot-Forecasts nutzen, Agenten sicher delegieren

Wichtige KI-Nachrichten

NVIDIA bringt Nemotron 3.5 Super VL und Bolt für Server bis Edge

NVIDIA veröffentlicht Nemotron 3.5 Super VL mit 120 Milliarden Parametern und offene Gewichte. Dazu kommen zwei Edge-Modelle: Bolt 74B-A9B, das in 24 GB VRAM lokal läuft, und Bolt E4B für 4 GB, angekündigt für den 23. Oktober. Super VL zielt auf Agentenaufgaben mit Text und Bild wie Tool-Nutzung, mehrstufige Workflows, OCR und Tabellen in PDFs. NVIDIA nennt 5x höheren Durchsatz gegenüber Modellen der gleichen Klasse auf dem Artificial Analysis Intelligence Index sowie Top-Werte auf PinchBench und BrowseComp, das sind Anbieterangaben. Super VL und Bolt 74B-A9B sind verfügbar, Bolt E4B folgt. Folge für dich: Du kannst Agenten lokal auf RTX-GPUs mit 24 GB betreiben, sensible Dokumente im Haus halten und Super VL auf eigene Daten weitertrainieren.¹

Mistral veröffentlicht Timestral für Zero-Shot-Forecasting

Timestral ist eine Familie von Zeitreihen-Grundmodellen, von 5M bis 209M Parametern. Zero-Shot-Forecasting bedeutet: Vorhersagen ohne projektspezifisches Training auf deinen Daten. Timestral-209M erreicht laut Model Card auf GIFT-Eval MASE 0,658 und CRPS 0,446, auf TIME MASE 0,626 und CRPS 0,522. Timestral-28M liegt bei MASE 0,678 und CRPS 0,461 auf GIFT-Eval. Alle Angaben stammen von den genannten Leaderboards. Das Modell nimmt bis zu 32.768 Schritte Kontext und gibt 21 Quantile aus. Inferenz läuft auf CPU oder GPU, Lizenz ist eine modifizierte MIT. Du kannst damit schnell Baselines für Nachfrage, Inventar oder Energieverbrauch prüfen, bevor du feinjustierst.²³⁴⁵

Microsoft Research zeigt Magnetar für beweisbare Ausführung

Magnetar erzeugt zu Programmausgaben kurze kryptografische Beweise, die Korrektheit in Millisekunden prüfbar machen. Ein Zero-Knowledge-Beweis ist ein Nachweis, der die Richtigkeit bestätigt, ohne geheime Eingaben offenzulegen. Magnetar beweist Programme in Rust, Go und C und ist im Schnitt 10 bis 39 mal schneller als vergleichbare Systeme laut Microsoft. Die Sicherheit basiert auf Standard-Hashfunktionen. Das ist eine Forschungsveröffentlichung, kein Produkt. Relevanz: Agentenaktionen könnten künftig mit maschinenprüfbaren Nachweisen ausgeliefert werden, was Vertrauen in hochkritischen Abläufen erhöht.⁶

Highlights für deinen Arbeitsalltag

• Mehr Autonomie mit Kontrolle: AWS skizziert Trust in Depth für Agenten. Vier Fragen strukturieren die Governance: Scope festlegen, Identität kennen, zur Laufzeit begrenzen, danach auswerten. Wo Regeln präzise sind, hilft automatisiertes Schließen, also mathematisches Prüfen von Regeln über alle Fälle. Du startest wirksam, wenn du für einen Agentenjob Regeln formulierst, Zugriffe minimierst und echte Unklarheit an Menschen routest.⁷

• Verträge schneller prüfen lassen: Sullivan & Cromwell hat mit OpenAI den Agreement Analyzer gebaut, der Probleme in Vertragsentwürfen markiert. Der Dienst ist kein allgemein verfügbares Produkt. Du kannst das Muster übernehmen: eine feste Liste von Issues definieren, Klauseln automatisch labeln lassen und nur strittige Passagen eskalieren. So entlastest du Juristen, ohne Kontrolle abzugeben.⁸

• Große Peaks planen wie Meta: Zur WM 2026 trugen Kapazitätspuffer, landesspezifische Degradationsregeln und Frühwarnsignale die Lastspitzen. Meta verzichtete sogar auf Freeze und hielt Releases durch. Übertrage das auf deine Events: Puffer vorhalten, degradierbare Nebenlast pro Markt definieren, Kaskaden verhindern und Schwellen für Alarme festlegen.⁹

Tools und Updates

• Muse Spark Open: Meta stellt ein coding-optimiertes MoE-Modell mit 816B Experten und 42B aktiven Parametern vor, mit 1M Kontextfenster. Ziel sind agentische Coding-Workflows mit Tool-Aufrufen und Codebasis-Verständnis. Voraussetzung ist NVIDIA GB300 NVL72 Infrastruktur.¹⁰

• MLX auf dem Mac: Apples MLX ermöglicht lokale und verteilte Inferenz auf Mac Studio mit Apple Silicon. Geeignet, um neue Inferenz- und Feintuning-Methoden privat zu testen, wenn du bereits auf macOS entwickelst.¹¹

• Offenes Lernen: NVIDIAs Deep Learning Institute startet einen frei nutzbaren Open-Source-Kurs-Hub für beschleunigtes Rechnen und Deep Learning. Keine Anmeldung, keine Gebühren. Gut für interne Upskilling-Tracks.¹²

In fünf Minuten ausprobieren

Agenten sicherer machen: eine Mini-Prüfung vor dem Start.

1) Wähle einen Agentenjob mit klarem Nutzen, etwa Rechnungsanfragen beantworten. Notiere Zweck, erlaubte Daten und Tools, und drei Dinge, die der Agent nicht tun darf. 2) Formuliere eine präzise Regel, die maschinell prüfbar ist, zum Beispiel: Zahlungen über 5.000 Euro nur nach Managerfreigabe. Lege fest, was bei Unklarheit passiert, etwa Abbruch mit Rückfrage. 3) Definiere Laufzeitgrenzen: maximaler Zugriff, erlaubte Systeme, Stop-Bedingungen. Lege ein einfaches Lauf-Protokoll fest: Zeit, Eingaben, Aktionen, Ergebnis, Begründung, Prüfer.

Erwartetes Ergebnis: ein einseitiger Agent-Steckbrief mit verbindlichen Regeln. Prüfkriterium: Eine Kollegin kann daraus sicher entscheiden, was der Agent alleine darf und was nicht.⁷

Quellen

1. Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models (blogs.nvidia.com)
2. mistralai releases mistralai/Timestral-209M on Hugging Face (huggingface.co)
3. mistralai releases mistralai/Timestral-28M on Hugging Face (huggingface.co)
4. mistralai releases mistralai/Timestral-123M on Hugging Face (huggingface.co)
5. mistralai releases mistralai/Timestral-5M on Hugging Face (huggingface.co)
6. Proof-based general-purpose computing with Magnetar (microsoft.com)
7. Trust in Depth: Giving agents more autonomy without losing control (aws.amazon.com)
8. Sullivan & Cromwell brings legal expertise into agreement review (openai.com)
9. 2026 World Cup: Breaking Records, Spiky Charts and Reliability at Scale (engineering.fb.com)
10. Scale Agentic Coding Workflows with Meta’s Muse Spark Open on NVIDIA GB300 NVL72 (developer.nvidia.com)
11. Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio (machinelearning.apple.com)
12. NVIDIA Expands Advanced Technology Access for Europe’s Scientific Community Through Open Learning Resources, Collaborations and Compute (blogs.nvidia.com)