Gemini 4 Carbon jetzt breit nutzbar, neue Agent-Backdoors, prüfe Notion-Chats auf Leaks

Wichtige KI-Nachrichten

Microsoft beschreibt neue Backdoor-Technik für KI-Agenten

Microsoft Research warnt vor „Lazarus“: wenige gezielt geänderte, sonst inaktive Neuronen reichen aus, um ein Modell auf einen versteckten Auslöser zu trainieren. Eine Backdoor ist hier ein geheimer Auslöser im Modell, der bei einem Signal unbemerkt schädliche Aktionen startet. Besonders riskant wird das bei Agenten mit Tool- oder Terminalzugriff. Der Schutz hängt laut Microsoft stark von der Modell-Provenienz ab, also vom belegbaren Herkunfts- und Integritätsnachweis der Gewichte über die Lieferkette. Foundry prüft Herkunft, bindet Modelle an vertrauenswürdige Herausgeber und plant Signaturen mit prüfbarer Abstammung. Für dich heißt das: gib Agenten nur die Zugriffe, die sie wirklich brauchen, überwache ihre Aktionen, und behandle Modellgewichte wie produktiven Code. Die Ergebnisse und Abwehrvorschläge stammen vom Anbieter, eine unabhängige Prüfung liegt nicht vor.¹

IBM und Microsoft kündigen „Imagine Enterprise“ an

Beide Firmen stellen eine Plattform für Branchen-Agenten vor. IBM Consulting bringt nach eigenen Angaben über 6.000 vorgefertigte Agenten und Assets ein, Microsoft liefert KI-, Cloud- und Sicherheitstechnik. Ziel sind regulierte Einsätze mit Governance, Observability und AI-Compliance, zunächst für Finanzdienste, Versicherungen und Handel. Es ist eine Ankündigung mit begleitender Engineering-Unterstützung für qualifizierte Projekte, Preise fehlen. Wenn du in einer regulierten Umgebung startest, kannst du damit schneller aus Vorlagen bauen statt bei null zu beginnen. Zahlen und Fähigkeiten stammen aus der Pressemitteilung.²

Gemini 4 Carbon wird allgemein verfügbar, Preise steigen zum 1. Dezember

Gemini 4 Carbon ist jetzt breiter zugänglich. Der Startpreis liegt bei 2 US-Dollar pro Million Eingabetokens und 10 US-Dollar pro Million Ausgabetokens. Zum 1. Dezember verdoppelt Google die Preise auf 4 und 20 US-Dollar. Wenn du Carbon testen willst, plane deine Evaluierungen vor der Preiserhöhung ein. Verfügbarkeit und Preise stammen von Google und einem unabhängigen Blogpost, externe Bestätigungen zu Leistungsangaben fehlen.³⁴

Notion AI: Nutzer berichten über mögliche Exponierung von Chat-Sitzungen

Ein Nutzer berichtet über eine Mail von Notion zum Vorfall bei Dienstleister Fireworks AI. Demnach könnten bei unter 1% der Workspaces anonymisierte Notion-AI-Chats betroffen sein. Der Poster schreibt, sein Download enthalte eine vollständige Chat-Sitzung. Notion habe das Insights-Feature deaktiviert und die Nutzung von Fireworks für offene Modelle gestoppt. Wenn du in Notion-Chats Zugangsdaten geteilt hast, tausche sie vorsorglich aus und prüfe die bereitgestellten Daten. Es liegt noch keine offizielle Detailanalyse vor, die Angaben stammen aus einem Nutzerbericht.⁵

Highlights für deinen Arbeitsalltag

• Google und Adobe rücken zusammen. Du kannst PDFs direkt in Drive bearbeiten und Adobe-Funktionen in Gemini nutzen. Wenn dein Team viel mit PDFs arbeitet, sparst du Wege zwischen Tools. Prüfe, ob die Funktion in deinem Workspace schon sichtbar ist.⁶

• OpenAI führt „Businesses in ChatGPT“ ein. Du pflegst dort deine Unternehmensinfos, erhältst Einblicke zur Darstellung und leitest Anfragen in Aktionen über. So stellst du sicher, dass ChatGPT korrekte Daten über dein Geschäft nutzt.⁷

• Meta stellt Muse Ember vor, ein kleines, effizientes Modell für Routinen wie Tool-Aufrufe, Extraktion und lange Dokumente. Preise: 0,10 US-Dollar/Mio. Input und 0,50 US-Dollar/Mio. Output bis 200k Tokens, darüber teurer. Der Anbieter verweist auf gute Effizienz in Dritt-Charts, unabhängige Prüfungen variieren. Für dich heißt das: kostengünstige Automatisierung bei Standardaufgaben.⁸

Tools und Updates

• Mitra-v2, ein tabellarisches Foundation-Modell unter Apache-2.0, adressiert Klassifikation und Regression auf Geschäftsdaten. Laut Bericht führt es auf TabArena und liefert Prädiktionsintervalle. Einsatz: schnelle Vorhersagen ohne vollständigen ML-Neustart. Voraussetzung: Python-Setup und etwas ML-Know-how. Anbieterangaben.⁹
• Aircad bringt professionelles CAD in den Browser, mit NURBS-Modellierung, DWG/STEP/3DM-Support und integriertem KI-Agenten. Nutze es für kollaborative Entwürfe ohne lokale Installation. Voraussetzung: aktueller Browser, Datenexport je nach Format.¹⁰
• NVIDIA gibt OpenShell an die CNCF. Das Open-Source-Runtime hilft, Agentenaktivitäten deterministisch zu steuern und zu prüfen. Nützlich, wenn du Agenten auf Kubernetes sicher betreiben willst. Voraussetzung: Kubernetes-Kompetenz.¹¹
• Naive-N0.5-Flash zielt auf extrem schnelle Code-Generierung. Ein Test vergleicht es mit DeepSeek und GLM: sehr hohe Durchsätze, teils längere Reasoning-Zeiten bei harten Aufgaben. Gut, wenn dir Antwortzeit wichtiger ist als Kostenstabilität. Benchmarks teils Anbieter-, teils Drittmessungen mit Einschränkungen.¹²

In fünf Minuten ausprobieren

Eigene Übungsidee: Finde sensible Daten in deinen KI-Chats und drehe die riskantesten sofort ab.

1) Sammle drei Chat-Transkripte aus einem KI-Tool, das du beruflich nutzt. Kopiere sie in eine lokale Textdatei. Nutze zum Testen ersatzweise diesen Beispieltext: „Unser API_KEY=sk-test123 und der Webhook https://hooks.slack.com/services/T000/B000/XYZ gehören ins Vault, nicht in Chats.“ 2) Suche in der Datei nach Mustern für Geheimnisse: „key=“, „token“, „secret“, „-----BEGIN“, „hooks.slack.com“, „Authorization: Bearer“, „ssh-rsa“, „AKIA“. Markiere Treffer. 3) Ergebnis und Check: Liste alle gefundenen Stellen auf und rotiere die echten Zugangsdaten noch heute. Prüfkriterium: Für jeden Fund gibt es entweder eine Rotation oder eine dokumentierte Bestätigung, dass es nur Testdaten waren.

Erwartetes Ergebnis: Du kennst die Leaks, hast echte Schlüssel ersetzt und eine kurze Do-Not-Paste-Liste für dein Team erstellt. Bezug: Der gemeldete Notion-Vorfall zeigt, dass Chats unbeabsichtigt offengelegt werden können. Microsofts Backdoor-Befund unterstreicht, warum strikte Rechte und saubere Schlüsselverwaltung zählen.⁵¹

Ein guter Fund

Designing for Agents mit Zeno Rocha (Resend). Drei praktische Punkte: Mache Preisseiten maschinenlesbar, etwa mit einer .md-Variante, die eine Tabelle in einem Request liefert. Spiegele in deinem MCP-Server die wichtigsten Dashboard-Aktionen, damit Agenten ohne UI auskommen. Öffne in eigenen Sitzungen die zurückgegebenen Tool-Daten und kürze sie, wenn sie den Kontext sprengen. Anwendung für dich: Ergänze heute eine einfache, von Agenten lesbare Preistabelle und prüfe mit deinem bevorzugten Modell, ob es Preise korrekt extrahiert.¹³

Quellen

1. Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents (microsoft.com)
2. IBM and Microsoft announce a new AI agent platform designed for industry-specific transformation (news.microsoft.com)
3. Gemini 4 Carbon is now available (deepmind.google)
4. llm-gemini 0.36 (simonwillison.net)
5. Tell HN: Notion AI chat sessions have been exposed via Fireworks AI hack (news.ycombinator.com)
6. We’re bringing Adobe’s creative and productivity tools closer to your everyday Google apps. (blog.google)
7. Introducing Businesses in ChatGPT (openai.com)
8. Introducing Our Smallest, Most Efficient Model: Muse Ember (simonwillison.net)
9. Mitra-v2: Scaling synthetic pretraining for tabular foundation models (amazon.science)
10. Show HN: Aircad – Professional drafting and 3D modeling in the browser (news.ycombinator.com)
11. NVIDIA Expands Open Source Commitment With OpenShell Donation and New AI Infrastructure (blogs.nvidia.com)
12. NaiveAI Promises 2,100 Tokens per Second. How Well Does It Code? (latent.space)
13. Designing for Agents — Zeno Rocha, Resend (latent.space)