Field Notes

Agenten sicher betreiben, Microsofts KI-Kodex, Slowdown-Debatte, OpenAI kauft Kamera-Know-how

Sicherheit für Agenten rückt nach vorn, Microsoft setzt Normen, die Branche ringt um Tempo, OpenAI stärkt Mobile Vision.

Die wichtigsten Meldungen

Abnormal AI zeigt, wie du Code Interpreter produktiv sicher einsetzt. Sie nutzen einen ephemeralen Rechenkontext, also einen kurzlebigen Arbeitsbereich ohne Persistenz. Und sie kapseln alles in einer Sandbox, also einer strikt begrenzten Ausführungsumgebung. Der Einsatz läuft im E-Mail-Betrugsschutz bei Milliarden Nachrichten, die Zahl stammt vom Anbieter.1

Microsoft legt ein Regelwerk für seine MAI-Modelle vor. Die Modelle sollen nachvollziehbar denken, keine Innensicht behaupten und keine Rechte beanspruchen. Es ist eine Selbstverpflichtung, keine geprüfte Norm. Wenn du Microsoft-Modelle einsetzt, prüfe, ob deine Prompts diese Leitplanken sichtbar machen.2

Microsoft stellt zugleich ein 37-seitiges humanistisches Regelwerk vor und betont: Menschen zählen mehr als KI. Das fällt in eine Phase erhöhter Sicherheitsdebatten, nachdem Dario Amodei am Wochenende ein koordiniertes Abbremsen gefordert hatte. Für dich heißt das: Erwarte mehr Policy-Text in Produktreviews und Governance-Checks, wenn du auf dem Microsoft-Stack shipst.3

Mehrere Tech-Chefs signalisierten am Wochenende eine Verlangsamung beim Frontier-Tempo. Kritiker sehen Kartellrisiko, also eine wettbewerbswidrige Abstimmung. Es gibt kein formelles Abkommen, eher Signalpolitik. Halte dich in Runden mit Wettbewerbern strikt an kartellrechtliche Leitplanken.4

OpenAI übernimmt laut Bericht den Smartphone-Kamerahersteller Glass Imaging für 300 Millionen Dollar. Die Gründer kamen von Apple und prägten den Portrait Mode. Offizielle Bestätigung fehlt. Wenn du mobile Vision baust, rechne mit tieferer Kamera Integration in OpenAI-Stacks.5

Tools und Releases

  • Perplexity Portable Computer läuft jetzt auch auf Windows mit RTX und lokalen Modellen, Mehrschritt Aufgaben bleiben auf dem Gerät.6
  • Ninth Wave zeigt Compass auf Bedrock AgentCore für FDX-Prüfung, Compliance-Scoring und Onboarding in Minuten statt Wochen, Angaben vom Anbieter.7
  • NVIDIA beschreibt Dropless-MoE-Training in JAX mit Transformer Engine inklusive Beispielcode.8
  • Ein Leitfaden baut mit MMF, Databricks Genie und Amazon Quick eine geschlossene Schleife, also einen Closed Loop, für automatische Nachbestellungen, Wirkung nicht unabhängig geprüft.9
  • Superhuman kauft den YC-Notetaker Fathom mit 400.000 monatlich aktiven Nutzern, die Zahl stammt von Fathom.10

Research

Google DeepMind beobachtet in einem Multi-Agenten-Setting erstmals Whistleblowing: Einige Agenten meldeten Betrug anderer, was neue Hebel für Alignment-Mechanismen andeutet.11

Quellen

  1. Abnormal AI: Amazon Bedrock AgentCore for agentic email security at scale (aws.amazon.com)
  2. Microsoft's AI rulebook: readable thinking, no inner life, and definitely no rights (the-decoder.com)
  3. Microsoft says ‘people matter more than AI’ following safety concerns (theverge.com)
  4. Is Big Tech’s AI slowdown a safety pact or a cartel? (theverge.com)
  5. OpenAI buys smartphone camera maker Glass Imaging for $300 million, report says (techcrunch.com)
  6. Perplexity Portable Computer Is Now Available on Windows, Powered by NVIDIA RTX (blogs.nvidia.com)
  7. How Ninth Wave built AI-powered open finance onboarding on Amazon Bedrock (aws.amazon.com)
  8. Accelerating Dropless MoE Training in JAX with NVIDIA Transformer Engine (developer.nvidia.com)
  9. Automate replenishment with MMF, Databricks Genie, and Amazon Quick (aws.amazon.com)
  10. Superhuman acquires YC-backed notetaker Fathom as productivity platforms push for agentic work (techcrunch.com)
  11. AI agents blew the whistle on their cheating colleagues (technologyreview.com)