Field Notes

Sicherheitsleck bei ChatGPT, neues Agentik-Benchmark GDPx, drei umsetzbare Agenten-Tipps

Heute geht es um Sicherheit, bessere Modellauswahl nach Domänen und praktikable Agentenabläufe.

Wichtige KI-Nachrichten

ChatGPT: schwere Datenlücke in HTML-Previews geschlossen

Forscher von Parameter Labs übernahmen Konten über eine Kette aus Sandbox-Umgehung, iFrame-Injection und JavaScript-Ausführung in ChatGPTs HTML-Previews. OpenAI nutzte MathLive, dessen virtuelle Tastatur per postMessage HTML in die Elternseite brachte, was das Einfügen eines unsandboxed iFrames erlaubte. Die Content Security Policy (CSP, eine Browser-Regel für erlaubte Ressourcen) ließ YouTube zu, dessen oEmbed Endpunkt Skriptcode reflektierte. Damit konnten private Daten abgegriffen oder Aktionen im Namen eingeloggter Nutzer ausgelöst werden. OpenAI hat das Loch geschlossen und 5.000 Dollar Bug Bounty gezahlt. Für dich: Öffne geteilte ChatGPT-Links nur in einem separaten Browserprofil oder ausgeloggt.1

GDPx: neues Benchmark für agentische Fähigkeiten in wertschöpfenden Domänen

SemiAnalysis stellt GDPx vor, einen Benchmark über Chip-Design, Cyber, Bio, Finanzen, Recht, Quant, RSI, Hardware, Materialwissenschaft, Alignment und Software. Laut Anbieter erreicht das beste Modell insgesamt 12 Prozent, mit deutlichen Stärken nach Domäne und spürbarem Einfluss von Safety-Classifiers (klassifizierende Filter für riskante Inhalte). Opus 5.5, GPT-6 Astra und Gemini 4 Carbon führen je nach Bereich, Muse Wonder Full liegt bei Cyber vorn. Konsequenz: Du wählst Modelle nach deiner Domäne, nicht nach einem Gesamtscore. Hinweis: Ergebnisse und Einordnung stammen vom Anbieter und Partnern.2

Agenten in der Praxis: SETI steuert Teleskope mit natürlicher Sprache

Breakthrough Listen und das SETI Institute setzen agentische Systeme am Allen Telescope Array ein. Über Holoscan fließen Terabits pro Sekunde direkt in GPU-Speicher, CyberEther rechnet die Signale, und Nexus dient als webbasierter Agenten-Orchestrator. Die Anlage erreicht 2,4 Tbit/s auf RTX PRO 6000 Blackwell und erkannte den Pulsar im Krebsnebel in Echtzeit. Für dich: Das ist ein Blaupausen-Muster für eigene Sensor-Pipelines mit Live-Korrektur, wenn Latenz und Datenraten zählen.3

Highlights für deinen Arbeitsalltag

Arca im Finanzbereich zeigt, wie Agenten längere Prozesse stützen, ohne Geldbewegungen zu automatisieren. Agenten analysieren und schlagen vor, Menschen entscheiden deterministisch und prüfen Prompt-Injection. Eine persistente Kunden-Memory hält Aufgaben, Zuständigkeiten und Fristen. Nimm dir einen 10-Tage-Prozess, gib dem Agenten Analyse- und Reporting-Rolle, und belasse Zahlungen bei Menschen.4

HackerTube kuratiert YouTube anhand von 40.000 HN-Kommentaren und 6.454 Videos statt Clickbait. Lokale Session-Profile, eigene Empfehlungen ohne Konto und Daten-Export sind eingebaut. Das entstand in wenigen Stunden mit Opus 5.5. Du kannst damit eine nüchterne Video-Startseite für Team-Lernen bauen oder deinen Agenten mit dem Export füttern.5

Copilot und Co. realistisch testen, ohne echte Firmendaten: Microsoft beschreibt synthetische „Tenants“. Die Umgebungen basieren auf O*NET, Stellenanzeigen und SEC-Daten, enthalten Mails, Meetings, Dokumente und zeitliche Abläufe. So findest du Schwächen, die generische Benchmarks nicht zeigen. Baue klein an und messe Genauigkeit statt Gefühl.6

Tools und Updates

  • Apriel Voice 27B Preview: offenes Sprach-Modell für Verstehen, Dialog und Tool-Aufrufe, auch Text und Bild. Einsatz: Voice-Assistent-Prototypen mit Werkzeugnutzung. Voraussetzung: Rechenressourcen und ML-Know-how, es ist eine Preview.7
  • NVIDIA: Modelle am Edge mit wenigen Befehlen deployen. Nützlich für Robotik, Fahrzeugkabinen, Fertigung mit engen Latenz- und Energieschranken. Voraussetzung: NVIDIA-Stack auf Edge-Hardware.8
  • Ropes & Gray: KI-gestützte Transaktions-Due-Diligence mit OpenAI. Anwälte prüfen gruppierte Dokumente, Zusammenfassungen und Reports vor Mandantenberatung. Für Legal-Teams als Vorlage nutzbar, Zugang zu OpenAI vorausgesetzt.9

In fünf Minuten ausprobieren

Mini-Eval ohne echte Daten: Prüfe, ob dein Chat-Assistent Meetings sauber zusammenfasst und belegt.

1) Erstelle Beispieldaten in einem Dokument: - Drei E-Mails: „Sales meldet 12 % Q4-Umsatzplus“, „IT plant CRM-Update bis 15.11.“, „Recht prüft neue AGB-Klausel bis 08.11.“ - Agenda: „Q4 Ausblick, CRM-Zeitplan, AGB-Risiken“. - 10-Zeilen-Transcript mit zwei klaren Entscheidungen und zwei offenen Punkten, z. B. „Wir verschieben den Launch auf 20.11.“ und „Marketing liefert Landing-Page-Entwurf bis 06.11.“.

2) Prompt in deinem genutzten Chat: „Fasse das Meeting in fünf Sätzen. Liste drei Entscheidungen und zwei offene Punkte. Zitiere für jeden Punkt den genauen Satz aus den Daten.“

3) Erwartetes Ergebnis: Eine knappe Zusammenfassung mit fünf Einträgen. Prüfkriterium: Alle Entscheidungen und offenen Punkte sind korrekt, und die Zitate stehen wortgleich im Material. Fehlen Zitate oder weichen Fakten ab, markiere die Fehler und passe deinen Prompt an.

Diese Idee folgt Microsofts Ansatz, synthetische Umgebungen für realistische Evaluation zu nutzen.6

Quellen

  1. How We Took Over ChatGPT Accounts (simonwillison.net)
  2. GDPx: Measuring Frontier Model Capabilities Across the Most Valuable Domains (newsletter.semianalysis.com)
  3. Things That Go Beep in the Night: Agentic AI Joins the Search for Extraterrestrial Signals (blogs.nvidia.com)
  4. Agents Prompt People: Using Agents for Long-Horizon Financial Work (latent.space)
  5. HackerTube (karpathy.bearblog.dev)
  6. From synthetic enterprise data evaluations to real Microsoft Copilot AI confidence (microsoft.com)
  7. Paper: Apriel Voice 27B Preview: An Open Model for Speech, Reasoning, and Tool Use (huggingface.co)
  8. Run AI Models for Edge Application Development with Just a Few Commands (developer.nvidia.com)
  9. How Ropes & Gray is developing AI for transactional diligence (openai.com)