LLMs 10–20x schneller in Produktion, API-Guthaben bei OpenAI und Tests per KI vor dem Merge

Wichtige KI-Nachrichten

10–20x schneller: Booking.com kombiniert Knowledge Distillation und Medusa

Amazon Science berichtet über eine Pipeline mit Booking.com: Ein kleines Modell erreicht nahezu die Qualität eines 70B-Lehrers, läuft aber 10–20x schneller und zu weniger als einem Drittel der Kosten. Knowledge Distillation erklärt: ein großes Lehrermodell erzeugt Trainingsziele für ein kleineres Schülermodell. Medusa erklärt: Zusatzköpfe lassen mehrere Tokens parallel vorhersagen, was die Ausgabe beschleunigt. Gemessen wurden 6x Speed-Up durch das kleinere Modell plus 2–3,6x durch Medusa, bei minimalem Qualitätsverlust laut Anbieter. Das Team nutzte TinyLlama 1,1B als Schüler und Llama-3.1 70B als Lehrer, mit domänenspezifischem Finetuning. Zahlen stammen vom Anbieter und wurden nicht unabhängig geprüft.¹

Meta setzt JiTTests produktiv ein

Meta hat Just-in-Time-Tests in die Entwicklungsinfrastruktur gebracht. Die KI generiert gezielt fehlende Tests für riskante Diffs über zwei Wege: intent-aware und „dodgy diff“. Ein LLM-as-Judge-Ensemble bewertet Funde, ein regelbasierter Filter (RubFake) reduziert Fehlalarme, und Menschen bleiben im Review-Loop. Ziel: echte Bug-Unterschiede vor dem Merge zeigen, statt nur Code zu kommentieren. Meta beschreibt Skalierung, True-Positive-Fokus und geringere Review-Last. Ergebnisse und Verfahren sind Anbieternachweise.²

OpenAI: API-Guthaben für $100/$200/$500-Abos

OpenAI gibt zahlenden Chat-Abos monatliche API-Credits im selben Nennwert. Die Guthaben verfallen und lassen sich einer API-Organisation zuordnen. Anthropic hatte ein ähnliches Modell zuvor eingeführt. Wenn du ohnehin ein Pro-Abo in dieser Höhe zahlst, senkst du so Test- und Prototypkosten.³

Meta + CNIB: KI-Brillen für blinde und sehbehinderte Menschen

Meta fördert das kanadische CNIB mit Geld, Trainingsmaterial und Gerätespenden. Vier Schwerpunkte: Community-Feedback, Peer-Schulungen, Input für Produktentwicklung und zugängliche Lernressourcen. Zusätzlich gehen KI-Brillen in das CNIB-Programm „Come to Work“. Nutzen laut Meta: Vorlesen, Objekterkennung, Beschreibung der Umgebung.⁴

Highlights für deinen Arbeitsalltag

• Lebenslauf schärfen mit Gemini. Du wandelst Rohnotizen in prägnante, ATS-freundliche Bullets. So erhöhst du die Chance, durch automatische Filtersysteme zu kommen. Starte mit einem alten CV und überarbeite nur einen Abschnitt.⁵

• Intent-basierte UI-Tests als Service. Epsilon baut Tests in Klartext und führt sie mit Amazon Nova Act und dem Bedrock AgentCore Browser aus. Du bekommst belastbare Schritte ohne fragile Selektoren und ohne eigene Browser-Infra. Voraussetzung: AWS-Zugang und Einbindung in Bedrock.⁶

• Agents dürfen jetzt selbst im Browser klicken. LangChains Managed Deep Agents steuern Websites ohne API, testen UIs Ende-zu-Ende und können dir das Fenster kurz zur Anmeldung übergeben. Das hilft bei Buchungen, Formularen und akuten QA-Checks.⁷

Tools und Updates

• Simantic: Firmware-Simulation für KI-Agenten. Teste MCU-Firmware ohne Hardware, mit virtuellen Devboards und CI-Einbindung. Nützlich für Embedded-Teams in Automotive, Robotik und Raumfahrt. Voraussetzung: unterstützte Chips wie STM32F-/H7, ESP32-S3/C3, RP2040.⁸
• Mistral Large 4 „Le Chonk“ auf Hugging Face. Multimodales großes Modell als praktischer Einstieg über die HF-Plattform. Geeignet für Prototypen, die Text und Medien verbinden.⁹
• AnySpeechRecognizer und AnyDecisionModel. Offene Modelle für Sprache und Entscheidungslogik auf Apple-Plattformen. Für lokale Diktate, Transkripte oder einfache Automatisierungen.¹⁰

In fünf Minuten ausprobieren

Lebenslauf-Bullets mit Gemini überarbeiten

1) Öffne Gemini und wechsle in den Vollbild-Editor. Füge diese Rohnotizen ein: „CRM eingeführt, 3 Monate, Team 5, Vertrieb zufriedener. Newsletter gemacht, mehr Klicks. Support-Mails sortiert, schneller geantwortet.“¹¹ 2) Prompt: „Formuliere 5 ATS-freundliche Bullet Points im Format Aufgabe-Aktion-Ergebnis. Nutze starke Verben, konkrete Zahlen oder Zeitspannen. Bringe 3 relevante Keywords aus Marketing/CRM ein.“⁵ 3) Lies die Bullets laut und kürze Füllwörter. Ergänze echte Kennzahlen, falls bekannt.

Erwartetes Ergebnis: 5 kurze Bullets mit klarer Aktion und messbarem Ergebnis. Prüfkriterium: Jedes Bullet enthält ein starkes Verb, eine Wirkung und mindestens ein fachliches Keyword.⁵¹¹

Ein guter Fund

„Wenn dir KI heute nicht hilft, ist das ein Befund, kein Versagen.“ Der Amazon-Leiter Terk Terkowitz rät: dokumentiere die Gründe, teile sie im Team und suche Lösungen. So übst du Urteilskraft, statt blind zu automatisieren. Konkreter nächster Schritt: Schreibe eine einseitige Notiz mit drei Aufgaben, wo KI stört oder hilft, und hänge Belege an.¹²

Quellen

1. Speeding up language models for travel applications (amazon.science)
2. Catching Bugs Before They Land: JiTTesting’s Human-on-the-Loop Approach at Full Scale (engineering.fb.com)
3. API credits benefit for eligible ChatGPT subscriptions (simonwillison.net)
4. The Future Is for Everyone: Meta and CNIB Partner to Support Canadians Who Are Blind, Deafblind or Have Low Vision (about.fb.com)
5. How to use Gemini to update your resume (blog.google)
6. Building intent-driven UI testing with Amazon Nova Act (aws.amazon.com)
7. @langchain: 🌐 Managed Deep Agents can now use a browser

Your agent can: - Take actions on sites with no API, like booking a reservation - Test an application end to end through its UI - Hand (x.com) 8. Launch HN: Simantic (YC F26) – Firmware Simulation for AI Agents (news.ycombinator.com) 9. Welcome Le Chonk: Mistral Large 4 on Hugging Face (huggingface.co) 10. Introducing AnySpeechRecognizer and AnyDecisionModel: Open Models for Speech and Decisions on Apple Platforms (huggingface.co) 11. You can now generate, preview, and edit documents, PDFs, presentations, spreadsheets, and more directly in Gemini. (blog.google) 12. Quoting Terk Terkowitz (simonwillison.net)