3Blue1Brown: Neural Networks
Grant Sandersons animierte Videoserie: vom einzelnen Neuron über Backpropagation bis zur Frage, wie ein GPT das nächste Wort vorhersagt. Kein Code nötig, die beste visuelle Intuition für Einsteiger.
DetailsVerzeichnis
Kuratiert und aktuell: die Tools, die man kennen sollte, und Material, das tiefer geht als das Buch.
Grant Sandersons animierte Videoserie: vom einzelnen Neuron über Backpropagation bis zur Frage, wie ein GPT das nächste Wort vorhersagt. Kein Code nötig, die beste visuelle Intuition für Einsteiger.
DetailsSebastian Raschkas Newsletter mit technischen Tiefenbohrungen: wie konkrete Architekturen und Trainingstechniken funktionieren, dazu Forschungsüberblicke. Die Kernbeiträge sind kostenlos.
DetailsEinstündiger Vortrag für ein allgemeines Publikum: was Sprachmodelle sind, wie sie trainiert werden, wohin die Technik geht. Mit Analogien statt Code, direkt nach dem Buch gut zu schauen.
DetailsAndrej Karpathy baut neuronale Netze, ein Zeichen-Sprachmodell und am Ende ein kleines GPT von Hand in Python, Zeile für Zeile. Für alle, die umsetzen wollen, was dieses Buch nur beschreibt.
DetailsLive-Rangliste, in der Nutzer Antworten verschiedener Modelle direkt vergleichen und abstimmen. Die Platzierungen beruhen auf menschlicher Präferenz statt festen Tests, gut um zu sehen, welche Modelle gerade vorn liegen.
DetailsUnabhängige Benchmark-Seite, die über 250 Sprachmodelle nach Intelligenz, Preis, Tempo und Kontextfenster vergleicht, laufend aktualisiert. Nützlich, um Behauptungen wie „Modell X ist besser“ mit Zahlen zu prüfen.
DetailsDas Paper von 2017, das die Transformer-Architektur eingeführt hat, auf der praktisch jedes moderne Sprachmodell beruht. Dichte Originalforschung, am besten nach einem der visuellen Erklärer lesen.
DetailsKostenlose deutschsprachige KI-Einführung der Universität Helsinki, ohne Mathe- oder Programmier-Voraussetzungen, weltweit von über zwei Millionen Menschen absolviert. Breiter als nur Sprachmodelle, ein bewährter Startpunkt.
DetailsJeremy Howards kostenloser Deep-Learning-Kurs: im ersten Kapitel trainierst du echte Modelle, die Theorie kommt danach. Etwas Python hilft, führt bis zu den Bausteinen hinter Sprachmodellen.
DetailsKostenloser praktischer Kurs von Hugging Face in zwölf Kapiteln: echte Transformer-Modelle nutzen und feinabstimmen mit deren Open-Source-Bibliotheken. Braucht etwas Python, für alle, die bauen statt nur verstehen wollen.
DetailsTäglich aktualisierte Übersicht der KI-Paper mit der meisten Aufmerksamkeit, jeweils verknüpft mit Code, Diskussion und arXiv. Der Nachfolger des eingestellten Papers with Code.
DetailsWöchentlicher Newsletter von Anthropic-Mitgründer Jack Clark über Forschung, Politik und die Richtung des Feldes. Dichter und forschungsnäher als The Batch, unter Praktikern viel gelesen.
DetailsKostenloser deutschsprachiger Kurs (etwa zehn Stunden) über die Transformer-Architektur hinter modernen Sprachmodellen: Attention und Co. konzeptionell erklärt, ohne Code und schwere Mathematik.
DetailsBrendan Bycrofts zoombare 3D-Darstellung eines arbeitenden GPT-Netzes, jede Matrixmultiplikation vom Token bis zur Ausgabe nachverfolgbar. Detaillierter als der Transformer Explainer, für Fortgeschrittene.
DetailsSimon Willisons Blog verfolgt, wie sich Sprachmodelle in der Praxis wirklich verhalten: neue Modelle, Prompt-Injection-Risiken, offene Werkzeuge, alles in klarer Sprache. Verlässlich hype-frei.
DetailsAndrew Ngs wöchentlicher Newsletter: die KI-Forschung und -Nachrichten der Woche in verständlicher Sprache mit kurzem Kommentar. Einsteigerfreundlich, eine gute Gewohnheit nach dem Buch.
DetailsJay Alammars visueller Rundgang durch die Transformer-Architektur hinter GPT und Co., mit Diagrammen statt Formeln. Der natürliche nächste Schritt nach diesem Buch, bis heute Standardempfehlung in KI-Kursen.
DetailsInteraktives Browser-Werkzeug der Georgia Tech: ein echtes GPT-2 läuft auf deinem Text und zeigt live Tokenisierung, Embeddings, Attention und die Vorhersage des nächsten Tokens. Für Menschen ohne Programmierkenntnisse.
Details