Beiträge
Das meiste, was am KI-Engineering schwierig ist, passiert, nachdem die Sache einmal funktioniert hat. Das hier sind Notizen dazu: Retrieval, das lautlos scheitert, Evaluation, die niemand eingeplant hat, und Architekturentscheidungen, die auf Papier billig und im Code teuer sind.
Retrieval-Demos scheitern auf eine Weise, die unsichtbar bleibt, bis echte Dokumente ankommen. Die drei Fehler, die den größten Teil davon ausmachen, und was man statt Bauchgefühl messen sollte.
LesenEvaluation, Monitoring und die Fehler, die erst auftauchen, wenn echte Nutzer da sind.
LesenEine Seite Prosa kostet einen Nachmittag und klärt die Diskussionen, die sonst drei Wochen später in einem Pull Request geklärt werden.
Lesen