github.com via Hacker News

Imp porte DSPy sur la BEAM Elixir/Erlang pour orchestrer des pipelines LLM avec la concurrence d'Actor Model

Résumé

Le projet open-source Imp de deepfates est un portage complet de DSPy vers la BEAM (Elixir/Erlang). L'idée est d'exploiter le modèle d'acteurs et la tolérance aux pannes de la VM pour construire des pipelines LLM en production, une alternative à l'orchestration Python de DSPy quand la concurrence massive devient le facteur limitant.