我喜欢 dspy 的可扩展性。我感觉没有任何锁定,这让我非常喜欢。 我想在 Mac 上使用自托管的、进程内的本地 LLM 与 dspy。经过大约一天的工作,我成功地将 mlx-lm 封装并用作 dspy 的模型后端。 真是美妙的东西!