我喜歡 dspy 的可擴展性。我感覺沒有任何鎖定,這讓我非常喜歡。 我想在 Mac 上使用自託管的、進程內的本地 LLM 與 dspy。經過大約一天的工作,我成功地將 mlx-lm 封裝並用作 dspy 的模型後端。 真是美妙的東西!