Joka kerta ajattelen, että ah, voi ei, dspy ei tue sitä... mutta sitten sen ansiosta, että se on avoimen lähdekoodin ja voin tutkia koodia, voin vain muuttaa oikean asian oikeassa paikassa ja boom!
Vain tällä alla olevalla koodilla voit tehdä sen niin, että kaikki DSPy-optimoijat optimoivat malliluettelon kerralla ja löytävät kehotteen, joka on "yleensä hyvä" näille malleille.
ps: ensimmäistä kertaa luokittelen alaluokkaa kuin oikea olio-ohjelmoija, aivan yksin 😎
Rakastan sitä, kuinka laajennettavissa dspy on. En tunne lukkiutumista, ja pidän siitä todella.
Halusin käyttää dspyä itse isännöidyn, käynnissä olevan paikallisen LLM:n kanssa Macissa. Noin työpäivässä pystyin käärimään mlx-lm:n ja käyttämään sitä dspyn mallitaustana.
Kaunista tavaraa!