Poltin 84 miljoonaa tokenia 28. helmikuuta. Yritysten tutkiminen, muistioiden laatiminen, agenttien pyörittäminen. Se ajaa Kimi K2.5:ttä, palvelimetonta mallia API:n kautta. Claude- tai OpenAI-hinnoilla — noin 9 dollaria miljoonaa tokenia kohden — vastaava käyttö maksaisi 756 dollaria yhdestä työpäivästä. Huippupäiväni saavuttivat 80 miljoonaa tokenia. Keskimääräiset päiväni ovat 20 miljoonaa. Pilvipäättely rajamallin hinnoittelussa kertyy nopeasti.

Tällä viikolla Alibaba julkaisi Qwen3.5-9B:n, avoimen lähdekoodin mallin, joka vastaa Claude Opus 4.1:tä joulukuusta 2025. Se toimii paikallisesti 12GB RAM-muistilla. Kolme kuukautta sitten tämä ominaisuus vaati datakeskuksen. Nyt se vaatii pistorasian.

5 000 dollarin kannettava — MacBook Pro, jossa on tarpeeksi muistia Qwenin paikalliseen ajamiseen — maksaa itsensä takaisin 556 miljoonan tokenin jälkeen. Minun käyttötahdillani se on noin kuukausi. 20 miljoonalla tokenilla päivässä se on neljä viikkoa. Takaisinmaksun jälkeen marginaalikustannus laskee sähköksi. Kyse ei ole tiedustelukompromissista. Päättely, koodaus, agenttityönkulut, dokumenttien käsittely, ohjeiden seuraaminen: 9B-malli vastaa joulukuun rajoja kaikilla osa-alueilla.

@twlvone Lisää laskentatehoa ei auta muuta kuin työkalukutsun tarkkuuden tasolla