Tôi đã đốt 84 triệu token vào ngày 28 tháng 2. Nghiên cứu các công ty, soạn thảo ghi chú, điều hành các đại lý. Đó là chạy Kimi K2.5, một mô hình không máy chủ qua API. Tại các mức giá của Claude hoặc OpenAI — khoảng 9 đô la cho mỗi triệu token pha trộn — mức sử dụng tương đương sẽ tốn 756 đô la cho một ngày làm việc. Những ngày cao điểm của tôi đạt 80 triệu token. Những ngày trung bình của tôi chạy 20 triệu. Sự suy diễn đám mây với giá mô hình tiên tiến tăng lên nhanh chóng.

Tuần này, Alibaba đã phát hành Qwen3.5-9B, một mô hình mã nguồn mở tương đương với Claude Opus 4.1 từ tháng 12 năm 2025. Nó chạy cục bộ trên 12GB RAM. Ba tháng trước, khả năng này cần một trung tâm dữ liệu. Bây giờ nó chỉ cần một ổ cắm điện.

Một chiếc laptop trị giá 5.000 đô la — một chiếc MacBook Pro với đủ bộ nhớ để chạy Qwen cục bộ — sẽ tự trả lại sau 556 triệu token. Với mức sử dụng của tôi, điều đó khoảng một tháng. Với 20 triệu token mỗi ngày, thì là bốn tuần. Sau khi hoàn vốn, chi phí biên giảm xuống chỉ còn tiền điện. Đây không phải là một sự thỏa hiệp về trí tuệ. Lập luận, lập trình, quy trình làm việc tự động, xử lý tài liệu, tuân theo hướng dẫn: mô hình 9B phù hợp với ranh giới của tháng 12 trên mọi phương diện.

@twlvone Nhiều tính toán hơn không giúp ích gì ngoài một mức độ chính xác nhất định của việc gọi công cụ.