Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Sanchit monga
Sống cuộc sống bên lề @runanywhereai (YC W26)
Chúng tôi đã xây dựng tương lai của AI giọng nói trên Mac của bạn. RCLI đã có mặt @RunAnywhereAI!
Đường ống giọng nói + RAG tối ưu hóa từ đầu đến cuối của chúng tôi: nói → điều khiển tức thì + câu trả lời tài liệu, độ trễ ~131ms,
- tất cả ĐỊA PHƯƠNG
- tất cả MÃ NGUỒN MỞ
- tất cả MIỄN PHÍ.
43 hành động, không đám mây, dữ liệu của bạn mãi mãi riêng tư.
Siri: “Để tôi suy nghĩ về điều đó…”
RCLI: 131 ms từ giọng nói đến hành động. Xong. Tiếp theo.
Trải nghiệm nó—cài đặt & điều khiển máy của bạn:
curl -fsSL | bash
Cấp độ tiếp theo đang đến: hỗ trợ MetalRT (suy diễn Apple Silicon nhanh nhất 658 tok/s giải mã, ASR và TTS nhanh như chớp).
Mac của bạn sắp đạt tốc độ vượt ánh sáng!
#OnDevice #MetalRT #YCW26 #NoMoreWaiting
2 giờ trước
Startup này là một mối đe dọa nghiêm trọng đối với Siri ☠️
Nó có tên là @RunAnywhereAI và vừa mới ra mắt RCLI: một trợ lý giọng nói 100% địa phương, đã vượt trội hơn về tốc độ và quyền riêng tư. 131 ms từ đầu đến cuối (giọng nói → phản hồi nói)
⭐️Kiểm soát 43 hành động gốc của macOS (Spotify, cửa sổ, FaceTime, nhắc nhở…).
⭐️RAG tức thì trên các tài liệu PDF và tài liệu của bạn.
⭐️Tất cả đều offline, không cần đám mây, không cần API keys.
Đó chưa phải là tất cả.
Những gì sắp tới... mẹ ơi.
Người sáng lập vừa tiết lộ MetalRT (động cơ TTS mới của họ được làm bằng Metal và những gì bạn thấy trong video) đạt 291 ms cho 5 từ và nhanh hơn 8.4 lần so với thời gian thực.
Khi bản cập nhật đó ra mắt… Siri sẽ phải khóc.
Trong khi chờ đợi, REPOOO 👇
1
MetalRT cung cấp khả năng suy diễn TTS nhanh nhất trên Apple Silicon.
Kết quả chính trên M3 Max:
- Độ trễ 291 ms cho 5 từ, 8.4x RTF, nhanh hơn 2.8x so với mlx
- Độ trễ thấp nhất được ghi nhận: 291 ms
- RTF cao nhất: 8.8x trên các đầu vào dài hơn
Điều này cho phép trải nghiệm chuyển văn bản thành giọng nói ngay lập tức trên thiết bị.
DÒNG AI giọng nói NHANH NHẤT trên Apple silicon sắp ra mắt, được cung cấp bởi @RunAnywhereAI
#AppleSilicon #TTS #MetalRT #OnDeviceAI #runanywhere
49
Chỉ trong 48 giờ tại @RunAnywhereAI, chúng tôi đã xây dựng MetalRT: đánh bại @Apple trong chính lĩnh vực của họ và cung cấp động cơ suy diễn LLM NHANH NHẤT trên thị trường cho Apple Silicon ngay bây giờ.
- 570 tok/s giải mã @liquidai LFM 2.5-1.2B 4-bit
- 658 tok/s giải mã @Alibaba_Qwen Qwen3-0.6B, 4-bit
- 6.6 ms thời gian đến token đầu tiên
- Nhanh hơn 1.19× so với MLX của Apple (các tệp mô hình giống hệt nhau)
- Nhanh hơn 1.67× so với llama.cpp trung bình
Chúng tôi đã đánh bại Apple MLX, llama.cpp, uzu (bởi TryMirai), và Ollama trên bốn mô hình 4-bit khác nhau, bao gồm LFM2.5-1.2B tối ưu hóa trên thiết bị trên một M4 Max duy nhất.
Hào hứng với điều này!
#ycombinator #runanywhere #ondeviceai #applesilicon #mlx
122
Hàng đầu
Thứ hạng
Yêu thích