Актуальні теми
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Sanchit monga
Життя на межі @runanywhereai (YC W26)
Ми побудували майбутнє голосового ШІ на вашому Mac. RCLI тут @RunAnywhereAI!
Наш оптимізований наскрізний голосовий конвеєр + RAG: розмова → миттєвий контроль + відповіді документа, затримка ~131 мс,
- всі ЛОКАЛЬНІ
- всі ВІДКРИТІ КОДИ
- Все БЕЗКОШТОВНО.
43 дії, жодної хмари, твої дані назавжди приватні.
Сірі: «Дай подумати...»
RCLI: 131 мс голос у дії. Готово. Наступний.
Відчуйте це — встановіть і керуйте своїм комп'ютером:
curl -fsSL | bash
Наступний рівень вхідних: підтримка MetalRT (найшвидше декодування Apple Silicon inference 658 tok/s, блискучий ASR і TTS).
Твій Mac ось-ось досягне варп-швидкості!
#OnDevice #MetalRT #YCW26 #NoMoreWaiting
3 години тому
Цей стартап є серйозною загрозою для Siri ☠️
Він називається @RunAnywhereAI і щойно випустив RCLI — 100% локальний голосовий асистент, який вже випереджає його за швидкістю та конфіденційністю. 131 мс від кінця до кінця (голос → усна відповідь)
⭐️Керуйте 43 нативними діями macOS (Spotify, Windows, FaceTime, нагадування...).
⭐️Миттєвий RAG у ваших PDF та документах.
⭐️Все офлайн, без хмари, без API-ключів.
І це ще не все.
Що далі... Мамо.
Засновник щойно представив MetalRT (його новий TTS-рушій, створений на основі Metal і того, що ви бачите у відео), який досягає 291 мс за 5 слів і у 8,4 раза швидше, ніж у реальному часі.
Коли вийде це оновлення... Сірі зараз заплаче.
Тим часом REPOOO 👇
2
MetalRT забезпечує найшвидший TTS-висновок на Apple Silicon.
Ключові результати на M3 Max:
- Затримка 291 мс для 5 слів, 8,4x RTF, у 2,8 раза швидше, ніж у mlx
- Найнижча зафіксована затримка: 291 мс
- Пік RTF: 8,8x на довших входах
Це дозволяє миттєво відчувати перетворення тексту в мовлення безпосередньо на пристрої.
НАЙШВИДШИЙ конвеєр голосового AI на Apple silicon незабаром з'явиться на базі @RunAnywhereAI
#AppleSilicon #TTS #MetalRT #OnDeviceAI #runanywhere
50
Всього за 48 годин у @RunAnywhereAI ми створили MetalRT: обігравши @Apple у їхній власній грі та забезпечивши НАЙШВИДШИЙ LLM-інференційний рушій на ринку Apple Silicon на сьогоднішній момент.
- 570 ток/с декодування @liquidai LFM 2.5-1.2B 4-біт
- 658 ток/с декодування @Alibaba_Qwen Qwen3-0.6B, 4-бітний
- 6,6 мс час до першого токена
- 1.19× швидше за власний MLX від Apple (ідентичні файли моделей)
- 1,67× швидше за llama.cpp в середньому
Ми розгромили Apple MLX, llama.cpp, uzu (від TryMirai) та Ollama на чотирьох різних 4-бітних моделях, включаючи оптимізований LFM2.5-1.2B на одному M4 Max.
З нетерпінням чекаю на цю гру!
#ycombinator #runanywhere #ondeviceai #applesilicon #mlx
123
Найкращі
Рейтинг
Вибране