Čínský Palantir? Zakládající tým tvoří penzionovaní vojenskí důstojníci.
cc @teortaxesTex
Zakládající tým pochází z předních technologických společností jako Alibaba Cloud, Dharma Academy, Huawei a Baidu, stejně jako z bývalých důstojníků z letectva, raketových sil, kybernetické armády a dalších složek, s průměrně více než desetiletou praxí v oblasti umělé inteligence, národní bezpečnosti, vědy a technologií národní obrany a dalších oborů.
Pracuji na novém algoritmu inference pro LLM.
Jmenuje se Speculative Speculative Decoding (SSD) a je až 2x rychlejší než nejsilnější inferenční enginy na světě.
Spolupráce s @tri_dao @avnermay. Podrobnosti v diskuzi.