Il Palantir della Cina? Il team fondatore è composto da ufficiali militari in pensione.
cc @teortaxesTex
Il team fondatore proviene da aziende tecnologiche di primo piano come Alibaba Cloud, Damo Academy, Huawei, Baidu, e da ufficiali in pensione delle forze aeree, dell'esercito dei razzi e delle forze informatiche, con una media di oltre 10 anni di esperienza nei settori dell'intelligenza artificiale, della sicurezza nazionale e della tecnologia della difesa.
speculando il risultato della verifica nella decodifica speculativa, abilita il redattore e il verificatore asincroni.
(*dato un hardware dedicato per il redattore.)
Ho lavorato a un nuovo algoritmo di inferenza LLM.
Si chiama Decodifica Speculativa Speculativa (SSD) ed è fino a 2 volte più veloce dei motori di inferenza più potenti al mondo.
Collaborazione con @tri_dao @avnermay. Dettagli nel thread.