Strømmer over av AI-'forklarings'-kontoer som lurer AI-nysgjerrige til engasjement. Bare i dag har feeden min ting som at folk slår BREAKING på år gamle AI-papirer. Gjør du sånne ting? Jeg respekterer innsatsen, men vær så snill å ha litt respekt for vårt kollektive informasjonsmiljø. Det er vanskelig nok å spore faktisk nye artikler.

Sett denne virale tweeten om en bærbar lydjammer? Ser kult ut, ikke sant? Det ligner også ganske mye på hundrevis av produkter solgt på Alibaba og i spionbutikker i årevis. Eller som DIY-sett for 50 dollar i deler. De bruker ultrasonisk støy for å overvelde mikrofoner i nærheten. Jeg er skeptisk til prislappen og måten det markedsføres på, og jeg vil gjerne dele hvorfor: det virker for meg som om det som skiller dette, bortsett fra det personvernvennlige språket, er påstander som for meg høres ut som om de har utviklet «ny fysikk» og bruker AI for å oppdage mikrofoner. Dette ville være ekstraordinært og kreve like ekstraordinært bevis hvis det var sant. Jeg mistenker at realiteten kan være mer som å bruke WiFi osv. for å skanne etter enheter. Dette er ikke ny fysikk. Problemet: mange av mikrofonene folk er mest bekymret for, sender ikke ut wifi eller bluetooth osv. Eller det kan være en telefon i flymodus. Osv. Ytterligere problemer rundt ultrasonisk jamming? Komplekse rekkeviddebegrensninger, problemer med romrefleksjoner, stoff som absorberer utslipp fra jammeren din, hindringer osv. En telefon i en stofflomme blir for eksempel kanskje ikke pålitelig overvunnet av denne enheten. Også kritisk: rekkevidden til denne typen teknologi er avstanden mellom emitteren og mikrofonen. Ikke mellom deg og den uønskede mikrofonen. Så hvis du er i et rom av normal størrelse og mikrofonen er for eksempel 3 meter fra deg i taket, eller på den andre siden av sofaen, kan den fortsatt høre deg tydelig. Vurder å spørre din vennlige lokale ekspert på lyd, fysikk eller sikkerhet før du kjøper eller investerer i dette produktet. Jeg er ikke en av dem. Kilden til min forståelse: Jeg brukte for noen år siden på å planlegge å sette sammen en slik enhet og leste mange artikler. Jeg kan ta feil i min forståelse (eller gå glipp av noe!) og retter gjerne hvis jeg har misforstått hva de tilbyr. For å lære mer om denne populære og velkjente objektkategorien, se @LinusTech fra for ett år siden

Det snakkes mye om å øke personvernet ved å skape et lag med anonymitetsruting mellom bruker og leverandør av AI-modeller. Men det jeg virkelig ikke forstår, er dette: vanlige LLM-er er allerede usedvanlig gode til å identifisere mønstre og av-anonymisere. Hvorfor skal vi tro at de ikke er i stand til å raskt koble oss sammen igjen? Jeg vil tro at ett-skudds re-identifisering av en modell er lett mulig på tvers av enkeltprompter fra flere kontoer, selv om de er 'anonymt' rutet til API-et. Nesten helt sikkert gjelder det spesielt når brukere jobber med samme kode, prosjekt eller fra samme miljø. Konklusjon: litt som å bruke Tor-nettleseren og tro at du er anonym fra nettsider, men beholde informasjonskapsler på tvers av økter. Mengden skitt du må gjøre for å få konteksten for å bli virkelig herdet mot relinking av store modeller virker så betydelig at det blir enormt ineffektivt.