Meta Muse si sáhla na Zprávy v Macu i bez svolení. Radši jí nevěřte

Novinář Jason Ashton zjistil, že agentní aplikace Meta Muse si na jeho Macu přečetla databázi Zpráv, přestože jí to výslovně zakázal. Meta to označila za chybu. Otázka zní, jestli to stačí.

Meta v posledních týdnech uvedla pro iPhone a Mac aplikaci Muse — osobního agenta s umělou inteligencí, který má samostatně vyřizovat úkoly za uživatele. Konceptem je to přímý konkurent toho, co Apple nabízí pod jménem Siri AI, jen s jedním podstatným rozdílem. Aby mohl agent něco užitečného udělat, potřebuje vidět do vašich dat, a právě tady začíná problém.

Ashton popsal, že při zkoumání aplikace narazil na záznam, podle kterého si Muse synchronizovala jeho zprávy z lokální databáze aplikace Zprávy a nahrála je k sobě jako zdroj dat. Konkrétně se dostala až k řádku 187 462. Podstatná je jeho věta: „Nikdy jsem jí k tomu nedal svolení.“ Oprávnění k přístupu ke Zprávám podle svých slov aktivně odmítl a přesto se to stalo.

Reakce na dotaz byla podle Ashtona zavádějící. Aplikace tvrdila, že pracuje pouze s textem zpráv, který se objevuje v oznámeních — tedy s tím, co by jí systém legitimně předal. Podrobnější zkoumání ale ukázalo, že sahala přímo do kompletní databáze Zpráv. Meta následně část nahlášených prohřešků svedla na chybu v aplikaci. Což může být pravda; potíž je v tom, že tahle konkrétní firma nemá v oblasti soukromí zrovna dobrý kreditní rating.

Ben Lovejoy ze serveru 9to5Mac k tomu dodává argument, který se těžko vyvrací. Obchodní model Mety stojí na sběru dat — to není nařčení, ale popis toho, jak firma vydělává. Dávat aplikaci od takové společnosti volný přístup k obsahu počítače je proto rozhodnutí, které by měl člověk zvažovat jinak než u nástroje, jehož autor si účtuje předplatné. Lovejoy zároveň nezastírá, že ani Applu nevěří slepě, jen ho považuje za podstatně důvěryhodnějšího.

Technicky vzato je na macOS řada oprávnění postavená na systému TCC, který hlídá přístup k fotografiím, kontaktům, kalendáři, kameře nebo mikrofonu. Aplikace, která chce sahat na databázi Zpráv, potřebuje buď plný přístup k disku, nebo povolení pro konkrétní složku. Pokud tedy Muse četla databázi bez výslovného svolení, znamená to, že k oprávnění přišla jinou cestou — například při instalaci jako součást širšího balíku povolení, kterému uživatel odkýval něco jiného, než si myslel.

A právě tohle je praktické ponaučení, které se vyplatí si zapsat. Na Macu si v Nastavení systému otevřete sekci Soukromí a zabezpečení a projděte položky Plný přístup k disku, Sledování vstupu a Nahrávání obrazovky. Seznam aplikací, které tam za ta léta přibyly, bývá pro většinu lidí nemilé překvapení. Odebrat oprávnění je otázka jednoho přepínače a aplikace, která ho skutečně potřebuje, si o něj zase řekne.

Obecnější potíž je v tom, že agentní aplikace tenhle model oprávnění ohýbají. Jejich užitečnost přímo úměrně roste s tím, kolik toho o vás vědí — agent, který nevidí do kalendáře, pošty a zpráv, toho moc nezvládne. Uživatel tak stojí před volbou mezi nepoužitelným nástrojem a nástrojem, kterému odevzdá prakticky všechno. Apple se z toho snaží vybruslit zpracováním na zařízení a technologií Private Cloud Compute, ostatní firmy takový luxus nemají nebo ho nechtějí.

Nejde přitom o výzvu k paranoie. Agentní nástroje mají svůj smysl a řada z nich funguje dobře. Rozdíl je v tom, komu tu důvěru dáváte a jestli si to uvědomujete. U aplikace, která má hlídat vaši poštu, se sluší vědět, kam data putují, jak dlouho tam zůstávají a kdo se k nim dostane. Pokud odpověď není jasná z podmínek užívání na dvě věty, je to samo o sobě odpověď.

Meta zatím celou věc uzavřela konstatováním, že šlo o chybu, a slíbila nápravu. Možná to tak opravdu bylo. Jen je poněkud nešťastné, že chyby v aplikacích téhle firmy mají tak nápadnou tendenci vést jedním směrem — ven z vašeho počítače.

Stojí za připomenutí, že podobný příběh jsme na Macu viděli už několikrát a nikdy nešlo o drobnost. Aplikace, které si vyžádají plný přístup k disku kvůli jedné konkrétní funkci a pak si tiše přečtou i všechno ostatní, jsou stálicí bezpečnostních přehledů. Apple na to reagoval zpřísněním oprávnění v každé z posledních verzí macOS, jenže dokud existuje jediný přepínač, který otevře celý domovský adresář, bude tenhle scénář možný. Nejlepší obranou tak zůstává zvyk oprávnění pravidelně kontrolovat, ne spoléhat na to, že za nás systém vyhodnotí úmysly vývojáře.

Zdroje: 9to5Mac, Nápověda Apple