Apple zpřísnil pravidla App Storu. Míří na AI deepfaky i skryté funkce

Apple v pátek upravil tři části pravidel pro schvalování aplikací. Nově výslovně zakazuje nekonsenzuální intimní snímky vytvořené umělou inteligencí a trestá vývojáře, kteří do aplikace přidají funkce až po schválení. Změna v páté sekci se dotkne i alternativní distribuce v Evropské unii.

Apple aktualizuje pravidla pro posuzování aplikací několikrát do roka a většinou jde o drobnosti, kterých si všimne jen hrstka vývojářů. Páteční úprava je jiná. Firma v oznámení pro vývojáře popsala tři zásahy, z nichž každý míří na jiný typ zneužití obchodu, a dohromady tvoří poměrně jasný signál, kam se posuzování aplikací posouvá. Spojuje je jedno téma: aplikace, které se při schvalování tváří jinak, než jak se pak chovají.

Nejdůležitější je úprava pravidla 1.2, které se věnuje obsahu vytvářenému uživateli. Požadavky na moderování nově výslovně pokrývají nekonsenzuální intimní snímky, a to včetně těch, které vznikly pomocí nástrojů umělé inteligence. Vývojáři jim musí aktivně předcházet a odstraňovat je ze svých platforem. Kdo to neudělá nebo nezjedná nápravu ani po upozornění, porušuje podle Applu Kodex chování vývojáře a riskuje vyhození z App Storu.

Není těžké uhodnout, co změnu vyvolalo. Letos na jaře Apple vzkázal společnosti xAI, že její aplikaci Grok z obchodu vyhodí, pokud bude dál umožňovat tvorbu nahých deepfaků. xAI tehdy doplnila pojistky a Apple aktualizovanou verzi schválil, jenže celý případ se řešil mimo psaná pravidla, na základě obecného zákazu sexuálně explicitního obsahu. Teď má Apple v ruce formulaci, která přesně popisuje, co od provozovatelů generativních nástrojů čeká, takže příští spor nebude o výklad.

Druhá novinka je zbrusu nové pravidlo 2.5.19 nazvané skryté, spící nebo nezdokumentované funkce. Apple jím podle vlastních slov jen upřesňuje dlouholetou zásadu, která dřív spadala pod bod 2.3.1: aplikace nesmí při schvalování předstírat, že dělá něco jiného, a po schválení se změnit. Konkrétně jde o přidávání funkcí, které v odeslané verzi nebyly. Trest je nově dvojí, vyhazov z App Storu a zároveň vyloučení z vývojářského programu, což znamená konec i pro všechny ostatní aplikace daného účtu.

Mířeno je to hlavně na aplikace, kterým se anglicky říká nudify a které z běžné fotografie udělají nahotu. Typický scénář vypadal tak, že se do recenze poslal nevinný fotoeditor, prošel, a teprve potom se na serveru odemkla funkce, kvůli které aplikace vznikla. Server MacRumors tuhle taktiku popisuje jako klasickou bait-and-switch. Z pohledu recenzenta je nejhorší na tom to, že v odeslaném balíčku opravdu nic závadného není, takže technická kontrola nemá co najít.

Třetí změna se týká páté sekce pravidel a je z evropského pohledu nejzajímavější. Aplikace, které usnadňují obchodování s lidmi nebo zneužívání dětí, byly v App Storu zakázané odjakživa. Apple teď doplnil, že takové aplikace nejen vyhodí z obchodu, ale zároveň je zablokuje i pro alternativní distribuci. Právě ta funguje v Evropské unii, a tedy i v Česku, kvůli nařízení o digitálních trzích, takže jde o jedinou ze tří novinek, která má přímý dopad na to, co si může stáhnout český uživatel.

Stojí za zmínku, že Apple si alternativní distribuci v Unii nevybral dobrovolně a opakovaně proti ní argumentoval právě bezpečností. Tahle úprava je tím pádem i trochu politickým gestem: firma ukazuje, že si nad alternativními obchody ponechává poslední slovo aspoň u nejtěžších případů. Pro uživatele je to dobrá zpráva, pro provozovatele alternativních tržišť spíš připomínka, kdo drží klíče od systému.

Jak moc to Apple myslí vážně, se pozná až podle vymáhání. Firma v oznámení píše, že neváhá aplikace odstraňovat a ukončovat účty vývojářů, kteří za nimi stojí, a čísly se chlubí ráda, loni například zastavila podvodné transakce za 2,2 miliardy dolarů. Problém je, že moderování obsahu v cizích aplikacích se zvenčí kontroluje mnohem hůř než odeslaný balíček kódu. Apple se tak spoléhá na to, že se o problém dozví od novinářů, výzkumníků nebo poškozených uživatelů.

Pro poctivé vývojáře z toho plyne jedno praktické doporučení. Pokud vaše aplikace umí něco, co se zapíná až po schválení, třeba kvůli serverovému přepínači nebo postupnému nasazování funkcí, popište to v poznámkách pro recenzi. Pravidlo 2.5.19 nerozlišuje mezi zlým úmyslem a nešikovným nasazením, rozlišuje mezi tím, co bylo v odeslané verzi, a tím, co se objevilo potom. Vysvětlovat to až ve chvíli, kdy vám zmizí celý vývojářský účet, je pozdě.

Z pohledu běžného uživatele se nic nemění, ale pár věcí stojí za pozornost. Generativní nástroje na úpravu fotek se v obchodech množí a většina z nich je neškodná, u těch, které slibují „odstranění oblečení“ nebo podobné kouzlo, je ale namístě obezřetnost, a to i kvůli tomu, kam nahrávají vaše snímky. Apple má v systému i vlastní nástroje na ochranu dětí, od rozmazávání citlivého obsahu ve Zprávách po omezení v dětských účtech. Nová pravidla jsou k nim doplněk, ne náhrada.

Celkově jde o úpravu, která se dala čekat, a Apple ji načasoval rozumně, i když v pátek, kdy se všichni dívali na předobjednávky skládačky. Trochu úsměvné je, že firma, která loni musela po roce vysvětlovat, proč z obchodu vyhodila některé aplikace, teď vydává pravidla v zájmu transparentnosti. Na druhou stranu platí, že psané pravidlo je vždycky lepší než nepsané, protože se o něm dá aspoň vést spor.

Zdroje: Apple Developer, MacRumors, 9to5Mac