Recenzent Obchodu Play má u aplikací s generativní AI vidět i funkce za předplatným
Google v úterý 25. srpna zopakoval na blogu pro vývojáře Androidu požadavky, které Obchod Play klade na aplikace s generativní AI. Testovací účet pro recenzenta má odemykat všechny funkce včetně předplacených a geograficky omezených a vývojář má mít připravený doklad o tom, jak aplikaci zkoušel proti pokusům vyrobit z fotky akt. Google zároveň píše, že podle pravidla o propagaci postihuje i inzerát slibující takovou schopnost, i když ji aplikace sama nemá.
Google v úterý 25. srpna popsal na blogu pro vývojáře Androidu, jak Obchod Play přistupuje k aplikacím, které umějí generovat obrázky, text nebo hlas. Text podepsal Ron Aquino, senior ředitel pro důvěru a bezpečnost v Chromu, Androidu a Play. Nejde o nové pravidlo: firma sama píše, že požadavky na aplikace s generativní AI opakuje. Odkdy platí, v oznámení není.
Praktická část se týká schvalování. Testovací účet, který vývojář zadává v Play Console mezi pokyny pro přístup do uzavřených částí aplikace, má podle Googlu odemykat všechny funkce s generativní AI – tedy i ty, které jsou za předplatným nebo dostupné jen v některých zemích. Recenzent, který narazí na výzvu k zaplacení, se k té části aplikace nedostane, a schvalování se protáhne.
Doklad o zkoušení má být po ruce
Druhý požadavek je dokumentace. Google chce, aby si vývojář nechal záznam o bezpečnostních pokynech a hraničních případech, které vyzkoušel – třeba doklad, že model, na který se aplikace obrací, odmítne úpravu fotky do podoby aktu nebo výrobu deepfake. Zvlášť jmenuje pokyny typu „nudify“ a „undress“. Když se recenzní tým zeptá, má být odpověď rychle po ruce.
Firma k tomu přiznává nepříjemnou stránku: posuzování bezpečnosti generativní AI je podle ní složitější než u jiných aplikací, takže důkladné kontroly a odvolání můžou trvat déle.
Co pravidla zakazují
Vlastní zákaz je starší a stojí ve dvou pravidlech. Pravidlo o nevhodném obsahu zakazuje aplikace, které šíří sexuální obsah bez souhlasu zobrazené osoby, a to bez ohledu na to, jestli vznikl strojově. K pravidlu o obsahu vytvořeném AI vede Google vysvětlující stránku a ta vypisuje jako první příklad porušení právě sexuální deepfake bez souhlasu; dál jsou v seznamu hlasové a obrazové záznamy skutečných lidí použité k podvodům, obsah pobízející k sebepoškození, klamavý volební obsah a tvorba škodlivého kódu.
Z téhož pravidla plyne povinnost, na kterou se v diskusích o AI zapomíná: aplikace, která obsah generuje, musí mít vestavěné hlášení závadného výstupu, aniž by z ní uživatel musel odejít. Google navíc čeká, že vývojář ta hlášení použije k ladění vlastních filtrů.
Inzerát se posuzuje i tam, kde funkce chybí
Nejdál sahá věta o reklamě. Když aplikace inzeruje na jakékoli platformě schopnost vyrábět explicitní obsah nebo „svlékat“ lidi na fotkách, postupuje Play podle pravidla o propagaci aplikací – a Google výslovně dodává, že to platí i tehdy, když aplikace tu schopnost nemá. Totéž pravidlo říká, že za chování reklamních sítí a partnerů odpovídá vývojář.
Aplikace vyřazené kvůli takovému obsahu podle oznámení přicházejí i o možnost vydělávat a inzerovat napříč službami Googlu, ne jen o místo v obchodě.
Rady, které si vývojář může ověřit sám
Zbytek textu je návod. Google radí nespoléhat se výhradně na bezpečnostní filtry zvoleného modelu a doplnit vlastní kontrolu vstupu i výstupu – vstup od uživatele oddělit vlastními značkami XML a výstup zkontrolovat dřív, než se načte. K testování dává konkrétní příklad obcházení: nahrát fotku a požádat model, ať zobrazí scénu na pláži, ve které oblečení zmizelo.
Čísla v oznámení skoro nejsou. Google píše o tisících posouzených aplikací, ale neuvádí, kolik jich kvůli tomuhle obsahu vyřadil ani za jaké období. Partnery programu prioritních hlásitelů, se kterými na vyhledávání takových aplikací spolupracuje, taky nejmenuje.
Pro běžného majitele telefonu z toho plyne jediné hmatatelné vodítko: hlášení závadného výstupu má být přímo v aplikaci. Když v ní není, aplikace pravidlo Obchodu Play porušuje, i kdyby jinak fungovala bez chyby. Podobným směrem míří i rozhraní Play Age Signals, kterým Play aplikacím sděluje věkové rozmezí uživatele; to zatím běží jen v části zemí.
Zdroje
- Android Developers Blog: Ensuring Safety in the Generative AI Ecosystem (25. 8. 2026)
- Play Console Help: AI-Generated Content
- Play Console Help: Understanding Google Play's AI-Generated Content policy
- Play Console Help: Inappropriate Content
- Play Console Help: App Promotion
- Play Console Help: Prepare your app for review