Appleは「バイナリに入っていなかった機能」を軸にApp Reviewを書き換えた。罰則が向かう先は、開発者アカウントである

Appleは10月16日、App Reviewガイドラインを改訂した。告知の仕方は、同社がガイドライン改訂のたびにとるやり方そのままである。Apple Developer Newsに日付入りの記事を一本、7行の変更履歴、プレスリリースはなし。そのうち2行は同じ問題を狙っている。そして、それはApp Reviewがもともと捕まえるようには作られていない問題だ——有害な機能が、審査担当者が承認したバイナリの中には入っていないアプリ、である。

Apple自身が挙げた変更点

ガイドライン1.2は、対象とする被害と対象とするアプリを名指しする形で始まるようになった。

ユーザーがコンテンツを作成、生成、アップロード、共有、その他の形で提供できるアプリには、知的財産権の侵害、同意のない性的画像、匿名のいじめを含む、特有の課題がある。これにはソーシャルメディア、ユーザー生成コンテンツのプラットフォーム、そしてAIコンテンツ生成アプリが含まれる。

9to5Macによれば、「同意のない性的画像」という語句と、次の一文が今回の追加箇所である。

適切なセーフガードを実装しない開発者、または通知後に特定された違反を是正しない開発者は、Developer Code of Conduct違反とみなされる場合がある。

新設されたガイドライン2.5.19の全文はこうだ。

アプリに、隠された機能、休止状態の機能、文書化されていない機能を一切含めてはならない。アプリの機能はエンドユーザーとApp Reviewの双方にとって明確でなければならない。コードの難読化その他の手段によって、文書化されていない機能をアプリのバイナリ内に隠そうと試みることは、App Storeからのアプリ削除および開発者アカウント停止の理由となる。

審査が見るのはビルドであり、これらのアプリは機能の位置をずらした

ヌード化アプリの問題は、Appleの審査担当者がヌード化を売り文句にしたアプリを通してしまうことではなかった。そうしたアプリが、それを売り文句にしないことだ。Tech Transparency Projectは1月、App Store上に数十本のAI「nudify」アプリを特定し、4月の追跡調査では、App Storeの検索候補と広告がユーザーをそれらへ誘導していたと報告した。7月にはサンフランシスコ市当局が、同意のない性的画像を生成できる8本のアプリの削除をAppleに求めている。

同じ仕組みは別のカテゴリにも現れた。9to5Macの7月の調査は、ゲームやユーティリティを装いながら、ブラジルのIPアドレスから開くと賭博プラットフォームが現れるアプリを数十本見つけている。その多くは子どもでも入手できる状態だった。いずれの場合も、機能はサーバー側のフラグの背後に置かれているか、難読化されたバイナリの中に埋められている。提出されたビルドの静的な審査はそのどちらも見ることができず、審査員を何人増やしてもこの性質は変わらない。

つまり2.5.19は新しい検出手段ではない。事後の罰則をより明確に根拠づけるものであり、そこで名指しされている罰則はアカウント単位だ。アプリの削除と、開発者アカウントの停止である。Apple自身、この方針が従来からのもので、以前は2.3.1に収まっていたと明言している。新しいのは、それが独立した条項になり、コードの難読化を明示的に挙げ、そして提出物ではなく開発者に何が起きるかを述べた点である。

ガイドライン1.2もコンテンツ側で同じことをしている。是正の不履行をDeveloper Code of Conductに接続することは、帰結を「このアプリが下げられる」から「この開発者はプログラムにいられないかもしれない」へ移すことだ。来週には同じバイナリを別のペーパーカンパニー名義で出せる事業者にとって、重みのある罰則はそれだけである。

注視すべき一行はセクション5にある

最も影響の大きい明確化が、いちばん静かなところにある。セクション5の導入部は、極端な事例——人身売買や児童の搾取を助長するアプリ——について、当局に通報され、当該アプリは「App Storeから削除され、代替配布からも遮断される」と述べるようになった。

ガイドライン2.5.19にはAppleのノータリゼーションの記号が付いており、iOSおよびiPadOSでApp Store外に配布されるアプリにも適用されることを意味する。デジタル市場法（DMA）のもとで、AppleはEUにおいてiOSを他のマーケットプレイスとウェブ配布に開かざるを得なかったが、ノータリゼーションの工程は手元に残した。この二つの編集は、Appleが自社の所有しない流通経路に対して効くようにガイドラインを書いている、ということである。DMAが残した門を通して、だ。それが欧州委員会との接触に耐えるかどうかは別の話で、少なくとも意図はいまテキストに書かれている。

名指しされていない先例はGrok

4月、AppleはxAIに対し、ヌードのディープフェイクを許し続けるならGrokは削除対象になりうると非公式に伝えた。xAIはセーフガードを追加し、Appleは更新版を承認した。MacRumorsも9to5Macも、この改訂が特定のアプリのために書かれたとAppleが述べたとは報じていない。そして1.2が名指ししているのは企業ではなく、「AIコンテンツ生成アプリ」というカテゴリである。

正直に読めば、これらはいずれも執行そのものではない。執行が必要とする書類仕事である。Appleはこの一年、審査の場で嘘をついたアプリに対処してきて、その嘘自体を違反にすることで応じた。試されるのは、2.5.19のもとで実際にいくつの開発者アカウントが停止されるかだ——Appleがこれまで公表したことのない数字である。改訂版ガイドラインの各言語版は、1か月以内に公開される予定だ。

Sources: Apple Developer News: Updated App Review Guidelines are now available · Apple: App Review Guidelines · 9to5Mac: Apple's new App Store rules crack down on AI nudification and 'bait-and-switch' apps · MacRumors: New App Store Rules Target AI Deepfakes and Nudify Apps