音声アシスタントが、三州も離れたサーバーファームを必要とする理由は何か。この問いはあまりに単純で、問う価値がないように聞こえるが、その答えこそがプライバシーの約束と実践を分けるものだ。オンデバイス処理は基調講演でささやかれる言葉であり、信頼の省略形である。しかし、ローカルとクラウドの境界線はスイッチではなく、交渉なのだ。その枠組みを受け入れる前に、データの流れを追ってみよう。
売り文句（彼らが言うところの機能）
Appleは、Private Cloud ComputeをiPhoneのセキュアエンクレーブの延長として説明する。リクエストを完了した瞬間にそれを破棄する、カスタムサーバースタックだ。Googleは自社のハイブリッドAIを階層型システムとして位置づける。簡単な処理はPixel上に留まり、難しい処理はデータセンターに到達する。そのデータセンターは、物理的セキュリティ、アクセス制御、暗号化で武装していると同社は主張する。どちらの物語もクリーンだ。デバイスは守護者であり、クラウドは一時的で記憶を持たないヘルパーである。しかし、物語は監査ではない。転送中および保存中のデータを保護するアーキテクチャは、それ自体では、何が収集され、どれだけの期間保持され、誰がその提出を強制され得るのかという問いに答えない。
彼らが収集するもの（往々にしてそれ以上）
まずリクエストそのものから始めよう。あなたの声の文字起こし、分析してほしい写真、モデルに言い換えを頼む段落——これらは抽象的なトークンではない。それらは位置、人間関係、健康上の懸念、経済的ストレスの証拠である。iPhoneでは、Apple Intelligenceがオーケストレーションステップを実行し、クエリをローカルに留めるかPCCに送るかを決定する。同社は正確な複雑性の閾値を公表しておらず、それが公表されるまで、ユーザーは推測するしかない。Androidでは、GoogleのハイブリッドAIが同様に負荷を分割するが、クラウド側はデータセンターに着地し、そこでのログ記録と保持ポリシーは、エンジニアリング上の必要性と同じくらいビジネス上の必要性によって形成される。プライバシーポリシーは、第11条あたりでサービス改善について言及するだろう。そしてその用語は、たとえ企業が識別子を除去すると言っていても、モデルトレーニングをカバーするのに十分なほど伸縮自在である。
次にメタデータがある。リクエストの時刻、デバイス識別子、ネットワーク経路——それぞれがパンくずだ。集約されると、それらはあなたの一日のシルエットを形成する。クラウドを一切見ない歩数計アプリでさえ、連続的な痕跡を構築する。クラウド接続型のAIアシスタントは、トランスクリプトを構築する。どちらも中立ではない。
彼らが言わないこと（通常は再販やモデルトレーニングについて）
最も重要な沈黙は、「機密性」と「権力」という言葉の間にある。ユニバーシティ・カレッジ・ロンドンのデジタル権利講師であるマイケル・ヴィールは、その区別を鋭く描き出す。「プライバシーはデータを機密に保つことと混同されるが、それは権力を制限することでもある。」プライバシーを単なる秘密保持として再定義するテクノロジー企業は、生のバイトが通信路上で暗号化されている限り、収集、集約、推論という通常通りのビジネスを続けることができる。データは、名前の付いたファイルが手渡されるという意味で販売されることは決してないかもしれないが、それで訓練されたモデルは耐久性のある資産となる。保険会社、雇用主、リサーチブローカーは、IDではなくインサイトへのアクセスを購入する。そしてその市場は、ほとんどの法域で合法である。
AppleのPCCはステートレスに設計されており、独立した研究者がそれを検証できることになっている。しかし、検証は本番環境へのアクセスに依存し、Appleがそのアクセスを管理している。Googleのデータセンターは監査されているが、監査範囲は公開されていない。両社とも、処理を静かに保つ強いインセンティブを持っている——悪意があるからではなく、同意ダイアログの摩擦がエンゲージメントを損なうからだ。クラウドに気づかなければ気づかないほど、その機能をより多く使うようになる。
あなたの一手（それに対して何をすべきか）
まず、新しいAI機能が登場するたびに、データフローの問いを投げかけよう。この計算はどこに存在するのか？ iPhoneでは、プライバシーインジケーターを見ることで、どのリクエストがネットワークに到達したかを確認できる。Androidでは、権限ダッシュボードがどのアプリがサーバーに接続したかを表示する。どちらも完璧な地図ではないが、ブラックボックスの粗い縁だ。もしその機能が、一部の文字起こしや翻訳ツールがそうであるように、オンデバイス処理のみのトグルを提供しているなら、話し始める前にそれを切り替えよう。
第二に、プライバシーポリシーで「改善」という言葉を読もう。企業が製品改善のためにあなたのデータを使用する権利を留保している場合、明示的に除外されていない限り、それにはモデルトレーニングが含まれると想定しよう。設定が存在する場所でオプトアウトしよう。それは通常、アプリ自体ではなく、アカウント設定の奥深くに埋もれている。
第三に、差分プライバシーの主張を、それが当然受けるべき懐疑の目で扱おう。Appleがキーボードのサジェストやその他の機能に使用してきたこの技術は、プライバシー予算に依存している。つまり、データセットからどれだけの情報が漏洩し得るかという数学的な制限だ。しかし、予算はあなたではなく企業によって設定され、正確性と匿名性のトレードオフは不透明である。電子フロンティア財団は、あるプライバシー予算のパラメータが、ユーザーが保証を評価できるような形で開示されることはめったにないと警告している。開示されるまでは、そのフレーズは盾ではなく、単なるシグナルだ。
最後に、オンデバイス処理は聖域ではないことを忘れないでほしい。ローカルで実行されているモデルは、依然としてログを記録し、キャッシュし、画面がオフのときに家に電話をかけることができる。利点は、生データが召喚状の容易に届く形でデバイスを離れないことだ。代償は、リスクを管理するのがあなた自身であることだ。アナリティクス共有をオフにし、不要な権限を取り消し、すべてのマイクアイコンを証人として扱おう。クラウドはあなたを裁くかもしれないが、デバイスは記憶している。
参考文献
- How Apple Intelligence’s Privacy Stacks Up Against Android’s ‘Hybrid AI’ — WIRED
- Apple Intelligence Promises Better AI Privacy. Here’s How It Actually Works — WIRED
- Here’s how Apple’s AI model tries to keep your data private — The Verge
- Apple's and Google's New AI Wizardry Promises Privacy—at a Cost — WIRED
- Facial Recognition, Differential Privacy, and Trade-Offs in Apple's Latest OS Releases — Electronic Frontier Foundation
