AI生成のパターンが監視カメラから身を隠す—Flockも回避可能に

要約

• Bill SwearingenのnoRecognitionプロジェクトは、カメラのソフトウェアが対象物（人、顔、車など）を分類するのを阻止するパターンを生成します。
• これらのパターンは、Flockのナンバープレートリーダー、Axonのボディカメラ、Clearview AIの背後にあるソフトウェアを含む、彼がテストした11のオープンソース検出アルゴリズムすべてを無効にしました。
• 最初の公開テストは金曜日にLas VegasのDef Conで行われ、このパターンでラッピングされた2009 Toyota YarisがFlockカメラの前を走行しました。

Bill Swearingenは、自身がセキュリティ・ミートアップSecKCを共同設立したKansas Cityの自宅で、過去1年間にわたり一つの実験を繰り返し行いました。約31 million回のテストを経て、彼はアメリカ全土に導入されている物議を醸す監視システム、Flockカメラに組み込まれた検出ソフトウェアから、覆っているものを隠すパターンをオンデマンドで生成できるようになったと言います。

彼は金曜日、Def Conでこれを初めて一般公開しました。YouTubeチャンネルのDonut Mediaと協力し、2009 Toyota Yarisを彼の最新のパターンの一つで覆い、Flockカメラの前を走らせました。

「効果があることを証明しました」とSwearingenはTechCrunchに語りましたが、車輪が課題だったとも述べました。Donut Mediaは、このデモのビデオを数週間以内に公開するとしています。

このパターンはカメラを盲目にするわけではありません。映像は通常通り記録され、画面を見ている人間には車が見えます。壊れるのは、その上のレイヤー、つまり「それは車両だ、それはプレートだ、記録しろ」と判断する物体検出モデルです。

つまり、AI検出器にその数学的アルゴリズムに反するように設計された十分な視覚的ノイズを与えると、何も記録されなくなります。その車は再び「干し草の山の中の針」のように見つけるのが困難な存在に戻ります。

これが敵対的機械学習であり、コンピュータビジョンが人間と同じように見ているわけではないために機能します。人間には派手なグラフィックデザインに見えるラッピングが、分類器には全く何もないように見えるのです。

Swearingenは、自らの宿題を採点する強化学習モデルを用いてこれを構築しました。パターンが検出されるとモデルが調整し、再試行する。これを彼は、モデルに「描き方」を教えるようなものだと説明しました。現在、モデルは毎分新しいパターンを出力しており、カメラベンダーが対策を学習できないよう、最も強力なパターンはオフラインで管理しています。

「プライバシーは基本的人権です」と彼は述べ、これらのパターンを人々が「追跡を拒否（オプトアウト）」するための手段だと呼びました。このアイデアは昨年、抗議デモに参加しようとした際に、カメラが出席者全員を記録していることを懸念したことから始まりました。