セキュリティウォッチ：詐欺師はディープフェイクでフィッシングを行う

私は私の家族から私の仕事について多くの質問を受けません。 当然のことながら、彼らは私のネズミと犬のハイジンクにはるかに興味を持っています。 しかし、私がセキュリティについて尋ねられたとき、人々は常に悪いことが起こる 理由 を知りたいです。 その質問には多くの答えがありますが、私がいつも戻ってくるのは簡単です。お金です。

ランサムウェア？ 攻撃者のための簡単な現金。 フィッシング？ 現金以外は何もありません。 スパム？ リンクをクリックする人々を収益化するあらゆる方法。 データ侵害？ そのようなものは詐欺に使用され、残りは売られます（さらなる詐欺に使用されます）。 国家攻撃？ 確かにイデオロギーはありますが、米国の制裁が2016年の選挙を攻撃するロシアの動機に疑いの余地がないと考えると、お金は方程式の中にあります。 そして、それは余分な現金のために月明かりを浴びる国民国家のハッカーは言うまでもありません。

そのリストには、一般にAI主導のテクノロジーを使用した、改ざんされたビデオのディープフェイクはありません。 有名人の顔がポルノスターの身体や政治家の顔と交換され、実際には言わなかったようなことを言っているように見せかけるために操作された声を見ました。 時には、彼らは乱暴な炎症の陰謀を促進するために作られています。 もっと陰湿なのは、視聴者が真実と区別するのに苦労する可能性があることを言うように操作されているときです。

ディープフェイクは、不正情報キャンペーンで有権者を混乱させるために使用できるのではないかという恐れから、ここ数か月間で話題になっています。 大規模には（まだ）発生していませんが、ポルノのディープフェイクはすでに多くの人を傷つけています。 では、なぜこれを新たな脅威と呼ぶのでしょうか？ おそらく、それらを直接収益化する明白な方法がなかったからでしょう。 ディープフェイクは数十万ドルで企業から逃げるために使われたと報告されているため、今週は変化しました。

新しいツール、同じ古いコン

後知恵で、私はそれが来るのを見たはずです。 ソーシャルエンジニアリング（「人をだます」）の凝った方法は、デジタルセキュリティを侵害したり、単にお金を稼ぐための昔からのツールです。 トリックにディープフェイクを追加することは最適です。

Wall Street Journalは、巧妙な攻撃者の中には、会社のCEOと話している別の従業員を説得するために使用したディープフェイク音声モデルを作成したと報告しました。 その後、従業員は約243, 000ドルの電信送金を承認しました。 ワシントンポストは、自身の報告で、「サイバーセキュリティ会社のシマンテックの研究者は、企業の詐欺を模倣した経営者の声が少なくとも3件見つかったと述べた」と書いています。 推定距離は数百万ドルで測定されます。

私自身の啓発のために、私は座ってディープフェイクの歴史を追跡しようとしました。 それは偽のニュース時代の概念であり、2017年後半にRedditに投稿された顔を入れ替えたポルノに関する副記事で始まりました。 「ディープフェイク」の最初の使用は、実際には、ギャルガドット、スカーレットヨハンソンなどの顔を特徴とするポルノビデオを投稿する個人のユーザー名でしたが、身体はそうではありませんでした。

ほんの数か月で、ディープフェイクに対する懸念が政治に移りました。 ビデオは政治家をあざ笑うように見えました、そして、これは私（そしてセキュリティコミュニティの残りの大部分）が立ち往生した場所です。 2016年の米国選挙中のロシアからの誤った情報を受けて、2020年の選挙サイクルにほとんど見分けがつかない偽のビデオがあふれているという考えは、ひどいものでした（そして今でも）。 また、見出しをつかみ、セキュリティ企業が本当に好む公益のためのプロジェクトの1つです。

ディープフェイクの制限を指摘しなければ、私は失望します。 一つには、なりすまそうとしている人の音声クリップが必要です。 これが、国民の注目を集めている有名人や政治家がディープフェイクリーの明らかな標的である理由です。 しかし、研究者はすでに、説得力のあるオーディオディープフェイクを作成するために必要なオーディオはわずか1分であることを実証しています。 公共投資家の電話、ニュースインタビュー、または（神があなたを助ける）TEDトークを聞くことは、おそらく十分すぎるでしょう。

また、ディープフェイクモデルを効果的に機能させるには、どれだけうまく動作させる必要があるのでしょうか。 たとえば、低レベルの従業員は、CEOがどのように聞こえるか（さらにはどのように見えるか）を知らない可能性があります。

お金が重要な理由

犯罪者は賢い。 彼らはできるだけ早く、簡単に、そしてできるだけ少ないリスクで、できるだけ多くのお金を稼ぎたいと思っています。 誰かがそれらのことを行う新しい方法を見つけたとき、他の人もそれに続きます。 ランサムウェアは素晴らしい例です。 暗号化は数十年前から存在していましたが、犯罪者が簡単に現金化できるように武器を使用し始めた後、ランサムウェアが爆発的に増加しました。

特殊なスピアフィッシング攻撃に相当するツールとしてディープフェイクが正常に使用されていることは、新しい概念の証拠です。 ランサムウェアと同じように機能しなくなることはないかもしれません。依然としてかなりの労力が必要であり、より簡単な詐欺が機能します。 しかし、犯罪者はディープフェイクがこの斬新な方法で機能することを証明したので、少なくともいくつかの犯罪実験が予想されるはずです。

• 遅すぎる前に米国の選挙を保護する方法遅すぎる前に米国の選挙を保護する方法
• 選挙に影響を与えるキャンペーン：詐欺師に渡すにはあまりにも安い選挙に影響するキャンペーン：詐欺師に渡すにはあまりにも安い
• ロシアのインテル代理店は競争と妨害の有毒なシチューですロシアのインテル代理店は競争と妨害の有毒なシチューです

詐欺師は、CEOをターゲットにする代わりに、通常の人をターゲットにして小額の支払いを行うことができます。 FacebookやInstagramに投稿されたビデオを使用して詐欺師がディープフェイクの音声モデルを作成し、家族が電信送金で大量のお金を必要とすることを納得させる詐欺師を想像するのは難しくありません。 あるいは、繁栄しているロボコール業界は、混乱を深めるためにディープフェイク層を獲得するでしょう。 おなじみの電話番号に加えて、友人の声が聞こえることがあります。 また、これらのプロセスがある程度まで自動化できず、音声モデルを作成し、事前に準備されたスクリプトを実行できない理由もありません。

これは、選挙におけるディープフェイクの潜在的な損害、またはそれらの作戦で拘束されたお金を割り引くことではありません。 犯罪者がディープフェイクツールに慣れ、それらのツールがより良くなると、ディープフェイク用の市場が出現する可能性があります。 悪者が悪意のある目的のためにボットネットに時間を貸すことができるように、契約に基づいてディープフェイクを作成することに専念する犯罪法人が登場する可能性があります。

幸いなことに、悪者に対する金銭的なインセンティブは、善人に対するものです。 ランサムウェアの台頭により、悪意のある暗号化を検出し、システムを乗っ取るのを防ぐためのマルウェア対策が改善されました。 ディープフェイクを検出するための作業は既に行われていますが、それらの努力がディープフェイクフィッシングの到来によってのみ強化されることを願っています。 既に詐欺に遭った人たちにとっては、これは少しの安らぎですが、私たちにとっては朗報です。