「すでにディープフェイクと本物の区別がつかないところまで来ている」と南カリフォルニア大学のハオ・リー教授はBBCに語っています。

「恐ろしいことだ」と。「

私たちは、ダボスの世界経済フォーラムで、コンピュータ科学者のディープフェイク・インスタレーションに居合わせ、彼が何を言いたいのかのヒントを得ました。

ほとんどの場合、これには「フェイス スワップ」が含まれ、有名人の顔を他の人の似顔絵に重ね合わせます。

私が座っていると、カメラが私の顔を撮影して、目の前のスクリーンに映し、私の特徴がデジタルでマッピングされます。

• ディープフェイクとは何なのでしょうか？

俳優のレオナルド・ディカプリオ、前英国首相のテリーザ・メイ、サッカー選手のリオネル・メッシの顔が次々とリアルタイムで自分の顔の画像に重ねられ、彼らの特徴や表情が私の顔とシームレスに融合していきます。 しかし、教授がまだ一般に公開されていない、彼が取り組んでいる別のディープフェイク動画を見せてくれたとき、私は彼が何を言いたいのか完全に理解しました。

それは、有名な世界のリーダーがスピーチをしている様子を映しており、本物と区別することは不可能です。

ディープフェイクが話題になったのは、粗雑に作られた動画がインターネット上に出回り始めた2017年のことで、典型的には有名人の顔の入れ替えや操作を伴う。

中には、印象派やコメディアンが声をあてた有名人の物まねもありました。 しかし、ほとんどの場合、有名人の顔がポルノ女優の顔に重ねられており、ターゲットにされた人たちを大いに心配させました。 あるものは「フェイクニュース」として利用されています。 また、オンライン詐欺の事例として引用されたものもあります。 Facebookは、人々を操作するために使用されることを恐れて、プラットフォームからそれらを禁止しています。

Li教授自身のソフトウェアは、人々を騙すようには設計されておらず、ビジネス向けにのみ販売される予定だと彼は言います。 しかし、彼は、ディープフェイク技術が間違った人の手に渡ることで、危険な魔物が瓶から出ようとしているのではないか、そして民主主義が脅かされていると考えています。

「最初のリスクは、本物のビデオ証拠を信用しないために、人々がすでにディープフェイクが存在するという事実を使っていることです。 あなたが何かをしたり、言ったりする映像があっても、それはディープフェイクだったと言うことができ、そうでないことを証明するのは非常に難しい」

世界中の政治家はすでにこの手口で告発されており、一人はブラジル・サンパウロのジョアン・ドゥリア知事であった。 2018年、既婚のこの政治家は、乱交パーティに参加している様子を映したとされる動画はディープフェイクだと主張しましたが、誰もそれがそうではないことを決定的に証明できていません。

しかし、より大きな脅威は、政治情報キャンペーンにディープフェイクが使われる可能性だと、リー教授は述べています。 しかし、巧妙に行えば、政治家の口に言葉を入れても誰も気づかないか、少なくとも修正されたときには手遅れになってしまうだろうと、彼は言います。 社会がどのように反応するか、本当に影響を与えることができるのです。 しかし、この技術を追跡しているオランダのサイバーセキュリティ企業 Deeptrace のように、ディープフェイクに対するパニックが誇張されすぎていると感じる人もいます。 しかし、何百万人もの人に知られている政治家や有名人であれば、それははるかに難しいことなのです。 「また、彼らの声になりすまし、彼らが信頼できることを言わせる必要があるため、できることが制限されます。 「しかし、それはそんなに早く起こるとは思えません。 とはいえ、パトリーニ氏は、見分けがつかないようなディープフェイクはいずれ一般的になり、重大な政治的武器として使われる可能性があると見ています。

このような事態を示唆するものとして、Facebook は 12 月に、右翼のイデオロギーをオンラインで押し広めるために不正な手法を使用したとされる 900 以上の偽アカウントのネットワークを自社のプラットフォームから削除しました。

Li教授とDeeptraceはともにディープフェイク検出ツールを作成しましたが、サイバー犯罪者がそれを回避しようと不断の努力をすることは認めています。

しかし、Patrini氏は楽観的です。「人間が見分けがつかないほどディープフェイクが洗練されていても、我々はそれを見破るより高度なツールを構築できると信じています。 アンチウィルスソフトのように、常に更新され、改良されていくでしょう。”