【瞳の奥の銀河】ディープフェイクの矛盾を「天文学の銀河分析技術」が見破れると判明！

最近では、AIを用いて簡単に偽画像や偽動画を作成することができます。

ネット上に溢れるそれらディープフェイクは本物の映像にしか見えないため、「どのようにディープフェイクを見分けるのか」という課題があります。

そんな中で、「天文学」という異なる分野から、ディープフェイクを見分ける方法が発見されました。

イギリスのハル大学（University of Hull）に所属する天体物理学者ケビン・ピンブレット氏ら研究チームが、銀河の画像を分析する方法を使って、フェイク画像の人物の目には、ある特徴が存在することを発見したのです。

研究の詳細は、天文学会議「National Astronomy Meeting 2024」で発表され、王立天文学会（RAS）の2024年7月17日付の『ニュース』に掲載されました。

目次

• 「銀河画像の光の分布を分析する技術」が偽画像の検出に役立つ
• 目の光の左右差が本物かディープフェイクかを教える

「銀河画像の光の分布を分析する技術」が偽画像の検出に役立つ

ディープフェイクとは、AIを応用した画像・映像合成技術のことであり、2つの画像や動画を組み合わせることで、まるで本物のような偽画像や偽動画を作成することができます。

そして最近では、ディープフェイクを利用して著名人の信頼性を落としたり、詐欺を行ったりするなど、様々な場面で悪用されています。

例えば2023年には、元アメリカ大統領のドナルド・トランプ氏が逮捕されるディープフェイク画像が出回りました。

ネットは既にディープフェイク画像で溢れており、それらを本物の画像と見分ける方法が必要とされています。

星を見る技術が、偽画像の検出に役立つ / Credit:Canva

今回、天文物理学者のピンブレット氏ら研究チームは、ディープフェイクを見分ける方法に「星を見る技術」が使えることを発見しました。

彼によると、銀河の形状の測定では、「濃度」「対称性」「光の分布」などを分析するようです。

その中で、ディープフェイクを見分けるために特に効果的だったのが、ジニ係数を用いた光の分布の分析だったそうです。

ジニ係数の値は0～1の間を取り、「値0では、光が画像のすべてのピクセルに均等に分散されている銀河」を示し、「値1では、すべての光が1つのピクセルに集中している銀河」を示します。

そして、この光の分布の分析が、フェイク画像に登場する人物の「目の光の不自然さ」を明らかにしてくれるというのです。

目の光の左右差が本物かディープフェイクかを教える

研究チームによると、銀河画像の光の分布を分析する技術を用いることで、本物の画像とディープフェイクを見分けることができるようです。

注目するポイントは、人物の目の光です。

本物の画像。左右の目で、反射する光の分布が同じ / Credit:Adejumoke Owolabi_Want to spot a deepfake? Look for the stars in their eyes（2024 Royal Astronomical Society）

本物の画像では、右目と左目に反射する光の形や分布が同じになります。

両目とも同じ光源の前にいるのだから、反射する光のパターンも同じになるのは当然のことです。

しかし、ディープフェイクでは、この単純な要素が考慮されていません。

そのため、一見違和感がないように思えても、検出ツールを使って左右の目の光を比べると、光の分布が異なっているのが分かります。

ディープフェイクの画像。左右の目で、反射する光の分布が異なる / Credit:Adejumoke Owolabi_Want to spot a deepfake? Look for the stars in their eyes（2024 Royal Astronomical Society）

ピンブレット氏も、「眼球における光の反射は、本物では一致しているが、偽物では物理学の観点で不正確です」と述べています。

進化したディープフェイクを見分けるの簡単ではありませんが、分野の異なる「天文学」のツールがAIの穴を付くことができたという点は、非常に興味深いものです。

ただし、ピンブレット氏が指摘するように、この方法は偽画像を検出するための特効薬ではありません。

光の分布を分析するツールを使っても、判断を間違ってしまうことがあるからです。

実際、照明条件や処理技術によって、左右の目の光が一致しない場合もあるのです。

ただディープフェイクにおいては、瞳の描写が苦手であることは以前より指摘されており、見破る側は主にこの点に着目しています。

見破る方法が提案されるということは、当然ディープフェイクを生成する側はその弱点を理解することになります。

そうなると今後、AIが眼球における光の反射を考慮するよう進化し、この検出技術ではディープフェイクを見破れないよう対処していくでしょう。

AIの進化によって、高度なディープフェイクという技術が登場してしまった以上、見破る側と偽る側のイタチごっこは今後永遠に続くことになるのかもしれません。

AIが合成した顔「ディープフェイク」を確実に見抜く方法が見つかる

全ての画像を見る

参考文献

Want to spot a deepfake? Look for the stars in their eyes
https://ras.ac.uk/news-and-press/news/want-spot-deepfake-look-stars-their-eyes

Astronomers discover technique to spot AI fakes using galaxy-measurement tools
https://arstechnica.com/information-technology/2024/07/astronomers-discover-technique-to-spot-ai-fakes-using-galaxy-measurement-tools/

ライター

大倉康弘: 得意なジャンルはテクノロジー系。機械構造・生物構造・社会構造など構造を把握するのが好き。科学的で不思議なおもちゃにも目がない。趣味は読書で、読み始めたら朝になってるタイプ。

編集者

ナゾロジー 編集部