最近の生成AIブームは、人工知能の可能性を大きく押し広げている。一方、新たなテクノロジーが人々の間に浸透してくると、どうしても出てくるのを避けられないのが、その高度な機能を悪用する輩たちかもしれない。

South China Morning Postは先週末、ある国際的な企業の香港オフィスで、巧妙なディープフェイク技術を用いた偽のビデオ会議を開き、従業員を騙して2億香港ドル（約38億円）を奪ったという事例を報じた。

レポートによると、この香港の従業員は英国にいる会社のCFO（最高財務責任者）を名乗る人物から極秘の取り引きを行うよう指示するメールを受け取った。従業員は指示に納得しなかったが、そうするとこのCFOはビデオ会議に従業員を呼び出し、説得してきたのだという。

そしてこのビデオ会議において、画面の向こう側にいるCFOやその他の幹部の姿を見た従業員は指示に従い、香港にある5つの個別の銀行に、合計15回に分けて指定の金額を送金した。

しかし、細かく分けたとはいえ、日本円にして約38億円という巨額の金が動かされれば、会社も気づかないはずがない。約1週間後にこの会社は警察に通報した。

報告書によると、今回の詐欺グループはインターネット上に公開されている音声や映像を使って、同社のCFOをデジタルで再現し、まんまと信用させることに成功したという。捜査はまだ進行中だが、すでに香港警察は、この詐欺に関連してこれまでに6人を逮捕しているとのこと。

また、事件に関与したある人物は8枚の身分証明書を盗み、2023年に54件の銀行口座登録と90件ものローン申請を行っている。さらに、少なくとも20件以上の事例で顔認識ソフトウェアを騙すためにディープフェイクを使用しているとされている。

AIが自律的にアクションを起こして人々を騙すような、ディストピア的世界はまだやって来てはいないが、高度になってきたAIを悪用すれば、これまでにはなかった犯罪が次々と生まれてくる可能性がある。

ある日、自分の親族としか思えない声や外観の相手が、いかにも切羽詰まった状況で電話やビデオ通話をかけてきて、金銭的な支援を求められたら、それをきっぱりと断れる人はどれぐらいいるだろう。

今回のような事例をあらかじめ知り、心構えとしておくだけでも、被害の抑制には役立つかもしれない。

Source: South China Morning Post, Ars Technica
via: Engadget, BGR