第45回けいはんな「エジソンの会」

開催概要

ディープフェイクの衝撃～現実と仮想の狭間で～

講師	越前功氏国立情報学研究所　情報社会相関研究系研究主幹・教授シンセティックメディア国際研究センターセンター長 1997年東京工業大学大学院理工学研究科修士課程修了（応用物理学）。日立製作所システム開発研究所を経て、現在、国立情報学研究所情報社会相関研究系研究主幹・教授。同研究所シンセティックメディア国際研究センター長。東京大学大学院情報理工学系研究科電子情報学専攻教授。2010年ドイツ・フライブルク大学客員教授、2011年ドイツ・マルティン・ルター大学客員教授。2016年情報セキュリティ文化賞、2014年ドコモ・モバイル・サイエンス賞など受賞。IFIP TC11日本代表。博士（工学）（東京工業大学）。山岸順一氏国立情報学研究所　コンテンツ科学研究系教授シンセティックメディア国際研究センター副センター長 2006年東京工業大学大学院博士課程修了。2007年〜2011年英国エジンバラ大学Research Fellow。 2011年〜2013年同大学EPSRC Career Acceleration Fellow。2013年〜2019年国立情報学研究所(NII)コンテンツ科学研究系准教授(及びエジンバラ大学Senior Research Fellow兼任)。 2019年より国立情報学研究所(NII)コンテンツ科学研究系教授。2020年エジンバラ大学よりHonorary Professorの称号付与。現在に至る 2010年日本音響学会板倉記念研究賞、2014年文部科学省大臣表彰若手科学者賞、2016年日本学術振興会賞、2017年IEEE International Workshop on Information Forensics and Security ベスト論文賞、2018年ドコモ・モバイル・サイエンス賞先端技術部門優秀賞、2019年ISCA Speech Synthesis Workshop Test-of-time Award、2022年度電子情報通信学会論文賞、2023年 IEEE BTAS/IJCB 5-Year Highest Impact Award等受賞
開催日時	2024年3月7日（木）14:00～18:00
開催場所	公益財団法人国際高等研究所
住所	〒619-0225 京都府木津川市木津川台9丁目3番地
概要	これまで私たちは、自分自身で直接得られる一次情報以外の情報は、多くのメディアを通じて得て来ました。世界中の人々が地域や国を超えて地球規模でネットに繋がり、情報の入手や発信が容易になっている半面、詐欺や思考誘導、世論操作を行う目的で社会に混乱や恐怖を引き起こすフェイク情報が氾濫し、デジタル空間への信頼性は低下しています。　第45回会合では、国家プロジェクトとして、フェイクメディアへの挑戦を続けられている越前功氏より、「ディープフェイク」と称される、映像、音声、文章等の合成技術の研究とフェイクメディアによる脅威を概説頂きます。その上で、JSTの戦略事業のもとで進められている研究プロジェクト「インフォデミックを克服するソーシャル情報基盤技術」の最新の研究成果についてご紹介頂きます。　また、音声情報処理の領域で数々の成果を生み出されている山岸順一氏より、音声生成による“なりすまし攻撃”に対する防御モデルの研究成果をご紹介頂きます。さらに、進化を続けるメディア生成技術の新たなモデル手法に対し、未知のディープフェイクを検知する手法をご紹介頂きます。　今回、ディープフェイクの現状を目の当たりにして頂くとともに、現代社会が直面している情報の信頼性回復への新しいアプローチに焦点を当て、フェイク情報へ我々は如何に立ち向かっていくのか、未来に向けた展望を議論しませんか。
配布資料	第45回「けいはんなエジソンの会」チラシ PDF [2 MB] 越前功氏「インフォデミック時代におけるフェイクメディア克服の最前線～JST CREST FakeMediaでの取り組み～」 PDF [5 MB] 山岸順一氏「音声のディープフェイク検知はどこまで可能か？」前半 PDF [15 MB] 山岸順一氏「音声のディープフェイク検知はどこまで可能か？」後半 PDF [8 MB]
共催、後援、協力	【後援】　国立研究開発法人理化学研究所　　　　　公益財団法人関西文化学術研究都市推進機構

タイムテーブル

13:30: 受付開始
14:00-15:00: 「インフォデミック時代におけるフェイクメディア克服の最前線～JST CREST FakeMediaでの取り組み～」越前功氏　
国立情報学研究所　
情報社会相関研究系研究主幹・教授
シンセティックメディア国際研究センターセンター長　
15:10-16:10: 「音声のディープフェイク検知はどこまで可能か？」山岸順一氏　
国立情報学研究所　
コンテンツ科学研究系教授
シンセティックメディア国際研究センター副センター長
16:15-17:15: インタラクティブ・セッションご登壇者（越前功氏、山岸順一氏）
上田修功　エジソンの会スーパーバイザー

※インタラクティブ・セッションは、参加者からのご質問やご意見に関して、登壇者らと忌憚のない意見交換をする場です。
17:20-18:00: 情報交換会今年度は情報交換会を再開しております。
: 主催者による記録・広報等のため、本イベントの写真撮影・録画・録音、オンライン配信、ソーシャルメディア配信等を行う場合がございますので、予めご了承ください。

当日の様子

始めに、国立情報学研究所の越前功氏より、「インフォデミック時代におけるフェイクメディア克服の最前線～JST CREST FakeMediaでの取り組み～」と題してご講演を頂きました。ご講演では、画像や動画の事例を具体的に示しながら、フェイクの生成技術の特長や最新状況を解説して頂きました。また社会への影響とその驚異に立ち向かうプロジェクト、政府の動きや企業との連携などを分かり易く説明頂き、日本の研究が世界をリードしていると伺い知ることができました。
次に、同じく国立情報学研究所の山岸順一氏より、「音声のディープフェイク検知はどこまで可能か？」と題してご講演を頂きました。ご講演では、音声を中心とした生成技術の特長と具体的で様々なフェイク検知の成果、また新たな発想での手法による今後の展開ついてご説明頂きました。当プロジェクトにて生成され一般公開されている学習用データベースが、多くの機関・企業および海外からも高く評価され、活用されていることを知りました。
インタラクティブ・セッションでは、お二人のご登壇者に加え、理研AIP副センター長で当会合のスーパーバイザーの上田修功先生にもご登壇頂き、会場との活発な意見交換が行われました。ECと米国の法規制の現状や日本のスタンス、サイバーワクチンや透かし技術の有効性、企業のメディアリテラシー、フェイク防御にかける想い、デジタル世界における倫理観、若者への教育の在り方など、多くの議論がなされました。
生成AIの進化と相まって、デジタル空間での真偽の判断がますます難しくなる時代においては、技術オリエンテッドではなく、情報の受発信者相互の「トラスト（信頼）」の意味を改めて考え直し、その問題を社会の中でどう位置付けていくか、充分な議論を尽くすことが必要であると痛感しました。（高等研事務局）