ディープフェイク エ。 ディープフェイクと向き合うために(note:3)|カナエ・ユウイチ|note

ディープフェイクと向き合うために(note:3)|カナエ・ユウイチ|note

ディープフェイク エ

中国の顔交換アプリZAOで「ゲーム・オブ・スローンズ」の登場人物にユーザーの顔を貼り付けたもの。 フェイスブック、ツイッター、TikTokは最近、新しい形態のフェイクが勢いを増していることに対抗して、プラットフォーム上での「ディープフェイク」映像を取り締まる計画を発表した。 F5NetworksのAI担当責任者シューマン・ゴセマジャンダー氏は、現在のところ、ディープフェイクは依然として不自然なものであり、「ハリウッドのレベル」に至るには相当の労力を必要とする、と語っている。 しかし、「完全に現実と同じ」ディープフェイクが現れるのはそれほど先のことではなく、それに脳が慣れると「純粋に誤った情報」が新しい現実になると彼は言う。 すでに存在する膨大な量のフェイクニュースは、ディープフェイクが大規模に作成しやすくなるにつれて何が起こるかを示している。 ここ数週間、フェイスブック(Facebook)、ツイッター(Twitter)とTikTokは、新しい形の偽情報、ディープフェイクビデオに対処する取り組みを急いでいる。 ディープフェイクは、人工知能を使用して操作され、誰かが実際に言っていないことを言っているように見せるためのものだ。 よりリアルなものが簡単に作成できるようになるにつれて、ソーシャルメディアから議員まで、誰もが考えられる影響を懸念し始めている。 元Googleの技術者で、現在はF5ネットワークスの人工知能部門の責任者、シューマン・ゴセマジャンダー(Shuman Ghosemajumder)氏は、我々が直面していることを理解しようと努力している人々の一人だ。 彼はShape Security(最近F5に買収された)のCTOだった時に、偽のアカウントや資格情報などの詐欺に対処し、ディープフェイクの将来について考えるためのフレームワークを開発した。 ゴセマジャンダー氏は、ディープフェイクは3つの異なる段階で進化し、広がると考えている。 この新しい技術がもたらす課題に対処するため、社会はそれを理解する必要があると言う。 最初の段階にはすでに到達していると彼は言う。 1人の人間が1つの説得力のある偽コンテンツを作成できる段階だ。 例えば、2018年にBuzzfeedが公開したは、元アメリカ大統領のバラク・オバマ(Barack Obama)氏がトランプ大統領の悪口を言っているように見えたが、実際には映画監督で俳優のジョーダン・ピール(Jordan Peele)氏が演じたものを、ディープフェイク・ソフトウェアを使って加工していた。 ゴセマジャンダー氏によると、このような動画の作成は「ハリウッドレベルの作品を作るようなもの」だ。 ただし、ディープフェイクを作成するツールは使いやすくなっている。 現在はステージ2に向かっていて、そこに到達すると、100万人がそれぞれ説得力のあるディープフェイクを作成することができるとゴセマジャンダー氏は警告する。 マーク・ザッカーバーグ(Mark Zuckerberg)、「ゲーム・オブ・スローンズ」のキット・ハリントン(Kit Harington)、「ワンダーウーマン」のガル・ガドット(Gal Gadot)の不正動画は、。 本当の危険は、これらのツールが正確かつ効率的になり、100万人が100万本のディープフェイクを製造できるようになった時だという。 「突如としてツールが100万人のクリエイターの手に渡って、彼らは完璧にリアルに見えるものをたくさん作り始めるようになる」と彼は言った。 2016年のアメリカ大統領選挙に影響を与えようとしたロシアの「」であるInternet Research Agencyが作成したコンテンツのような、テキストや画像ベースのフェイクはすでにこの段階に達している。 ゴセマジャンダー氏によると、ビデオに関しては、それほど洗練されたレベルではないが、研究開発が急速に進んでいる。 一部の専門家は、「完全にリアルな」ディープフェイク映像ができるまでと予測している。 本当の危険はそれが当たり前になった時にやって来る 「問題はテクノロジーが完全に進歩してしまい、違いがまったく分からなくなってしまうことだ」とゴセマジャンダー氏は言う。 彼は初めて自動運転車に乗る時を例に挙げた。 最初は乗客は警戒し、何が起こるかを心配する、「十分に狼狽する」体験だ。 それがしばらく乗っていると「退屈なだけ」になると彼は言った。 説得力のあるディープフェイクが当たり前になっていくと、我々の脳は同じように警戒警報を鳴らさなくなるのではないかとゴセマジャンダー氏は懸念している。 「そこには珍しいものは何もなく、あなたの心はそれに慣れ、それはその時点での新しい現実になる」とゴセマジャンダー氏は言い、「そしてそれはまったくの嘘の情報だ」と付け加えた。 ソーシャルメディアは、ディープフェイクを取り締まるべきかどうか、どのように取り締まるべきか、あるいは実際にユーザーにとって有用な機能なのかどうかもわからないまま、ディープフェイクに対する最善のアプローチを探して格闘し続けている。 2019年9月にリリースされたを使えば、有名人に自分の顔を重ね合わせることができる。 とても稚拙な加工だが、ディープフェイクを作成するツールが広く利用できるようになった時の影響を示唆している。 TikTokと親会社のByteDanceも。 一方で、アメリカの議員たちはフェイスブックやツイッターなどのソーシャルメディアに対して、あらゆる種類の誤った情報が自社のプラットフォームに拡散するのを防ぐために十分な対策を取っていないと。

次の

「完璧なディープフェイクが量産されたら、人々はそれを区別できない」専門家が警告

ディープフェイク エ

取り組み後のマツコ・デラックスというフェイク動画何ですが、うまくできていますよね(笑)観たらわかると思いますが、確かにマツコっぽくて面白いんですが、音声はそのままなので、違和感がありますよね。 ちなみに、この動画は、2つの動画を組み合わせて作れるサイトがあり、有料なんですが誰でも作ることができるようです。 『ONE PIECE』にみる、ディープフェイク動画の危険性 マツコさんの動画のように、これだけだったらただのオモシロ動画ですが、実際にはかなりの危険性があります。 実例を挙げますが、今年の1月に、健康不安で死亡説もあったアフリカのにあるガボンという国のボンゴ大統領のビデオ演説の動画が発表されました。 それがディープフェイク動画だとみられ、軍によるクーデターが起こりそうになったということがあったんです。 ディープフェイク動画によって、一歩間違えれば、クーデターや戦争が引き起こされる可能性がありました。 誰がどのような意図でなぜ行ったのかはわかりませんが、この騒動から、 『ONE PIECE』のアラバスタ編を思い出しませんか?不定期でお送りしているルフィ名言シリーズではまだ先になりますが、アラバスタ編で、「バロックワークス」のNo. それにより、国民による反乱軍が暴動を起こし、止めることができず戦争に発展しました。 しかし、ネット社会が進んだ現在、リアルで見るよりも、メディアやネットなどで映像から得る情報の方が多く、より巧妙に作られたディープフェイク動画が出回れば、騙されても仕方ありませんよね。 仮に、安倍首相のディープフェイク動画で、アメリカや北朝鮮、中国に対して喧嘩を売るような動画が流れたら、国際問題に発展し、戦争に発展することもあり得ます。 実行しなくても実現させてしまうディープフェイク動画 そこまで大きな問題ではなくても、 「バカッター」のような動画でも、会社を傾けることができる世の中です。 最早、実際にバカッターを投稿しなくても、ライバル企業のバカッターのようなディープフェイク動画を作ってしまえば、会社を潰すことさえできてしまいます。 中には、ポルノ動画のディープフェイク動画もあったりするようで、たまたま最近知り合いに見せてもらったんですが、うまく作られていて、使い方によってはこれを元に女性を脅すことができたり、アイドルや女優などの評判を落とすこともできてしまいます。 何事も使う人次第かもしれませんが、ディープフェイク動画については、面白さよりも危険性の方が強く感じるように感じます。 誰かが意図して作ることだけでも十分危険ですが、より危険なのは、人ではなくAIが発信する場合です。 まだ、人間がAIをコントロールする立場にありますが、近い未来、シンギュラリティによって2045年をめどに、AIが人類を追い抜いてしまえば、AIが自発的に人類に干渉するようになってしまうかもしれません。 そうなれば、何が真実で何がフェイクなのか、よりわからなくなってしまうでしょう。 先の心配をしてもあまり意味はないですが、現在でも高度な技術ではありますが、数年で本物と見分けがつかないようなディープフェイク動画を作ることができるようになるでしょう。 その際、悪用されることが増えれば、ディープフェイク動画規制法ができるかもしれませんが、ネットの規制は簡単ではありません。 悪用されないことを願いますが、大事なのは、ディープフェイク動画に振り回されないことです。 誰がどう発言したとしても、それを鵜呑みにせず、いったん受け止めて状況を見守っていかないと、いとも簡単に情報に振り回されてしまいます。 簡単に止められることではないからこそ、ここにこそ気をつけないといけないのではないでしょうか。 ディープフェイク動画の希望 危険性ばかり言っても夢がないので、最後に希望も述べておくと、技術がもっと高度になれば、実際に撮影しなくても配信することができるということです。 映像においては、実際にやらなくても、表現できてしまうということです。 例えば映画などでは「スタントマン」を使ったりして、危険なシーンを撮影しますが、その必要がなくなります。 すでに今でもCGなどで可能にしていますが、実際にやらなくても映像にすることが可能です。 これは、かなり便利で安全を可能にすると言えます。 ただ、ある意味、人は必要なくなってしまうのかもしれません。 まだ人には勝てないかもしれませんが、いずれ、こう言ったデジタルキャラの方が人気を博していくと、ますます人間の居場所はなくなってしまうかもしれません。 だからこそ、人間にしか発想できないこと、人間だからできることを意識していかないと、人間として存在する意味はなくなってくるのかもしれません。 私たちが思っている以上に、時代の流れは速く、世界は厳しいものです。 さらにAIという存在によって、ますます存在が危ぶまれる人間ですが、変えられるのは自分の観念しかありません。 「やりすぎ都市伝説」ではないですが、「その時」になって「知りませんでした」では遅いと言われても仕方ないのかもしれません。 自分は自分としてしっかり持ちながら、時代の流れにも対応変化していくことが、より良い人生にしていく方法ではないかと思います。 ー追記 この度、 「道楽舎」を設立いたしました! 表面的な情報や事柄に惑わされず、 「ウラヨミ」の姿勢で本質を見抜き、自分らしく生きる 「道楽家」になってみませんか? 気になる方は覗いてみてくださいね!.

次の

【相棒シーズン18】第20話「ディープフェイク・エクスペリメント」色々と雑な感想【右京さん/坂井真紀 相島一之 遠山景織子 村上新悟 森口瑤子】#aibou #相棒18

ディープフェイク エ

ディープフェイクとは「deep learning」と「fake」を組み合わせた言葉で、深層学習によって精度を高めた偽の画像や動画、またその作成技術のことをいう。 これには通称「GAN(Generative Adversarial Network)」、敵対的生成ネットワークが利用される。 まず与えられたデータをもとに「ジェネレーター」が可能な限りリアルなコンテンツを作り、一方で「ディスクリミネーター」がそれを本物か偽物か検知し、フィードバックされたデータを元により精巧なものを「ジェネレーター」が作る。 GANを使ったディープフェイクはまた、のように、政治的なキャンペーンとしての悪用も懸念されている。 最近は「VAE(Variational Auto Encoder)」という更に使いやすいツールが出てきたようで、素人が気軽にディープフェイクを作れるようになるのも時間の問題だろう。 ウソをひとつひとつの作品で見破るのは難しくないかもしれない。 だが、その間にもより過激なアイデアを伴ったフェイクが、よりクオリティを高めながら無数に拡散される。 だまされる人間が増える。 何も信じられなくなる。 そして、「見破るのは難しくない」と書いたが、実はそうでもないらしい。 』は、そのように加速するポスト・トゥルースの現状を多角的な取材、文献、考察によって可視化し、抗う術を探っている。 拡散力がものを言い、ファクトベースに考えていたら損をする時代で、辛くても正面突破したければどうすればいいか。 この本には考えるヒントがたくさん転がっている。 そもそもこの本はジャーナリズムの教科書に載せてもいいくらいノンフィクショナルな書籍としてきれいな構造をしていて、そういう意味でも勉強になる。 自分自身の再読に資する覚書とするためにも、少しだけ紹介したい。 縦糸に「速い/遅い」、横糸に「問い/応え」を据えて4項目に分ける。 「速い問い」。 速報性がある。 発売日が先月で情報の鮮度が高いだけではない。 トランプ政権の成立と進行、沖縄基地移転問題におけるデマ、ボリス・ジョンソン政権の下いよいよ実現への瀬戸際を迎えたブレグジット。 タイムリーな現場でフェイクやフィルターバブル、サイバーカスケードなどの問題が、そこから生み出されるヘイトや差別感情、また思想だけでなくビジネスやカルチャーやテクノロジーも踏まえて実際どのように作用しているかを様々な研究者、メディア関係者、アクティビストなどの話から概観できる。 例えばハーバード大学バークマンセンターのリサーチディレクター、ロバート・ファリスの研究によれば、マス/ネット問わずメディアにおける政治思想の言説がフェイクとエコーチェンバーで過激化する数は右派陣営が突出して多いのだという。 左右どちらの情報が正しいかというファクトの在り処の話ではない。 ファクトチェックによってウソが含まれていると分かった上で左派はそのフェイクを引っ込めるが、右派は拡散できるならやっちゃえやっちゃえで押し出す戦略が統計的に見られるということだ。 またフェイクを生み、試し、選別し、バズらせる明確な戦術さえ紹介されており生々しい。 これを一端として多くの分析がある。 「遅い問い」。 探究心がある。 そもそもネットだけでなく今のメディアのあり方が崩壊したのはなぜなのかを取材先との対話で深く考えようとしている。 例えば他人をフェイク呼ばわりしながら自分はフェイクを撒き散らしているドナルド・トランプにメディアが振り回されているのは、彼の発言をすぐに伝えるための速報性を重視してファクトチェックのシステムが後手に回っているからだ。 「お前から見れば俺はフェイクかもしれんが証明されていない。 俺から見たらお前はフェイクだ。 俺の庭から出ていけ」となる。 他にもブレグジット推進派はエゴや差別意識だけで動いてはおらず、そこには自分たちが選んだわけでもないブリュッセルにいるEUのよくわからん偉いやつらが勝手に何でも決めてくる、という不信と反感がある。 懐疑と自己決定を伝統的に重視するイギリスの精神風土そのものが原因なら問題はとても根深い。 またメディアビジネス自体の歴史にまでさかのぼっているのも興味深い。 ケーブルテレビやITベンチャーが勃興時に既存のマスな企業に対抗するにはどうすればいいか。 まずはニッチな層に刺さるコンテンツでそのファン層を奪取するのだ。 コンテンツ産業で武器効率を安直に考えるとそのまま刺激の強さになる。 こうして刺激のインフレーション、刺激>全てが起こっていく。 「速い応え」。 これは実際に読んでいただきたいのだが、1と2で示された社会へ、今まさに立ち向かっている人たちの努力と方針を見ることができる。 たとえば邦訳でも何冊か著書が読めるジェフ・ジャービスはジャーナリズムはひどい場所だからといってSNSなどをやめるべきではないと説く。 大切なのは話を聞かせることではなく、こちらが話を聞くことなのだと。 「人々のことを『一般大衆』と考えるのはやめて、『個人』や『コミュニティーの一員』として認識し始めると、人々と出合い、話を聞き、学ぶことの大切さを実感し始めます。 そしてそうした人々とのつなぎ役をしてくれるのがツイッターやフェイスブック、ユーチューブで、(今後はこれから生まれる)想像もしていないツールもあるでしょう。 単に(報道の)コンテンツを生産するのはもう古い、それは廃れゆくマスメディアの価値です」 もちろん彼のような楽観的な見解がうまくいかないから疲れてしまうのだというツッコミが読者から多く入るだろうし、実際に他のインタビュイーから入る。 しかしこの発想自体の可能性を著者は見田宗介の言葉から探っていく。 見事な手際だと思う。 他にも目をみはらされたのは、第一線でフェイクに対抗する人たちが総じて悲観的でないことだ。 絶対に成功する、あるいは成功しないかもしれないが足跡に意味があると留保抜きに確信している。 この本にはツヴェタン・トドロフの『民主主義の内なる敵』が引用として出てくるが、僕は彼の別の著書『フランスの悲劇』に登場する、なんでもない人々の善意を思い出した。 彼/彼女らは政治思想や利害関係など完全に抜きにして、自分の命を危険にさらし、しかし英雄精神などみじんもなく、他人の命を救うために動いていた。 絶望的な状況で絶望せずに。 「遅い応え」。 さて、これからどうすればいい? 書かれているのはノンフィクションであり、読者が否応なく巻き込まれているっぽいひとつの現実である。 著者はリベラルよりの思想ではあるが、右だろうが左だろうが関係ない。 大切なのはファクトであり、それを検知するリテラシーだ。 誰だろうとバカと言われたくないはずだろう。 しかし、自分がバカと言われないように、今ある価値を全て台無しにしてしまうアポカリプスの到来を望む人間が大勢いる。 カッコ付きの「世界」をあたかも終わってしまうかのように語り、これが現実だ、とうそぶく。 僕もいつそうなるかわからないし、もう実際にそうなっているのかもしれない。 でも諦めるべきかどうか、いつでも改めて考えたほうがたぶんいい。 黙示録の時がきたら嫌なことと一緒に夢も希望も楽しかったこともぜんぶちゃぶ台返しになるわけだ。 そのときの神だか支配者が、あなたのことを考慮してくれる保証なんてどこにもない。 僕はそう思っているからなんとかここでやっていくためのヒントを探しているし、この本にはそれがたくさんあった。 最終章の考察部分では丸山眞男の言葉が引用されている。 何度でも読んでいい言葉だと思う。 ここにも書く。 現実とは本来一面において与えられたものであると同時に、他面で日々造られて行くものなのですが、普通「現実」というときはもっぱら前の契機だけが全面に出て現実のプラスティックな面は無視されます。 いいかえれば現実とはこの国では端的に既成事実と等置されます。 現実的たれということは、既成事実に屈服せよということにほかなりません。 現実が所与性と過去性にだけ捉えられるとき、それは容易に諦観に転化します。 「現実だから仕方がない」というふうに、現実はいつも、「仕方のない」過去なのです。 (中略)私たちは観念論という非難にたじろがず、なによりもこうした特殊の「現実」観に真向から挑戦しようではありませんか。 そうして既成事実へのこれ以上の屈服を拒絶しようではありませんか。 そうした「拒絶」はたとえ一つ一つはどんなにささやかでも、それだけ私達の選択する現実をヨリ推進し、ヨリ強力にするのです。 実にいい本でした。

次の