IT は全自動詐欺師になってしまうのか - Yuichi Murata's Engineering Blog

最近は本を読んでばかりでいました。たまには違うことがしたいと多い、久しぶりにケータイでゲームをダウンロードしてみました。ゴルゴ 13 よろしく凄腕のスナイパーになりきり、麻薬の取引を阻止したり、自爆テロを阻止したり、マフィアに追われている同僚の警官を警護するという、どこにでもありそうなゲームです。数あるゲームの中でなぜこれを選んだのかというと、すぐ遊んですぐに辞められそうだったから。自分は非常に自制心が弱い人間だと思っているので、長時間遊んで抜け出せなくなるゲームは控えたかったのです。

ゲームと心理学

このゲームを遊んでいて驚いたことがあります。それは、最近自分が勉強している行動心理学・プロパガンダ・承諾誘導といった心理学の技術が総動員されて、ゲームのプレイヤーからお金を巻き上げていたことです。

ゲームを遊んでいると時たま、「限定セール」と銘打ってとっておきのアイテムを 80% オフという破格で提供してきます。このオファーを断ろうとすると、プレイヤーの上官が「この機会を逃すと次はないぞ」と念を推してきます。これには、今だけしか手に入らない物を必要以上に高く評価してしまう「希少性の原理」が働いています (1)。また、親切にアドバイスをくれた上官に対して、ありふれた「キャンセル」ボタンや「閉じる」ボタンでオファーを断ることはできません。二度と手に入らない、この貴重な機会を見逃す (Leave) というボタンを押して返事をする必要があります。これは、具体的な損失を能動的に受け入れることを選択肢に用意することによって、オファーを断りにくくするための承諾誘導技法です (2)。

プレイヤーは与えられたミッションをこなすたびに報酬としてゲーム内で使える「お金」をもらえます。それと同時に貴重なアイテムを買うことができる「ダイヤ」も貰えます。ただしこの「ダイヤ」は直接プレイヤーに渡されることはなく、なぜか豚の貯金箱に溜め込まれ、一杯になるまで取り出すことができません。そしてこの豚の貯金箱がいっぱいになったとき、「日本円」を支払うと貯金箱を割って溜め込んだ「ダイヤ」を手にすることができます。なぜこんなややこしいことをするのでしょうか。それは、人間は「将来の報酬の機会を失う」よりも「すでに得た報酬を失いたくない」気持ちのほうが強く感じるからです (1)。この豚の貯金箱は、24 時間以内にダイヤを取り出さないと、なぜか消えてしまいます。せっかく「ダイヤ」を溜め込んだ苦労が水の泡になってしまうのです。その損失を回避するには、24 時間以内に 300 円を支払うしかありません。

自分は幸いにもこうした技法を勉強していたので、感情に任せてお金を落とすことはありませんでした。むしろ、なるほど世の中の商売はこうやって行動心理学を応用して利益を上げるのかと勉強になったぐらいです。ですが、このゲームが、世の中にたくさんいる感情に流されお金をを払ってしまう人々から、多大な利益を上げていることは間違いなさそうです。このゲームは暴力的な表現を含むため 18 歳未満の少年少女からお金を巻き上げることができないことが唯一の救いでしょうか。

心理学 × IT の驚異

この体験を通じて思ったことは心理学と IT が融合すると「ヤバい」ということです。大昔の凄腕のセールスマンや詐欺師は、一人ひとりを個別に対応する必要がありました。それゆえ、一人が行える心理誘導の成果には限界がありました。マスメディアの登場でこの様相は大きく変わります。国家は個人ではなく国民という集団を扇動し、企業は消費者という集団に自社製品の購入を促すのがずっと簡単になりました。 IT の登場でこの革命はさらに加速したと言えるでしょう。集団に対してアプローチするだけではなく、個人個人の特性に合わせて心理誘導をパーソナライズすることができるようになりました。それゆえ、過去に比べて圧倒的に効率よく、より多くの集団の心理を思い通りにすることができるのです。

EU 離脱派は Facebook の広告を効果的に用いることで、エブ・ヴェイルの住民たちにイギリスの中でも最も高い割合で離脱票を投じさせることに成功しました (3)。この町には EU の拠出した資金に寄って立てられた様々な施設やインフラが整備されています。そしてイギリスの中でも特に移民の少ない地域です。そんな地域の住民たちに「EU は自分たちのために何もしてくれない」「このまま放っておけば移民や難民が押し寄せて取り返しのつかないことになる」と言わせ、このような結果を生むことに成功したのです。実際にどのようなロジックを用いて広告が提示されたのかはわかりません。ですが、技術的観点から言えば、心理誘導の技術を使えば、自分たちの政治的な主張に同意してくれそうな潜在的な民衆に効率よくアプローチして、最適な方法でメッセージを送ることは可能であったはずです。

AI の登場に寄ってこの物語はさらにややこしさを増すことでしょう。AI はその学習能力によって、あらゆる技能を高速に身に着けていきます。近い将来、人間より効率よく人間の情動を理解するでしょう。そして、もっとも効率的な心理誘導の方法を学習し、24 時間絶え間なく人々を「導いて」いくことでしょう。

最後の砦「技術者倫理」

我々は、この心理学と IT の融合を悲観すべきなのでしょうか。答えは我々技術者次第だと思っています。

どんな技術もその良し悪しは使い方次第です。そして、それを生み出すのも、活用するのも、行き過ぎた技術に対向する方法を発明するのも技術者次第です。

アインシュタインが生み出した E=mc² という公式は、巡り巡って原子力という強力な力を生み出しました。そして人類に、広島と長崎を焼き尽くす悲劇をもたらしました。ですが同時に、人類同士で化石燃料を奪い合うことなくエネルギー問題を解決させることにも成功しています (原発事故や使用済み核燃料の問題など副作用付きの解決策ではありますが…)。 GPS 登場は、爆弾を搭載したロケットをはるか彼方から誘導して落とすようになりましたが、同時に、たくさんの旅客機を安全に航行させ今日のグローバルな交易を支えています。

心理学と IT の融合もその持つ力は強力であるが故、正しい使い方をすれば強力な効果が得られるはずです。これを正しいマーケティングに活用すれば、企業の作った本当に良い商品を、本当に必要としている人に確実に届けることができるでしょう。感染症が猛威を振るうこの状況の中、遊びにでかけに行こうとしている人のタイムラインに最も響くメッセージを表示して、それがいかにまずい事か理解を促すこともできるでしょう。

技術をリードする技術者として、我々は学び続かなければなりません。そして技術の生み出す大きな力が世界に与える影響を常に自問しながら、正しく使っていくことが大事なのではないかと思います。

(1) 影響力の武器 -- 第七章希少性