1．は
じ め に
社会生活において私達は物事の善し悪しを判断し，そ れに基づいて適切な行動をすることが求められる．善し 悪しの判断は，理屈なしの直感に基づく場合や，社会の 構成員によって共有された規範に基づく場合もあり，そ のようなものの総体を私達は「道徳（morality）」と呼 んでいる．換言すると，道徳には生得的な「器官（organ）」 としての側面と社会的構成物である「制度（institution）」 としての側面がある． 前者の観点から道徳を扱う理論の一つに，ジョナサン・ ハイトが提唱した「道徳基盤理論（moral foundations theory）」がある [Haidt 12]．この理論によると，人間 には生まれつき以下のような五つの道徳基盤があるとさ れる＊1． ● 擁護（care）：人を傷つけてはいけないとか，弱者 は守らなければならないなどの感覚 ● 公正（fairness）：人は公平に扱われるべきで，不平 等は良くないという感覚 ● 忠誠（ingroup）：自分が属する集団（内集団）にお ける義務は大事であるという感覚 ● 権威（authority）：社会的秩序のために上下関係を 遵守すべきという感覚 ● 純潔（purity）：精神的にも肉体的にも純潔さを求 める感覚 ハイトはこれらの道徳基盤を感覚受容器にたとえ，味 覚が甘み，酸味，塩味，苦味，うま味の五つの要素の組 合せからなるように，道徳的判断も五つの道徳基盤の組 合せによってなされると述べている [Haidt 12]．そして， 道徳の直感的・情動的側面を強調し，道徳的判断が理性 的な思考にのみ基づくと考えるこれまでの理性偏重主義 を批判している．五つの道徳基盤は，同じ社会に所属す る他者と協力する環境に適応するために進化してきた生 得的な能力で，これらは文化によらず普遍的なものだと 考えられている．ただし，個別の経験や環境，文化によっ てこれらの道徳基盤は変更される余地があり，道徳に個 人差や文化差があることを否定するものではない．つま り，人間は道徳に関する五つのセンサをもって生まれて くるが，それらのセンサの使い方は生後に獲得されると いう理屈である． 擁護基盤と公正基盤は，個人が他者や社会から傷付け られたり，不公平な扱いを受けることを避けるべきであ るという価値観であるため，これら二つを個人レベルの 道徳基盤としてまとめることができる．一方，忠誠基盤， 権威基盤，純潔基盤は，個人の尊厳よりも集団における 役割や社会の秩序に焦点が当てられているため，これら 三つは集団レベルの道徳基盤としてまとめられる [Haidt 08]．個人レベルと集団レベルの道徳のどちらに重きを 置くのかには個人差があり，それは脳の構造と関係する ことが MRI を用いた脳科学研究で明らかにされている [Lewis 12]． ハイト達のグループは，道徳基盤理論を米国の政治的 イデオロギーの分析に適用し，政治的態度がリベラルな 人々（民主党支持者）は擁護基盤と公正基盤のみにもっ ぱら重きを置くのに対して，保守系の人々（共和党支持 者）は五つの基盤をほぼ等しく重要視していることを明 らかにした [Haidt 12]．リベラル系と保守系の人々には 道徳的判断に非対称性があるのである．この知見は，な ぜ人々が敵対する二つの集団に分裂し，相手を理解しよ うとしないのかに関する一定の説明を与える．しかし， こうした研究の多くは，質問票を用いた調査や統制条件 下での実験に基づくものであり，日常における人々の道 徳的判断とは異なるため，研究から得られた知見がどの ぐらい一般性をもつのかについては議論の余地がある． このような状況を克服するために，ソーシャルメディ アにおける人々の投稿データを分析対象とする．調査 や実験とは違い，ソーシャルデータには自然状況下でのつぶやきの中のモラル
Morality in Tweets
笹原 和俊
名古屋大学大学院情報学研究科，科学技術振興機構さきがけKazutoshi Sasahara Graduate School of Informatics, Nagoya University / JST, PRESTO.
[email protected], https://www.colorlessgreen.info
Keywords:
computational social science, moral foundations theory, social media, word embedding. 「道徳判断の自動化をめぐる問題：規範の選択と協力の進化」＊1 これらに加え，「自由（liberty）」を 6 番目として含める場合 もあるが，ここでは五つの道徳基盤に基づいて話を進める．
人々の行動がコードされており，社会的ネットワークと の関係の中で道徳行動を分析できるという大きな利点が ある．近年では，計算社会科学の分野でこのような研 究が多く行われている [Golder 14, Lazer 09, Sasahara 13]．道徳と関連する先行研究として，Twitter の投稿デー タ（tweet）を対象としてテキスト分析を行い，純潔基 盤の道徳負荷量（後述）とユーザ間の社会的距離が関わっ ていることを明らかにしたものがある [Dehghani 16]． また，銃規制，同性婚，気候変動に関する tweet の拡散 （Retweet）を分析し，そこに含まれる道徳的感情に関わ る単語が多いほどより拡散されることを示した研究もあ る [Brady 17]．道徳性の違いが社会的つながりの形成や 道徳感情が情報拡散と関連するというのは興味深い発見 である． 本論文では，ソーシャルデータの潜在的意味解析を用 いた道徳基盤の研究について紹介する．
2．
道徳基盤の定量化
2･1 道 徳 基 盤 辞 書 ハイト達のグループは道徳基盤理論を検証するため のツールとして，道徳基盤辞書（Moral Foundations Dictionary：以後，MFD と略記）を開発した＊2．MFD には，道徳基盤理論が仮定する擁護，公正，忠誠，権威， 純潔の五つの基盤と道徳一般に関連する合計 324 個の 英単語（および語幹）がリストアップされている．各道 徳基盤を遵守する場合（virtue）と違反する場合（vice） の二通りがあるので，MFD には合計 11 個のカテゴリー がある．各カテゴリーごとの内訳は表 1 に示すとおりで ある． 例えば，“safe*”（* は 0 文字以上の文字列を意味する） は擁護基盤，“preserve”は擁護基盤と権威基盤と純潔 基盤という具合に，道徳に関係する単語および語幹を道 徳基盤のカテゴリーにマッピングする．既知の問題点と して MFD は網羅的な辞書ではないということがあるが， MFDを拡張する方法については後述する． 2･2 データの収集と処理 自然状況における人々の道徳基盤を測定するために， 道徳に関するトピックと非道徳に関する英語の tweet を 収集した．具体的には，妊娠中絶（abortion），同性愛 （homosexuality OR homosexual），移民（immigration OR immigrant），宗教（religion OR religious）の四つ のトピックと非道徳（immorality OR immoral）のキー ワードを含む tweet を，2016 年 3 月 1 日～ 4 月 24 日ま で Twitter Search API＊3を用いて収集した（括弧の中は Twitter Search API で用いたクエリ）．その結果，妊 娠中絶は約 152 万，同性愛は約 46 万，移民は約 210 万， 宗教は約 463 万，非道徳は約 22 万の tweet が取得できた． 後述のデータ分析のために，取得した tweet および Retweetの重複するものを削除し，テキスト部分を抜き 出した．その後，NLTK＊4で定義されているストップ ワード（a や the）や特殊文字（！や＄），数，ユーザ名， URLなどノイズの要因となるもの，およびクエリで用 いた単語を取り除き，ハッシュタグは # を除いたものを 分析に使用した（#harmはharmとして使用）．例えば，“@
xxxx 50％ marginal taxrates aren’t immoral. Letting the majority of public school kids live in poverty is. https://t.co/grEgeu9lPj”という tweet はこの処理 を経ると，‘marginal’，‘taxrates’，‘letting’，‘majority’， ‘public’，‘school’，‘kids’，‘live’，‘poverty’という単
語の列になる． 今後は，このような処理を施した道徳関連のトピック ごとの tweet（以後，「トピックコーパス」と呼ぶ），お よび非道徳に関する tweet（以後，「非道徳コーパス」と 呼ぶ）を分析対象とする． 2･3 道 徳 負 荷 量 本研究では，道徳に違反する場合に着目し（したがっ て，MFD の vice カテゴリーに属する単語のみを用いて）， tweetで話題にされる道徳性の特徴，道徳関連のトピッ クと道徳基盤との関係性などを定量的に調査する． 図 1 は道徳負荷量の計算の流れを示している．まず， トピックコーパスおよび非道徳コーパスに含まれる単語 をベクトル化するための辞書（以後，「単語ベクトル辞書」 と呼ぶ）が必要となる．非道徳コーパスを BoW（Bag-of-Words）でモデル化し，以下のような tf-idf 値を要素とす る単語文脈行列をつくる（行が単語，列が tweet）． tf-idf（wi, tj） ＝tf（wi, tj）（ log（M＋1）－log（df（wi））） ここで，w は単語，t は tweet，M はコーパスにお ける tweet の総数である．この単語文脈行列から単語 表 1 道徳基盤辞書のカテゴリーの内訳 擁 護 公 平 忠 誠 権 威 純 潔 16 26 29 45 35 擁護違反 公平違反 忠誠違反 権威違反 純潔違反 35 18 23 37 54 道徳一般 総単語数 41 324 ＊2 https://www.moralfoundations.org/ ＊3 https://developer.twitter.com/en/docs/tweets/ search/api-reference/get-search-tweets.html ＊4 https://www.nltk.org/
wiの重要度 S を以下のように計算し，S の大きい順に 2 000語をキーワード，20 000 語を文脈語として単語文 脈行列を再構成する． S（wi）＝ M j＝0 （tf- idf（wi, tj）） さらに，これを以下の式で定義される相互情報量（PPMI） を要素とする単語文脈行列に変換した後，特異値分解 （SVD）をして次元圧縮を行う．本研究では先行研究 （[Dehghani 16]）に従い N＝100 とする． PPMI（vi, vj） ＝max（log（P（v2 i, vj）/P（vi）P（vj））, 0） このようにして 100 次元に圧縮した行列では，似た 意味をもつ単語（似た文脈で使用される単語）は似たベ クトルで表現されている．この行列を単語ベクトル辞書 とし，これを参照して tweet に生起する単語をベクトル に変換する（単語ベクトル辞書にないものは考慮されな い）．ここまでの手続きは文献 [Dehghani 16] のやり方 を踏襲しているが，一般的な語の重要度を下げるために 単語文脈行列の要素に PPMI を用いる点は異なる． Tweetは単語ベクトルの和で表現し，各トピックコー パスにある tweet をベクトル的に足し合わせたものを 「トピック文脈ベクトル」とする．同様に単語ベクトル 辞書を用いて，MFD のカテゴリーごとの辞書語をベク トル的に足し合わせたものを「道徳文脈ベクトル」とす る．ただし，オリジナルの MFD は登録語数が少なく， ここで注目している道徳基盤に違反する場合（vice）に 限るとさらに少なくなるため，単語文脈行列を構成する のと同様の手続きで関連語を含めて 500 語に拡張した MFDを使う（詳細は文献 [Kaur 16] を参照）． トピック文脈ベクトルと道徳文脈ベクトルのコサイン 類似度をそれぞれ計算したものが道徳負荷量である．例 えば，妊娠中絶のトピック文脈ベクトルと擁護基盤，公 正基盤，忠誠基盤，権威基盤，純潔基盤のそれぞれの道 徳文脈ベクトルのコサイン類似度を計算し，この値が高 いほど道徳負荷量が大きいと考える．
3．
実 験
3･1 tweet に頻出する非道徳性 まず，オンラインコミュニケーションにおいて，どの ような非道徳性が話題に上るのかを調査した．図 2 は， 非道徳コーパスに頻出した MFD の辞書語をワードクラ ウドとして可視化したものである．日常的な tweet の中 で，道徳的でない事柄が話題にされるときによく使用さ 6(24 6 &8 + #7 * 0- &8 + #7 * 0- 1 $% /, !' ;"93< ;"(2 (2 5> =;" ;" . :) 6 図 1 道徳負荷量の計算 図 2 tweet に頻出する道徳語れる語の頻度がフォントの大きさで表現されている．最 頻出語は権威違反のカテゴリーに属する“illegal”（不 法）だった．次いで，純潔違反のカテゴリーに属する “disgust”（嫌悪）や“sick”（不健康），擁護違反のカテ ゴリーに属する“war”（戦争）や“violen*”（暴力）な どが頻出語として見られた（* は 1 文字以上の任意の文 字列）． 非道徳コーパスにおける各 tweet の道徳負荷量を計算 し，値が最も大きかった道徳基盤カテゴリーで分類した 結果が表 2 である．道徳基盤ごとの tweet 数を見てみ ると，擁護違反が最も多く，次に公平違反と純潔違反が 続く．一方，忠誠違反と権威違反はそれらに比べると頻 度が小さいことがわかる．これらの結果から，日常的な オンラインコミュニケーションにおいては，擁護基盤は 最も基本的な（したがって頻出する）道徳基盤である可 能性が示唆される．あらゆる道徳的判断は擁護基盤に基 づく一つのプロセスから派生するという説もあり [Gray 12]，この説を支持するような結果である． 3･2 tweet の道徳負荷量 次に，tweet の道徳負荷量について調査した．表 3 は 道徳関連の tweet と道徳負荷量を計測した例である．例 えば，tweet1 の中で“kills”が使われていることから 容易に推測できるように，tweet1 をベクトル化したも のと最も高い類似性を示すのは擁護（違反）の文脈ベク トルである．同様に，公正，忠誠，権威，純潔のそれぞ れの道徳基盤に関連する単語が含まれている度合いに応 じて，対応する基盤の道徳負荷量が大きくなっているこ とが確認できる． 3･3 道徳基盤どうしの関係性 道徳基盤どうしの関係性についても同様の計測手法で 調査した．表 4 は道徳文脈ベクトルどうしの関係性をコ サイン類似度で測ったものである．擁護基盤は忠誠基盤 と類似度が高く，忠誠基盤は権威基盤と類似度が高く， 日常的な tweet では五つの道徳基盤は必ずしも独立の概 念というわけではないことがわかる．これらの道徳基盤 に関する話題は，自発的なコミュニケーションの中では ある程度混ざって会話されている可能性がある． 図 3 五つ道徳基盤の関係性 表 2 道徳基盤ごとの tweet 数 （非道徳コーパス） 道徳基盤 tweet数 擁 護 21 135 公 正 15 731 忠 誠 6 665 権 威 4 932 純 潔 14 587 表 3 tweet と道徳負荷量の例（アカウント名は匿名化） # tweet 擁 護 公 正 忠 誠 権 威 純 潔
1 @hhhh it should it’s immoral and kills innocent people 0.772 － 0.016 0.199 0.063 0.113 2 @gggg @cccc @dddd Yeah, not being to discriminate is so unbelievably immoral and unjust. 0.184 0.712 0.177 0.311 0.006 3 @eeee @mmmm @JulianBurnside Foul immoral traitors will go to any lengths to defend the enemy they’ve allied with. 0.225 0.189 0.544 0.336 0.186 4 @ssss @nnnn So, we agree arming Al Qaeda is treasonous. Exposing the illegal/immoral actions of a government is patriotic. 0.218 0.346 0.348 0.553 0.007 5 #PresstitutesDay Sick of these indecent, perverted, shameless, wicked, sinful, immoral, lewd, self-indulgent anti nationals. 0.134 0.249 0.238 0.044 0.684
表 4 道徳文脈ベクトルのコサイン類似度 道徳 基盤 擁 護 公 正 忠 誠 権 威 純 潔 擁 護 ─ 0.113 0.394 0.133 0.229 公 正 ─ ─ 0.147 0.223 0.14 忠 誠 ─ ─ ─ 0.598 0.239 権 威 ─ ─ ─ ─ 0.081 純 潔 ─ ─ ─ ─ ─
このことをさらに詳しく見るために，トピックコーパ スに含まれる tweet を単語ベクトル辞書を用いてそれぞ れベクトル化し，主成分分析（PCA）をして二次元で可 視化したものが図 3 である．この図からまずわかること は，純潔基盤は他の 4 基盤とは意味的に大きく異なると いうことである．そして，擁護，公正，忠誠，権威の道 徳基盤は多かれ少なかれオーバラップしていることもわ かる．したがって，繰返しになるが，日常的な tweet に おいては五つの道徳基盤は独立ではなく，純潔基盤だけ が異なる性質をもつことが示唆される．前述したように， 忠誠基盤，権威基盤，純潔基盤は集団レベルの道徳基盤 としてまとめられているが [Haidt 08]，純潔基盤を同じ カテゴリーに分類するのが自然であるかについては疑問 が生じる． 3･4 道徳的トピックと道徳基盤 最後に，妊娠中絶，同性愛，移民，宗教の四つトピッ クに関して，どの道徳基盤が関連しているのかを調査し た．図 4 は単語文脈行列において 2･3 節で定義した S の大きい順にキーワード数を 10 としたときの結果であ る．図 4 を見ると，妊娠中絶と宗教は擁護基盤，同性愛 は純潔基盤，移民は忠誠基盤の道徳負荷量が大きく，ト ピックに応じて関連する道徳基盤が異なることがわか る．妊娠中絶に関しては，米国では政治的立場によって 異なる考え方をもっていることが知られており，リベラ ル系の人々はこの問題において公平基盤を重要視し，保 守系の人は純潔基盤を重視する [Sagi 14]．本研究では ユーザの政治的態度はわからないのでこのような比較は できないが，擁護基盤が重要視されていることから推測 すると，tweet では妊娠中絶の危険性に関して話題にさ れることが多いようである．同性愛に関しては，嫌悪や ネガティブな感情と深く関係することが先行研究によっ て知られており，それらの結果とは一致する [Smith 11, Terrizzi 10]． キーワード数を 100 とした場合の図 5 では，すべて のトピックにおいて擁護基盤が優位になっている．これ は，MDF を拡張すると擁護基盤とも関連するような単 語が追加されていくことを意味している．つまり，S の 大きい順に並び替えたとき，S の値が 10 位以降に出現 する多くの単語が擁護基盤と関係しているということで ある．この結果は，擁護基盤が最も基本的な道徳基盤で あるという事実を間接的に支持している．
4．ま
と め
本論文では，ソーシャルデータから道徳基盤を定量化 する研究について紹介した．道徳関連の英語の tweet を 対象として MFD を用いて潜在的意味解析を行った結果， 擁護基盤が根本的な道徳基盤であること，純潔基盤が他 の四つとは異なる性質をもつ可能性が示唆された．さら に，五つの道徳基盤はある程度の概念的なオーバラップ があることも示された．他のソーシャルメディアのデー タを用いて，このような道徳基盤の性質が同様に確認で きるかを調査する必要がある．現在，ウィキペディアの データを用いた道徳基盤の調査を進めており，上記知見 を支持する知見が得られている． ソーシャルデータが利用可能になり，人々の自然状態 における道徳性を計測できるようになったことで，これ まで実験や調査といった手法が主流だった道徳心理学の 研究に新しい観点から知見を提供できるようになった． このような知見は，これまでの道徳心理学の仮説を検証 するのみならず，情報化時代における道徳を再考するう えでも重要である． 本研究では英語の tweet の分析にとどまったが，今後， 英語以外のソーシャルデータに関しても道徳基盤理論を 用いた検討が必要になる．そのためには，MFD をさま ざまな言語に翻訳し，多様な文化間で比較できるように する必要がある．私達の研究グループでは，MFD の日 本語版（J-MFD）を作成し，一般公開している＊5（詳細 は [Matsuo 18] を参照）．今後，J-MFD を用いた道徳基 盤の日英の文化比較を行い，道徳基盤理論の検証をさら に進める予定である． 謝 辞 本研究は MEXT/JSPS 科研費（JP18H01078 および #4903，JP17H06383），JST CREST（JPMJCR17A4） の助成を受けて行われました．◇ 参 考 文 献 ◇
[Brady 17] Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A. and Van Bavel, J. J.: Emotion shapes the diffusion of moralized content in social networks, Proc. National Academy of
Sciences, Vol. 114, No. 28, pp. 7313-7318（2017）
[Dehghani 16] Dehghani, M., Johnson, K., Hoover, J., Sagi, E., Garten, J., Parmar, N. J., Vaisey, S., Iliev, R. and Graham, J.: Purity homophily in social networks, J. of Experimental
＊5 https://github.com/soramame0518/j-mfd ༴ޢ ެਖ਼ ݖҖ ७ܿ ৷தઈ 0.32 0.15 0.16 0.16 0.14 ಉੑѪ 0.08 0.09 -0.01 0.04 0.35 Ҡຽ 0.39 0.18 0.51 0.27 0.05 फڭ 0.43 0.31 0.22 0.09 0.19 図 4 トピックごとの道徳負荷量（キーワード数が 10 の場合） 0.39 0.2 0.15 0.1 0.16 0.27 0.2 0.08 0.06 0.26 0.39 0.24 0.36 0.16 0.12 0.33 0.25 0.14 0.06 0.23 ৷தઈ ಉੑѪ Ҡຽ फڭ ༴ޢ ެਖ਼ ݖҖ ७ܿ 図 5 トピックごとの道徳負荷量（キーワード数が 100 の場合）
Psychology: General, Vol. 145, No. 3, pp. 366-375（2016） [Golder 14] Golder, S. A. and Macy, M. W.: Digital footprints:
Opportunities and challenges for online social research,
Annual Review of Sociology, Vol. 40, No. 1, pp. 129-152（2014） [Gray 12] Gray, K., Young, L. L. and Waytz, A.: Mind Perception
Is the Essence of Morality, Psychological Inquiry, Vol. 23, No. 2,
pp. 101-124（2012）
[Haidt 08] Haidt, J.: Morality, Perspectives on Psychological
Science, Vol. 3, No. 1, pp. 65-72（2008）
[Haidt 12] Haidt, J.: The Righteous Mind: Why Good People Are
Divided by Politics and Religion, Pantheon（2012）
[Kaur 16] Kaur, R. and Sasahara, K.: Quantifying moral foundations from various topics on Twitter conversations,
2016 IEEE Int. Conf. on Big Data（Big Data）, pp. 2505-2512 （2016）
[Lazer 09] Lazer, D., Pentland, A., Adamic, L. A., Aral, S., Barabási, A.-L., Brewer, D., Christakis, N. A., Contractor, N., Fowler, J., Gutmann, M., Jebara, T., King, G., Macy, M. W., Roy, D. and Van Alstyne, M.: Computational social science, Science, Vol. 323, No. 5915, pp. 721-723（2009）
[Lewis 12] Lewis, G. J., Kanai, R., Bates, T. C. and Rees, G.: Moral values are associated with individual differences in regional brain volume, J. Cogn. Neurosci., Vol. 24, No. 8, pp. 1657-1663 （2012）
[Matsuo 18] Matsuo, A., Sasahara, K., Taguchi, Y. and Kara-sawa, M.: Development and validation of the Japanese moral foundations dictionary, arXiv:1804.00871（2019）
[Sagi 14] Sagi, E. and Dehghani, M.: Measuring moral rhetoric in text, Social Science Computer Review, Vol. 32, No. 2, pp. 132-144（2014）
[Sasahara 13] Sasahara, K., Hirata, Y., Toyoda, M., Kitsuregawa, M. and Aihara, K.: Quantifying collective attention from Tweet stream, PLoS One, Vol. 8, No. 4, p. e61823（2013）
[Smith 11] Smith, K. B., Oxley, D., Hibbing, M. V., Alford, J. R. and Hibbing, J. R.: Disgust sensitivity and the neurophysiology of Left-Right political orientations, PLoS One, Vol. 6, No. 10, p. e25552（2011）
[Terrizzi 10] Terrizzi, J. A., Shook, N. J. and Ventis, W. L.: Disgust: A predictor of social conservatism and prejudicial attitudes toward homosexuals, Personality and Individual Differences, Vol. 49, No. 6, pp. 587-592（2010） 2019年 1 月 15 日 受理
