雑誌名 静岡大学教育研究

「AIのアルゴリズムを説明してもらう権利」につい て

著者 岡田 安功

雑誌名 静岡大学教育研究

巻 16

ページ 103‑122

発行年 2020‑03‑23

出版者 静岡大学大学教育センター

URL http://doi.org/10.14945/00027262

ࠕAI ࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡟ࡘ࠸࡚

ᒸ⏣ Ᏻຌ㸦㟼ᒸ኱Ꮫྡ㄃ᩍᤵ㸧

せ⣙㸸ேᕤ▱⬟ࡀᬑཬࡋ࡚ᵝࠎ࡞⏝㏵࡛฼⏝ࡉࢀ࡚࠸ࡿࠋᮏ✏ࡣேᕤ▱⬟ࡀಶேࢆホ౯ࡍࡿࡓࡵ࡟฼⏝ࡉࢀࡿሙྜ࡟ㄽⅬ

ࢆ⤠ࡾࠊࡇࡢࡼ࠺࡞ሙྜ࡟ேᕤ▱⬟ࡢ࢔ࣝࢦࣜࢬ࣒࡟ࡼࡗ࡚ホ౯ࡉࢀࡓ⪅ࡀࡇࡢ࢔ࣝࢦࣜࢬ࣒࡟ࡘ࠸࡚ㄝ᫂ࢆཷࡅࡿࡇ࡜

ࡀᶒ฼࡛࠶ࡾࠊᑡ࡞ࡃ࡜ࡶἲᚊࡢಖㆤ࡟್ࡍࡿ฼┈࡛࠶ࡿࡇ࡜ࢆ୺ᙇࡋ࡚࠸ࡿࠋᮏ✏ࡣࡇࡢ୺ᙇࡢ᰿ᣐࢆ⿵ᙉࡍࡿࡓࡵ࡟ࠊ

᪥ᮏࡢἲไᗘࡸ⌧≧ࢆ᳨ウࡍࡿࡔࡅ࡛࡞ࡃࠊ(8ࠊ࢖ࢠࣜࢫࠊ࢔࣓ࣜ࢝ࠊ2(&' ➼ࡀேᕤ▱⬟ࡢ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡋ࡚࡝ࡢࡼ

࠺࡟ἲⓗᑐᛂࢆࡋ࡚࠸ࡿ࠿ࢆ᳨ウࡋ࡚࠸ࡿࠋࡇࡢࡼ࠺࡞ẚ㍑ἲⓗ᳨ウ࠿ࡽࠊࠕ$, ࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ

ࢆ㆟ㄽࡍࡿᚲせᛶ࡜ព⩏ࢆ᫂ࡽ࠿࡟ࡋ࡚࠸ࡿࠋ

࣮࣮࢟࣡ࢻ㸸AI, ேᕤ▱⬟, ࢔ࣝࢦࣜࢬ࣒, ಶேࢹ࣮ࢱ, ࣉࣛ࢖ࣂࢩ࣮, ࣉࣟࣇ࢓࢖ࣜࣥࢢ, ⾜ᨻᡭ⥆

1 ࡣࡌࡵ࡟㸸ၥ㢟ᥦ㉳

Artificial Intelligence ࡢ⩻ヂㄒ࡛࠶ࡿࠕேᕤ▱⬟ࠖࡀ᪥ᮏㄒ࡜ࡋ࡚ࡍࡗ࠿ࡾᐃ╔ࡋࡓࠋᮏ✏࡛ࡣࠕேᕤ

▱⬟ࠖࡢཎㄒࢆ␎ࡋࡓ͂AI̓࡜࠸࠺༢ㄒࢆ⏝࠸࡚㆟ㄽࡍࡿ¹⁾ࠋAI ࡀ࡝ࢇ࡞௙⤌ࡳ࡛ᶵ⬟ࡋ࡚࠸ࡿࡢ࠿▱

ࡽ࡞࠸ே࡛ࡶࠊ

AI

ATM

ࢆࡍࡿᢏ⾡ࠊࢡࣞࢪࢵࢺ࣮࢝ࢻࡢⓎ⾜ࡸఫᏯ࣮ࣟࣥࡢྍྰ࡟ࡘ࠸࡚୚ಙࡢุ᩿ࢆࡍࡿᢏ⾡ࠊ┘ど࣓࢝ࣛ

࡛㢦ㄆドࢆࡍࡿᢏ⾡ࠊ஌⏝㌴ࢆ⮬ື㐠㌿ࡍࡿᢏ⾡ࠊᰴ౯ࡢኚືࢆண ࡍࡿᢏ⾡ࠊࢿࢵࢺ࡛ၟရࢆ≀Ⰽࡍ

ࡿேࢆࣉࣟࣇ࢓࢖ࣜࣥࢢࡋ࡚ၟရࢆ᥎ዡࡍࡿᢏ⾡ࠊෆ⮚➼ࡢ⏬ീ࠿ࡽ⑓Ẽࢆデ᩿ࡍࡿᢏ⾡ࠊSNS ࢆ౑ࡗ ࡓ࢖ࢪ࣓ࢆⓎぢࡋ࡚๐㝖ࡍࡿᢏ⾡➼ࠊㄡࡶࡀ࠸ࡘ࡛ࡶẼ࡙࠸࡚࠸ࡿࢃࡅ࡛ࡣ࡞࠸ࡀࠊ⌧௦ேࡢ᪥ᖖ⏕ά

࡟ࡣ

AI

AI

ࢆྵࡵࡓࣅࢵࢢࢹ࣮ࢱࢆ㞟✚ࡍࡿᢏ⾡ࡢ㐍Ṍ࡜ࣅࢵࢢࢹ࣮ࢱࢆゎᯒࡍࡿᢏ⾡ࡢ㐍Ṍ࡛࠶ࡿࠋୖ㏙ࡢ

AI

ࣅࢵࢢࢹ࣮ࢱࢆ๓ᥦ࡜ࡋ࡚ᶵ⬟ࡋ࡚࠸ࡿࡀࠊᮏ✏࡛ࡣࣅࢵࢢࢹ࣮ࢱࡢ୰࡛ࡶࣃ࣮ࢯࢼࣝࢹ࣮ࢱ࡟┦ᙜࡍ

ࡿಶேࢹ࣮ࢱ²⁾ࢆ⏝࠸ࡓ

AI

⚾ࡓࡕ࡜

AI

AI

AI

ࡉ࡚ࠊ

AI

AI

࡞࠸

AI

AI

࡟㐪࠺ࡀࠊ⮬ື㌴ࢆ㉎ධࡋ࡚฼⏝ࡍࡿ⪅࡟࡜ࡗ࡚᭱኱ࡢ㛵ᚰࡣ⮬ື㌴ࡢᏳ඲ᛶ࡛࠶ࡿࠋ⮬ື㐠㌿㌴ࢆ㉎ ධࡋࡼ࠺࡜ࡍࡿ࣮ࣘࢨ࣮ࡣ⮬ື㐠㌿ࡢ࢔ࣝࢦࣜࢬ࣒ࢆ⌮ゎ࡛ࡁ࡞ࡃ࡚ࡶ⮬ື㌴ࡀᏳ඲࡛࠶ࢀࡤ࠸࠸ࠋ⮬

ື㐠㌿ࡢ⢭ᗘࢆ㧗ࡵࡿࡓࡵ࡟ࠊ࣮ࣘࢨ࣮ࡀ࠸ࡘ࡝ࡇࢆ㉮⾜ࡋࡓ࠿ࡀ⮬ື㌴఍♫ࡢࢧ࣮ࣂ࡬㏲ḟ㏦ࡽࢀ࡚

࠸࡚ࡶࠊಶேࢆ≉ᐃ࡛ࡁ࡞࠸᝟ሗฎ⌮ࡀ᪋ࡉࢀ࡚࠸ࢀࡤࠊከࡃࡢ࣮ࣘࢨ࣮ࡣ⮬ศࡢࣉࣛ࢖ࣂࢩ࣮ࢆẼ࡟

ࡍࡿࡇ࡜࡞ࡃ⮬ື㐠㌿ࢆ฼⏝ࡍࡿ࡛࠶ࢁ࠺ࠋ⮬ື㐠㌿࡛

AI

AI

࢔ࣝࢦࣜࢬ࣒࡟ࡶࣉࣛ࢖ࣂࢩ࣮࡟ࡶಶேࢹ࣮ࢱ࡟ࡶ࡯࡜ࢇ࡝㛵ᚰࢆࡶࡓ࡞࠸࡜ᛮࢃࢀࡿࠋ⮬ື㌴఍♫ࡶ

ࡑࡢࡼ࠺࡞⮬ື㐠㌿㌴࡛࡞ࡅࢀࡤ኎ࢀ࡞࠸ࡢ࡛ࠊࡑࡢࡼ࠺࡞ᢏ⾡ⓗᑐᛂࢆࡍࡿࡣࡎ࡛࠶ࡿࠋ

࡜ࡇࢁࡀࠊ࢔ࣝࣂ࢖ࢺࡢ᥇⏝ࡸṇ♫ဨࡢ᥇⏝࡟

AI

AI

研究ノート

ࡿࡢ࠿Ẽ࡟࡞ࡽ࡞࠸ࡔࢁ࠺࠿ࠋ࠶ࡿᏛ⏕ࡀࢫ࣐࡛࣍࢔ࣝࣂ࢖ࢺ࡟ᛂເࡋ࡚ࠊࢫ࣐࣍ࡢྥࡇ࠺࡛Ꮫ⏕࡟ᑐ ᛂࡋ࡚ࣉࣟࣇ࢓࢖ࣜࣥࢢࢆࡍࡿࡢࡀ

AI

AI

࡟ᚑ࠺ࠋ࢔ࣝࣂ࢖ࢺ࡛ࡣࡇࡢࡼ࠺࡞᥇⏝᪉ἲࡀᬑཬࡋጞࡵ࡚࠸ࡿࠋ࢔ࣝࣂ࢖ࢺࡔ࡜๭ࡾษࢀࡤࠊAI ࡢุ

᩿ࡔ࡜▱ࡽࡉࢀ࡚ࡶࠊࡇࡢᏛ⏕ࡣࡇࡢ㑅⪃⤖ᯝࢆチᐜࡍࡿ࠿ࡶࡋࢀ࡞࠸ࠋࡋ࠿ࡋࠊࡇࡢᏛ⏕ࡀᑵά࡛ṇ

♫ဨ࡜ࡋ࡚ࡢ㞠⏝࡟ᛂເࡋࡓሙྜࠊ㠃᥋ࡣே㛫ࡀ⾜࡞ࡗࡓ࡜ࡋ࡚ࡶ

AI

⤖ᯝ࡟ࡇࡢᏛ⏕ࡣ⣡ᚓࡍࡿࡔࢁ࠺࠿ࠋࡓࡔࡋࠊࡇࡢ⣡ᚓ࡛ࡁࡿ࠿࡝࠺࠿࡜࠸࠺ၥ㢟ࡣࠊAI ุ࡛᩿ࡉࢀࡓ ࡇ࡜ࢆࡇࡢᏛ⏕ࡀ▱ࡗ࡚࠸ࡿሙྜ࡟ࡢࡳⓎ⏕ࡍࡿࠋே஦ᢸᙜ⪅ࡀ

AI

࠿ࡗࡓࡽࠊࡇࡢၥ㢟ࡑࡢࡶࡢࡀ⮬ぬࡉࢀࡎၥ㢟࡟࡞ࡿࡇ࡜ࡶ࡞࠸ࠋᑵάࡢᏛ⏕࡛ࡣ࡞ࡃࠊ᪤࡟Ꮫᰯࢆ༞

ᴗࡋ࡚⏕άࡢࡓࡵ࡟ാࡃሙࢆᚲせ࡜ࡋ࡚࠸ࡿ⪅ࡣࠊ࢔ࣝࣂ࢖ࢺ࡛࠶ࡗ࡚ࡶࠊAI ࡢࡳࡢุ᩿࡛ồ⫋ࢆ᩿ࡽ

ࢀࡿࡇ࡜࡟⣡ᚓ࡛ࡁ࡞࠸ࡔࢁ࠺ࠋAI ࡟ࡼࡿ㞠⏝ࡢỴᐃࡣࠊປົ⟶⌮㈝ࢆ࢝ࢵࢺ࡛ࡁ࡚ࠊၟရ࡜ࢧ࣮ࣅࢫ ࡢࢥࢫࢺࢆ࢝ࢵࢺ࡛ࡁࡿࡀࠊ㠀ṇつ㞠⏝ປാ⪅ࡢ๭ྜࡀ㧗ࡃࠊ㞠⏝ᙧែࡀከᵝ࡞♫఍࡛ࠊAIࡢุ᩿ࡢࡳ

࡛୙᥇⏝ࡀྍ⬟࡛࠶ࢀࡤࠊ♫఍ⓗ㌟ศࡢᅛᐃ໬➼ࠊ♫఍ࡢᅾࡾ᪉࡟᱁ᕪࡸ୙බᖹ➼ࡢ῝้࡞ᚋ㑇⑕ࢆ✚

ࡳୖࡆࡿྍ⬟ᛶࡀ࠶ࡿࠋ

࡛ࡣࠊ

AI

AI

AI

ࡿ⛬ᗘ࡞ࡽ࠸࠸ࡢࡔࡀࠊᮏᙜ࡟ཧ⪃⛬ᗘ࡛῭ࡴࡔࢁ࠺࠿ࠋ➨஧࡟ࠊ୙᥇⏝⪅ࢆྵࡵᛂເࡋࡓ⪅ࡣே஦ᢸ ᙜ⪅࠿ࡽ

AI

AI

➨୕࡟ࠊࡇࢀࡀ᭱ࡶ㔜せ࡞ࡢࡔࡀࠊ୙᥇⏝⪅ࡀ୙᥇⏝ุ᩿࡟

AI

᥇⏝ࡢ⌮⏤ࢆ▱ࡗࡓࡇ࡜࡟ࡣ࡞ࡽ࡞࠸ୖ࡟ࠊே஦ᢸᙜ⪅ࡀ

AI

῝ᒙᏛ⩦ࢆࡍࡿ

AI

ࡇࢀࡽࡢၥ㢟Ⅼࢆᑡࡋ࡛ࡶゎᾘࡍࡿ࡟ࡣ࡝࠺ࡍࢀࡤ࠸࠸ࡢ࠿ࠋ▱ࡽ࡞࠸࠺ࡕ࡟

AI

఍࡟࡞ࡽ࡞࠸ࡓࡵ࡟ࠊAIࡢᨭ㓄࠿ࡽே㛫ࡢᑛཝࢆᏲࡿࡓࡵ࡟ࠊ

AI

AI

AI

ࡿሙྜࠊᛂເ⪅ࡣ

AI

AI

࡛ࡣࠊⴠ㑅ࡢ㑅⪃㏻▱ࡢグ㍕ࡀ⡆␎࡛ࠊⴠ㑅ࡢ⌮⏤ࡣ᭩࠿ࢀ࡚࠸࡞࠸࡟➼ࡋ࠸ࠋⴠ㑅ࡢ㏻▱࡟

AI

ࢦࣜࢬ࣒ࡀ⌮ゎྍ⬟࡞࡛ࣞ࣋ࣝㄝ᫂ࡉࢀ࡚࠸ࡓࡽࠊⴠ㑅⪅ࡣⴠ㑅ࡢ⌮⏤ࢆ▱ࡿࠋⴠ㑅⪅࡟࢔ࣝࢦࣜࢬ࣒

ࢆㄝ᫂ࡍࡿᚲせࡀ࡞ࡅࢀࡤࠊ࢔ࣝࢦࣜࢬ࣒ࢆ⌮ゎࡋ࡞࠸ࡲࡲ

AI

AI

AI

ࡣබṇ࡞ホ౯ࢆᢸಖࡍࡿࠋ࠸࠺ࡲ࡛ࡶ࡞ࡃࠊ࢔ࣝࢦࣜࢬ࣒ࡢබ㛤㸻࢔ࣝࢦࣜࢬ࣒ࡢㄝ࡛᫂ࡣ࡞࠸ࠋ」㞧

࡞࢔ࣝࢦࣜࢬ࣒ࢆぢࡏࡽࢀࡿ࡜ࠊ⌮ゎ࡛ࡁࡿ⪅ࡣࡈࡃࢃࡎ࠿࡛࠶ࡿࠋ

⮬ື㐠㌿㌴ࡢ㉎ධ⪅ࡣ⮬ື㐠㌿ࡢ࢔ࣝࢦࣜࢬ࣒ࢆ▱ࡽ࡞ࡃ࡚ࡶẼ࡟ࡋ࡞࠸ࠋ་⒪⌧ሙ࡛

AI

⏬ീデ᩿ࢆཷࡅࡓᝈ⪅ࡣࠊAIࡢ࢔ࣝࢦࣜࢬ࣒ࢆ▱ࡽ࡞ࡃ࡚ࡶẼ࡟ࡋ࡞࠸ࠋࡋ࠿ࡋࠊே஦ࡢࡼ࠺࡟ேࢆホ ౯ࡍࡿሙ㠃࡛

AI

AI

ࡋࡓࡼ࠺࡟ࠊ࢔ࣝࢦࣜࢬ࣒ࡢㄝ᫂ࡢ᫝㠀ࢆุ᩿ࡍࡿᇶ‽ࡣỴࡋ࡚᫂☜࡛ࡣ࡞࠸ࠋ

AI

ࡀࠊᚲせ࡞ㄝ᫂ࢆ☜ᐇ࡟ᐇ⌧ࡋࡼ࠺࡜ࡋ࡚ࡶࠊ࠶ࡽࡺࡿሙ㠃ࢆ᝿ᐃࡋ࡚せ௳ࢆ᫂☜࡟ࡍࡿࡢࡣᅔ㞴࡛࠶

ࡿࠋ⮬ศ⮬㌟ࢆホ౯ࡋࡓ

AI

ࣝࢦࣜࢬ࣒ࢆ⌮ゎࡍࡿ᪉ἲࡣἲⓗ࡟㛢ࡊࡉࢀ࡚࠸ࡿࡢࡔࢁ࠺࠿ࠋࡇࡢၥ㢟ࢆ⪃࠼ࡿᡭ᥃࠿ࡾ࡜ࡋ࡚ࠊࠕAI

ࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡜࠸࠺ẚ㍑ⓗ᪂ࡋࡃ୺ᙇࡉࢀ࡚࠸ࡿᶒ฼ࡀ࠶ࡿࠋAIࡢホ౯࡟ࡼ

ࡗ࡚୙฼┈ࢆཷࡅࡓಶேࡀࡑࡢ࢔ࣝࢦࣜࢬ࣒ࢆ▱ࡾࡓ࠸࡜ᛮࡗࡓࡽࠊࡇࡢࡼ࠺࡞ᶒ฼ࡀ☜❧ࡉࢀ࡚࠸ࡿ

࡞ࡽࠊࡇࡢᶒ฼ࢆ⾜౑ࡍࡿࡢࡀ☜ᐇ࡞᪉ἲ࡛࠶ࡿࠋࡇࡢᶒ฼ࡣࠊᮏ✏ࡀᚋ࡟᳨ウࡍࡿ

EU

GDPR㸧ࡢゎ㔘࡜ࡋ࡚ᒎ㛤ࡉࢀࡿࡼ࠺࡟࡞ࡗࡓࡀࠊᶒ฼ᴫᛕࡑࡢࡶࡢࡣࡲࡔ୙᫂☜࡛࠶ࡿࠋ

࣒ࡑࡢࡶࡢ࡟ᑐࡍࡿఱࡽ࠿ࡢつไࢆᚲせ࡜ࡍࡿぢゎࡀᗈࡀࡾࡘࡘ࠶ࡿࡼ࠺࡟ᛮࢃࢀࡿ³⁾ࠋ࢔ࣝࢦࣜࢬ࣒ࡢ つไࡣᨺ⨨࡛ࡁ࡞࠸㔜せㄢ㢟࡛࠶ࡿࠋ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿつไ࡟ࡣ࠸ࡃࡘࡢࡶ࢔ࣉ࣮ࣟࢳࡀྍ⬟࡛࠶

ࡿࡀࠊᮏ✏ࡣᶒ฼࡜࠸࠺ほⅬ࠿ࡽ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿつไࡢᅾࡾ᪉ࢆ⪃ᐹࡍࡿࠋࡶࡕࢁࢇࠊࡇࡢࡼ࠺

࡞ᶒ฼࢔ࣉ࣮ࣟࢳࡢࡳ࡛ࡣ࢔ࣝࢦࣜࢬ࣒ࡢつไࢆ༑ศ࡟ᐇ⌧ࡍࡿࡇ࡜ࡣ࡛ࡁ࡞࠸ࡀࠊ࢔ࣝࢦࣜࢬ࣒࡟ᑐ ࡍࡿᶒ฼⾜౑ࡢ㝈⏺ࢆ࡛ࡁࡿ㝈ࡾලయ໬ࡋ࡞࠸㝈ࡾࠊᶒ฼࢔ࣉ࣮ࣟࢳࡢ㝈⏺ࢆ✺◚ࡍࡿ࢔ࣉ࣮ࣟࢳࡣ㐺 ษ࡟ᵓ⠏ࡍࡿࡇ࡜ࡀ࡛ࡁ࡞࠸ࡔࢁ࠺ࠋᮏ✏ࡢ┠ⓗࡣ

AI

ᣐࢆ࡛ࡁࡿ㝈ࡾ᫂ࡽ࠿࡟ࡍࡿࡇ࡜ࡔࡀࠊᮏ✏ࡢ᳨ウࡣ⤖ᯝⓗ࡟ᶒ฼࢔ࣉ࣮ࣟࢳࡢ㝈⏺ࢆ᫂♧ࡍࡿࡇ࡜࡟

ࡶ࡞ࡿࠋᶒ฼ᴫᛕࡀ࡝ࢀ࡯࡝᭕᫕࡛࠶ࡗ࡚ࡶࠊᶒ฼࡜࠸࠺ၥ㢟ព㆑ࡢ࡞࠸ศ㔝࡟ࡣࠊᶒ฼௨እࡢἲⓗ࢔

ࣉ࣮ࣟࢳࡀ⏕ࡲࢀ࡞࠸ࡋࠊᶒ฼ࡢ㝈⏺ࢆඞ᭹ࡍࡿ࢔ࣉ࣮ࣟࢳࡶ⏕ࡲࢀ࡞࠸ࠋࡓࡔࠊᮏ✏ࡀࠕAIࡢ࢔ࣝࢦ

ࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡟ࡘ࠸࡚┤᥋ㄒࡿࡢࡣᮏ✏ࡢࡎࡗ࡜ᚋ࡛࠶ࡿࠋࡑࢀࡲ࡛ࡇࡢᶒ฼࡜஫࠸

࡟ᨭ࠼ྜ࠺ᵝࠎ࡞ἲⓗᛮ⪃ࡢ⿦⨨ࢆ⤂௓ࡍࡿࠋ

2 ᪥ᮏࡢἲไᗘ࡜࢔ࣝࢦࣜࢬ࣒

2-1 ಶே᝟ሗಖㆤἲࡣAI࡜࢔ࣝࢦࣜࢬ࣒ࢆつไࡍࡿ࠿

ᶵᲔᏛ⩦ࢆࡍࡿ

AI

AI

ࡢ᭦᪂ࢆ

AI

AI

࡜࠸࠺ᢏ⾡ࡀ☜❧ࡋ࡚ࡶࠊࣅࢵࢢࢹ࣮ࢱࡀ࡞ࡅࢀࡤ

AI

AI

࡞࠸ࠋࣅࢵࢢࢹ࣮ࢱ࡟ࡣಶேࢹ࣮ࢱࡀྵࡲࢀࡿࠋ࡛ࡣࠊ᪥ᮏࡢಶே᝟ሗಖㆤἲࡣ

AI

࡚࠸ࡿࡢࡔࢁ࠺࠿ࠋ

ಶே᝟ሗಖㆤἲࡣ

AI

ࢹ࣮ࢱࢆྲྀᢅ࠺᪉ἲࢆつᐃࡋ࡚ࠊ

AI

2015

࡜ࡀྍ⬟࡟࡞ࡗࡓࠋࠕ༏ྡຍᕤ᝟ሗࠖࡣࠕ≉ᐃࡢಶேࢆ㆑ูࡍࡿࡇ࡜ࡀ࡛ࡁ࡞࠸ࡼ࠺࡟ಶே᝟ሗࢆຍᕤࡋ

࡚ᚓࡽࢀࡿಶே࡟㛵ࡍࡿ᝟ሗ࡛࠶ࡗ࡚ࠊᙜヱಶே᝟ሗࢆ᚟ඖࡍࡿࡇ࡜ࡀ࡛ࡁ࡞࠸ࡼ࠺࡟ࡋࡓࡶࡢࠖ࡜ᐃ

⩏ࡉࢀ࡚࠸ࡿ㸦2᮲

9

ྕࡢ඲࡚ࢆ๐㝖ࡍࡿ࠿ࠊࡲࡓࡣࡇࢀࡽࢆ௚ࡢグ㏙࡟⨨ࡁ᥮࠼ࡿࡇ࡜ࡀつᐃࡉࢀ࡚࠸ࡿ㸦2᮲

9

1

2

AI

࡛ࡁࡿ࡜࠸ࢃࢀ࡚࠸ࡿ⁴⁾ࠋࡇࡢྍ⬟ᛶࢆᠱᛕࡋࡓࡢ࠿ࠊᮏேࢆ㆑ูࡍࡿࡓࡵ࡟༏ྡຍᕤ᝟ሗࢆ௚ࡢ᝟ሗ࡜

↷ྜࡍࡿ㆑ู⾜Ⅽࡀ༏ྡຍᕤ᝟ሗྲྀᢅ஦ᴗ⪅࡟ᑐࡋ࡚⚗Ṇࡉࢀ࡚࠸ࡿ㸦36᮲

5

༏ྡຍᕤ᝟ሗྲྀᢅ஦ᴗ⪅ࡣࡇࡢ㆑ู⾜Ⅽࢆྍ⬟࡟ࡍࡿ࢔ࣝࢦࣜࢬ࣒ࢆ

AI

᫂ᩥ໬ࡉࢀ࡚࠸࡞࠸ࡀࠊಶே᝟ሗಖㆤἲࡣ

AI

36

5

38

ሗ࡜↷ྜࡋ࡚ࠊࡇࡢಶே࡟ࡘ࠸࡚ホ౯ࡍࡿࡇ࡜ࢆ⚗Ṇࡋ࡚࠸࡞࠸ࠋࡇࡢ⚗Ṇࡀ࡞࠸ࡢࡣࠊಶே᝟ሗྲྀᢅ

஦ᴗ⪅ࡶྠᵝ࡛࠶ࡿࠋ࡛ࡣࠊࡇࡢ

AI

AI

࠺࠿ࠋ౛࠼ࡤࠊࡇࡢ࢔ࣝࢦࣜࢬ࣒ࡀ་⒪࡛౑࠺⏬ീデ᩿⏝ࡢࡶࡢ࠿ࠊᑵά࡟࠾ࡅࡿෆᐃࢆุ᩿ࡍࡿࡓࡵ

ࡢࡶࡢ࠿ࠊ⏝㏵࡟ࡼࡗ࡚࢔ࣝࢦࣜࢬ࣒࡬ࡢᮃࡲࡋ࠸ᑐᛂࡀ␗࡞ࡿࡇ࡜ࡣ⮬࡛᫂࠶ࢁ࠺ࠋࡇࡢၥ㢟࡟ࡘ࠸

࡚ࠊಶே᝟ሗಖㆤἲࡣỿ㯲ࡋ࡚࠸ࡿࠋࡑࡶࡑࡶࠊAI ࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡍࡿᚲせࡀ࠶ࡿ࠿࡜࠸࠺ၥ㢟 ࡣࠊAI ࡢ฼⏝ࡀホ౯ᑐ㇟⪅࡟࿌▱ࡉࢀ࡞ࡅࢀࡤࠊⓎ⏕ࡋ࡞࠸ࠋࡇࡢ࡝ࡕࡽࡶಶே᝟ሗಖㆤἲࡣつᐃࡋ࡚

࠸࡞࠸ࠋ

ಶே᝟ሗಖㆤἲ࡟

AI

AI

࣒ࡢෆᐜ࡜฼⏝᪉ἲ࡟ࡘ࠸࡚㐺ษ࠿࡝࠺࠿ࢆุ᩿ࡍࡿᶵ఍ࡀ࡞࠸ࠋࡶࡕࢁࢇࠊAI ࡢ࢔ࣝࢦࣜࢬ࣒ࢆ୎ᑀ

࡟ㄝ᫂ࡋ࡚ࡶࡽࡗࡓ࠿ࡽ࡜࠸ࡗ࡚ࠊࢹ࣮ࢱ୺యࡀࡑࢀࢆ⌮ゎ࡛ࡁࡿ࡜ࡣ㝈ࡽ࡞࠸ࡋࠊ῝ᒙᏛ⩦ࢆࡍࡿ

AI

᫂♧࡛ࡁࡿ௙⤌ࡳࢆἲⓗ࡟ಖ㞀ࡍࡿࡇ࡜ࡀࠊࡇࢀࡲ࡛ࡶ⾜ࢃࢀ࡚ࡁࡓࠋ⾜ᨻᡭ⥆ἲࡸྛ✀ࡢッゴἲࡣࡑ ࡢ඾ᆺ࡛࠶ࡿࠋAI࡟ࡘ࠸࡚ࡶࡇࡢࡼ࠺࡞㓄៖ࡀᚲせ࡛࠶ࡿࠋ

ࢹ࣮ࢱ୺యࡀᥦฟࡋࡓಶே᝟ሗࢆ

AI

AI

AI

࢓࢖ࣜࣥࢢࢆ᫂ᩥ໬ࡋ࡚࠸࡞࠸ࡀࠊ17᮲

2

ࡿせ㓄៖᝟ሗࡢࠕྲྀᚓࠖ࡟ࣉࣟࣇ࢓࢖ࣜࣥࢢࡀヱᙜࡍࡿ࡜ㄞࡳ㎸ࡴᏛㄝࡀᏑᅾࡍࡿ⁵⁾ࠋࡇࡢࡼ࠺࡞㋃ࡳ㎸

ࢇࡔゎ㔘ࢆࡋ࡚ࡶࠊࡇࡢゎ㔘࠿ࡽࡣࠊAIࢆ౑ࡗࡓࣉࣟࣇ࢓࢖ࣜࣥࢢ࡟క࠺࢔ࣝࢦࣜࢬ࣒ࡢㄝ᫂ࡢ᫝㠀࡟

ࡘ࠸࡚ࠊ⌧ᅾࡢಶே᝟ሗಖㆤἲࢆ᰿ᣐ࡜ࡍࡿつไࡢྍྰࢆㄽࡌࡿవᆅࡣⓎ⏕ࡋ࡞࠸ࡼ࠺࡟ᛮࢃࢀࡿࠋ

28

2018㸦ᖹᡂ 30㸧ᖺ 12

19

୰㛫ሗ࿌᭩࡜ࡋ࡚ࠕࣉࣟࣇ࢓࢖ࣜࣥࢢ࡟㛵ࡍࡿᥦゝ᱌ࠖ⁶⁾ ࢆබ⾲ࡋࡓࠋࡇࡢ᭱⤊ሗ࿌᭩ࡣ

2019㸦௧࿴ඖ㸧

ࣜ࢝ἲࡢᙳ㡪ࢆཷࡅࠊAI ࡟ࡼࡿࣉࣟࣇ࢓࢖ࣜࣥࢢࡀ࢔ࣝࢦࣜࢬ࣒࡟ࡼࡗ࡚⾜ࢃࢀࡿࡇ࡜ࢆ᫂☜࡟ព㆑ࡋ

࡚࠾ࡾࠊ࢔ࣝࢦࣜࢬ࣒࡬ࡢゝཬࡀᗄᗘࡶ⾜ࢃࢀ࡚࠸ࡿࡀࠊ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿ┤᥋ࡢつไ࡟ࡣゐࢀ࡚

࠸࡞࠸ࠋࡇࡢ୰㛫ሗ࿌ࡀ࢔ࣝࢦࣜࢬ࣒ࢆᶒ฼ࡢほⅬ࠿ࡽつไࡍࡿ࢔ࣉ࣮ࣟࢳࢆྲྀࡽ࡞࠿ࡗࡓࡢࡣࠊࠕ⾜Ⅽ

࣮࣋ࢫࡢつᚊ㸦⾜Ⅽ⤫ไᆺつᚊ㸧࠿ࡽ࢞ࣂࢼࣥࢫ࣭࣮࣋ࢫࡢつᚊ㸦ᵓ㐀⤫ไᆺつᚊ㸧࡬ࠖ⁷⁾࡜࠸࠺ၥ㢟ព

㆑ࡀ࠶ࡗࡓ࠿ࡽࡔ࡜ᛮࢃࢀࡿࠋ᭱⤊ሗ࿌᭩ࡣಶே᝟ሗಖㆤἲࡢᨵṇ࡟኱ࡁ࡞ᙳ㡪ࢆ୚࠼ࡿ࡜ᛮࢃࢀࡿࠋ

୍᪉ࠊ2019㸦ᖹᡂ

31㸧ᖺ 4

25

3

2-2 AI࡜࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿ᪥ᮏࡢࢯࣇࢺ࣮ࣟ

ෆ㛶ᗓࡢ⤫ྜ࢖ࣀ࣮࣋ࢩࣙࣥᡓ␎᥎㐍఍㆟ࡣࠊࠕே㛫୰ᚰࡢ

AI

ᚰࡢ

AI

3

29

AI

ࡿ♫఍(Diversity & Inclusion)ࠖࠕᣢ⥆ᛶ࠶ࡿ♫఍(Sustainability)ࠖࢆᇶᮏ⌮ᛕ࡜ࡋ࡚࠸ࡿࠋࠕே㛫୰ᚰࡢ

AI

♫఍ཎ๎ࠖࡣࠕAI ♫఍ཎ๎ࠖ࡜ࠕAI 㛤Ⓨ฼⏝ཎ๎࡛ࠖᵓᡂࡉࢀࠊ๓⪅ࡣ♫఍ࡸᅜࡀ␃ពࡍ࡭ࡁཎ๎࡛ࠊ ᚋ⪅ࡣ㛤Ⓨ࣭஦ᴗ⪅ࡀ␃ពࡍ࡭ࡁཎ๎࡜ࡉࢀ࡚࠸ࡿࠋࠕAI ♫఍ཎ๎ࠖࡣࠕே㛫୰ᚰࡢཎ๎ࠖࠕᩍ⫱࣭ࣜࢸ

ࣛࢩ࣮ࡢཎ๎ࠖࠕࣉࣛ࢖ࣂࢩ࣮☜ಖࡢཎ๎ࠖࠕࢭ࢟ࣗࣜࢸ࢕☜ಖࡢཎ๎ࠖࠕබṇ➇த☜ಖࡢཎ๎ࠖࠕබᖹᛶࠊ ㄝ᫂㈐௵ཬࡧ㏱᫂ᛶࡢཎ๎ࠖࠕ࢖ࣀ࣮࣋ࢩࣙࣥࡢཎ๎࡛ࠖᵓᡂࡉࢀࡿࠋࠕAI 㛤Ⓨ฼⏝ཎ๎ࠖࡣࠊୖグࡢᇶ ᮏ⌮ᛕ࡜ࠕAI ♫఍ཎ๎ࠖࢆ㋃ࡲ࠼࡚ᐃࡵࡿࡶࡢ࡜ࡉࢀࠊࠕ᪩ᛴ࡟࣮࢜ࣉࣥ࡞㆟ㄽࢆ㏻ࡌ࡚ᅜ㝿ⓗ࡞ࢥࣥ

ࢭࣥࢧࢫࢆ㔊ᡂࡋࠊ㠀つไⓗ࡛㠀ᣊ᮰ⓗ࡞ᯟ⤌ࡳ࡜ࡋ࡚ᅜ㝿ⓗ࡟ඹ᭷ࡉࢀࡿࡇ࡜ࡀ㔜せ࡛࠶ࡿࠖ࡜つᐃ ࡉࢀ࡚࠸ࡿࠋᐇ㝿࡟ࠊࠕே㛫୰ᚰࡢ

AI

OECD

AI

࠾ࡾࠊ୧⪅ࡢつ⠊ᵓ㐀࡟኱ᕪࡣ࡞ࡃࠊࠕே㛫୰ᚰࡢ

AI

OECD

AI

ࡿࠋࡇࢀࡣ୺せᅜࡀ

OECD

EU

AI

ෆ㛶ᗓࡢࠕே㛫୰ᚰࡢ

AI

ࡉࢀࡿࠖࡶࡢ࡜ࡋ࡚ᵓ᝿ࡉࢀ࡚࠸ࡿࠋࡇࢀࡣ

AI

AI

㏻࡛࡞ࡅࢀࡤព࿡ࡀ࡞࠸ࠋࠕ㠀つไⓗ࡛㠀ᣊ᮰ⓗ࡞ᯟ⤌ࡳࠖ࡜࠸ࡗ࡚ࡶࠊࡇࢀࢆ㑂Ᏺࡋ࡞࠸

AI

฼⏝ࡀලయⓗ࡞ᶒ฼౵ᐖࡸ฼┈౵ᐖࢆⓎ⏕ࡉࡏࡿሙྜࡀ࠶ࡾ࠺ࡿࠋ᭦࡟⫢ᚰ࡞ࡇ࡜ࡣࠊࡇࢀࢆ㑂Ᏺࡋ࡚

ࡶᶒ฼౵ᐖࡸ฼┈౵ᐖ࡜ࡋ࠿ᛮ࠼࡞࠸ࡇ࡜ࡀⓎ⏕ࡍࡿሙྜࡀ࠶ࡾ࠺ࡿࡇ࡜࡛࠶ࡿࠋᮏ✏ࡣࡇࡢၥ㢟࡟ᑐ ᛂࡍࡿほⅬ࠿ࡽࠊᮏ✏ࡢ᭱⤊㒊ศ࡛ࠊAIࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠼࡞࠸ࡇ࡜ࡀἲⓗ฼┈ࡢ౵ᐖ࡟

࡞ࡾࠊᶒ฼౵ᐖ࡟࡞ࡿሙྜࡀ࠶ࡿࡇ࡜ࢆㄽࡌࡿࠋ

ෆ㛶ᗓࡢࠕே㛫୰ᚰࡢ

AI

AI

AI

ࡿ࡜ᛮࢃࢀࡿࠋ

⥲ົ┬᝟ሗ㏻ಙᨻ⟇◊✲ᡤࡣࠕAIࢿࢵࢺ࣮࣡ࢡ♫఍᥎㐍఍㆟ሗ࿌᭩

2019ࠖ㸦௨ୗࠊ

2019ࠖ㸧ࢆ

2019㸦௧࿴ඖ㸧ᖺ 8

9

ࡢ࡛ࠊࠕAI฼ά⏝࢞࢖ࢻࣛ࢖ࣥࠖࢆ♧ࡋ࡚࠸ࡿࠋࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡣࠊࠕAI฼ά⏝ཎ๎ࠖࢆᐇ⌧ࡍࡿࡓࡵ

࡟ㅮࡎ࡭ࡁᥐ⨨ࢆゎㄝࡋ࡚࠸ࡿࠋAI ฼ά⏝ཎ๎ࡢᇶᮏ⌮ᛕࡢ୍ࡘ࡜ࡋ࡚ࠕே㛫ࡢᑛཝ࡜ಶேࡢ⮬ᚊࡀᑛ 㔜ࡉࢀࡿே㛫୰ᚰࡢ♫఍ࢆᐇ⌧ࡍࡿࡇ࡜ࠖࡀᣲࡆࡽࢀ࡚࠸ࡿࠋࡇࡢ⌮ᛕࡣᚋ㏙ࡍࡿ

EU

AI

AI

๎ࠊϼࢭ࢟ࣗࣜࢸ࢕ࡢཎ๎ࠊϽࣉࣛ࢖ࣂࢩ࣮ࡢཎ๎ࠊϾᑛཝ࣭⮬ᚊࡢཎ๎ࠊϿබᖹᛶࡢཎ๎ࠊЀ㏱᫂ᛶ ࡢཎ๎ࠊЁ࢔࢝࢘ࣥࢱࣅࣜࢸ࢕ࡢཎ๎ࠋࡇࡢ࠺ࡕࠊϹࡣ

AI

࡟ࡼࡗ࡚ࠊ

AI

AI

࡜࠸࠺Ⅼ࡛ࡣϾ࠿ࡽЁࡣ࠸ࡎࢀࡶ㔜せ࡞ཎ๎࡛࠶ࡿࠋྛཎ๎ࡣ┦஫࡟㛵㐃ࡋ࡚࠸ࡿࠋ≉࡟ࠊϾࡣ᠇ἲ

13

ࡉ࡚ࠊୖグࡢࠕሗ࿌᭩

2019ࠖࡣࠕϿබᖹᛶࡢཎ๎ࠖࡢㄽⅬ࡜ࡋ࡚ࠕ࢔ࣝࢦࣜࢬ࣒࡟ࡼࡿࣂ࢖࢔ࢫ࡬ࡢ

␃ពࠖࢆᣦ᦬ࡋ࡚࠸ࡿࠋࡲࡓࠊࠕሗ࿌᭩

2019ࠖࡣࠕЀ㏱᫂ᛶࡢཎ๎ࠖࢆࠕAI

ࢪࢿࢫ฼⏝⪅ࡣࠊAI ࢩࢫࢸ࣒ཪࡣ

AI

ពࡍࡿࠖ࡜つᐃࡋ࡚࠸ࡿࠋ࢞࢖ࢻࣛ࢖ࣥࡣࠕᮏཎ๎ࡣࠊ࢔ࣝࢦࣜࢬ࣒ࠊࢯ࣮ࢫࢥ࣮ࢻࠊᏛ⩦ࢹ࣮ࢱࡢ㛤

♧ࢆ᝿ᐃࡍࡿࡶࡢ࡛ࡣ࡞࠸ࠋࡲࡓࠊᮏཎ๎ࡢゎ㔘࡟ᙜࡓࡗ࡚ࡣࠊࣉࣛ࢖ࣂࢩ࣮ࡸႠᴗ⛎ᐦ࡬ࡢ㓄៖ࡶồ

ࡵࡽࢀࡿࠖ࡜ゎㄝࡋ࡚࠸ࡿ⁸⁾ࠋࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡣ࢔ࣝࢦࣜࢬ࣒ࡢ㏱᫂ᛶࡀႠᴗ⛎ᐦ࡟ࡼࡗ࡚ไ㝈ࡉࢀࡿ

ࡇ࡜ࢆᐜㄆࡋ࡚࠸ࡿࠋࡋ࠿ࡋࠊࡇࡢཎ๎ࡣ࢔ࣝࢦࣜࢬ࣒ࡢ㛤♧ࢆ⚗Ṇࡋ࡚࠸ࡿࢃࡅ࡛ࡣ࡞࠸ࠋࡲࡓࠊAI ࡢண ࣭ㄆ㆑ࣉࣟࢭࢫࡀࣈࣛࢵࢡ࣎ࢵࢡࢫ໬ࡋ࡚࠸ࡿ࢔ࣝࢦࣜࢬ࣒ࢆ㛤♧ࡋ࡚ࡶࠊ⤖ᯝ࡟ᑐࡍࡿ༑ศ࡞

ㄝ᫂࡟ࡣ࡞ࡽ࡞࠸ࠋ࢞࢖ࢻࣛ࢖ࣥࡣࡇࡢⅬࢆ㓄៖ࡋ࡚ࠕAIࡢุ᩿⤖ᯝࡢㄝ᫂ྍ⬟ᛶࢆ☜ಖࡍࡿࡇ࡜ࠖࢆ

┠ᣦࡋ࡚࠸ࡿ⁹⁾ࠋࡇࡢࠕㄝ᫂ྍ⬟ᛶࠖࡢᑐ㇟࡜ࡋ࡚࢔ࣝࢦࣜࢬ࣒ࡢㄝ᫂ࡀ᳨ウㄢ㢟࡟࡞ࡿ࡜ᛮࢃࢀࡿࠋ ࠕAI฼ά⏝ཎ๎ࠖ࡟ࡶᙉไຊࡀ࡞࠸ࠋࡋ࠿ࡋࠊAI࡜ேࡢከᵝ࡞㛵ಀࢆ୍ᚊ࡟つᐃࡍࡿලయⓗ࡛㐺ษ࡞

࣮ࣝࣝࡀぢࡘ࠿ࡽ࡞࠸≧ἣ࡟࠾࠸࡚ࠊᙉไຊࡢ࡞࠸つไࢆ᥇⏝ࡍࡿࡇ࡜ࡣᴟࡵ࡚㈼࡛᫂࠶ࡿࠋ

3 EU࡜࢔ࣝࢦࣜࢬ࣒

3-1 ୍⯡ࢹ࣮ࢱಖㆤつ๎㸦GDPR㸧

EU

2018

5

GDPR㸧

ᅜࡢಶேࢹ࣮ࢱಖㆤἲࡀ

GDPR

GDPR

GDPR

࡚┤᥋ࡢつᐃࡀ࡞࠸ࡀࠊ

EU

29

ᛮỴᐃཬࡧࣉࣟࣇ࢓࢖ࣜࣥࢢ࡟㛵ࡍࡿつ๎┠ⓗࡢࡓࡵࡢ࢞࢖ࢻࣛ࢖ࣥࠖ¹³⁾ࢆ

2018

2

6

GDPR

AI

AI

GDPR

5

ࢆ⩏ົ࡙ࡅ࡚࠸ࡿࠋࡲࡓࠊGDPRࡣࠊಶேࢹ࣮ࢱࡢྲྀᚓࡀᮏே㸦personne concernée㸧࠿ࡽ࡛ࡶ㸦13᮲

2

f

2

g

࠿ࡘ㏱᫂࡞ฎ⌮ࢆಖ㞀ࡍࡿࡓࡵ࡟ᚲせ࡞᝟ሗࠖࢆᮏே࡟ᥦ౪ࡍࡿࡇ࡜ࢆ⩏ົ࡙ࡅ࡚࠸ࡿࠋࡇࡢ᝟ሗࡢ୍

ࡘ࡟ࠊࠕࣉࣟࣇ࢓࢖ࣜࣥࢢࢆྵࡴ⮬ື໬ࡉࢀࡓỴᐃࡢᏑᅾࠖ࡟㛵ࡍࡿ᝟ሗࡀ࠶ࡾࠊ⮬ື໬ࡉࢀࡓỴᐃࢆ⾜

࠺ሙྜ࡟ࡣࠊࠕ᰿ᗏ࡟࠶ࡿㄽ⌮㸦logique sous-jacente㸧࡟㛵ࡍࡿ᭷┈࡞᝟ሗࠖ࡜ࠕฎ⌮ࡢ㔜せᛶཬࡧண᝿ࡉ

ࢀࡿ⤖ᯝࠖࡀᮏே࡟ᥦ౪ࡉࢀࡿࠋ

ࡇࢀࡽࡢつᐃࢆ๓ᥦ࡜ࡋ࡚ࠊGDPRࡣ

22

1

ࢆḟࡢࡼ࠺࡟つᐃࡋ࡚࠸ࡿࠋ

GDPR 22

1

Ỵᐃࡢ࠺ࡕࠊἲⓗຠᯝཪࡣྠ➼ࡢ㔜኱࡞ᙳ㡪ࢆ⮬ศ⮬㌟࡟ࡶࡓࡽࡍࡶࡢ࡟᭹ࡉ࡞࠸ᶒ฼ࢆࡶࡘࠋࠖ

࡞࠾ࠊୖグつᐃࡢࠕ⮬ືฎ⌮ࠖ࡟࠸࠺ࠕฎ⌮(traitement)ࠖࡣ᪥ᮏࡢಶே᝟ሗಖㆤἲ࡛つᐃࡍࡿಶேࢹ࣮

ࢱࡢࠕྲྀᢅ࠸ࠖ࡟┦ᙜࡍࡿࠋࡲࡓࠊ⮬ືฎ⌮ࡢ୍ࡘ࡜ࡋ࡚౛♧ࡉࢀ࡚࠸ࡿࠕࣉࣟࣇ࢓࢖ࣜࣥࢢࠖࡣࠊ

GDPR4

1

4

῭≧ἣࠊ೺ᗣࠊಶேⓗႴዲࠊ㛵ᚰࠊಙ㢗ᛶࠊ⾜ືࠊ఩⨨ཪࡣ⛣ືࠊ࡟㛵ࡍࡿഃ㠃ࢆศᯒཪࡣண ࡍࡿࡓ

ࡵ࡟ಶேࢹ࣮ࢱࢆ฼⏝ࡍࡿࡇ࡜ࢆ࠸࠺ࠖ࡜ᐃ⩏ࡉࢀ࡚࠸ࡿ^{16) 17)}ࠋ

ࡓࡔࡋࠊ

GDPR22

୺య࡜ࢹ࣮ࢱ⟶⌮⪅㛫ࡢࠕዎ⣙ࡢ⥾⤖ཪࡣᒚ⾜࡟ᚲせ࡞ሙྜࠖ㸦2㡯

a

GDPR

22

☜ಖࡍࡿࡓࡵࡢᶒ฼࡛࠶ࡿࠋୖグࡢ࢞࢖ࢻࣛ࢖ࣥࡣ

22

ࢆࠊ⡆༢࡛ഇࡾࡢ࡞࠸᪉ἲ(simple ways)࡛ᮏே࡟ㄝ᫂ࡍࡿࡇ࡜ࢆồࡵ࡚࠸ࡿࠋ࢞࢖ࢻࣛ࢖ࣥ࡟ࡼࡿ࡜ࠊ࢔

ࣝࢦࣜࢬ࣒࡟ࡘ࠸࡚ࡢ」㞧࡞ㄝ᫂ࡸࠊ࢔ࣝࢦࣜࢬ࣒ࢆ᏶඲࡟බ㛤ࡍࡿࡇ࡜ࡣᚲࡎࡋࡶᚲせ࡛ࡣ࡞࠸࡜ࡉ

ࢀࠊ15᮲

1

comprehensive)ࠖ࡟⾜ࢃࢀࡿࡇ࡜ࡀồࡵࡽࢀ࡚࠸ࡿࠋࢹ࣮ࢱ୺య࡟ᥦ౪ࡉࢀࡿࠕ᰿ᗏ࡟࠶ࡿㄽ⌮㸦logique

sous-jacente㸧

GDPR

ࢻࣛ࢖ࣥ࡟ࡶ᫂☜࡟ࡣ᭩࠿ࢀ࡚࠸࡞࠸ࠋ

ࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡀ┠ᣦࡍࡇ࡜ࡣ

AI

࡛࠶ࡿࠋㄽᣐ࡜ᇶ‽ࡀ᫂☜࡟࡞ࢀࡤࠊGDPR 22᮲

1

ࡢ㞴ࡋ࠸஦౛࡟ࡘ࠸࡚ࡶࠊỴᐃࡑࡢࡶࡢ࡬ࡢᐈほⓗ࡞ホ౯ࡀྍ⬟࡟࡞ࡿࠋࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡣ࢔ࣝࢦࣜ

ࢬ࣒࡟ᑐࡍࡿ⌮ゎࡀᐜ࡛᫆ࡣ࡞࠸ࡇ࡜࡟㓄៖ࡋ࡚ࠊ࢔ࣝࢦࣜࢬ࣒ࢆṇ☜࡟ゎࡾࡸࡍࡃㄝ᫂ࡍࡿࡇ࡜ࢆồ

ࡵ࡚࠸ࡿࠋGDPRࡣ

AI

AI

࡟౑ࡗࡓㄽ⌮ࡶྵࡵ࡚ᮏே࡟⌮ゎࡉࡏࡼ࠺࡜ࡋ࡚࠸ࡿࠋGDPRࡣ

AI

ࣥࢢࢆ᝿ᐃࡋ࡚࠸ࡿࡀࠊࣉࣟࣇ࢓࢖ࣜࣥࢢࢆࡋࡓ⪅ࡀ┦ᡭ࡟⤖ᯝࡢ⌮⏤ࢆㄝ᫂ࡍࡿ㝿ࠊAI ࡢ࢔ࣝࢦࣜࢬ

࣒࡜ࡑࢀ௨እࡢㄽ⌮ࢆ࡝ࡢࡼ࠺࡟㛵㐃࡙ࡅ࡚ㄝ᫂ࡍࡿࡢࡔࢁ࠺࠿ࠋAI ࡀ⮬ࡽฟࡋࡓ⤖ㄽ࡟ࡘ࠸࡚⌮⏤ࢆ

♧ࡏ࡞ࡃ࡚ࡶࠊAI ࡢ฼⏝⪅ࡀࡑࡢ⤖ㄽࢆᨭᣢࡍࡿሙྜࠊ࡝ࡢࡼ࠺࡞ㄝ᫂ࢆࡍࡿࡢࡔࢁ࠺࠿ࠋࡇࡢㄝ᫂ࡣ ᚲࡎࡋࡶᐜ࡛᫆ࡣ࡞࠸ࠋGDPR ࡢ 22 ᮲࡟ࡘ࠸࡚ࠊAI ࡢ౑⏝ࢆㄝ᫂ࡍࡿࡔࡅ࡛ࡣ࢔ࣝࢦࣜࢬ࣒࡟ࡼࡿ༴

ᐖ࡟ᑐࡋ࡚᏶⎍࡞ᩆ῭ࢆ୚࠼ࡿࡇ࡜ࡀ࡛ࡁ࡞࠸࡜࠸࠺ᢈุࡀ࠶ࡿ¹⁸⁾ࠋ

ࡉ࡚ࠊ࢔ࣝࢦࣜࢬ࣒࡟ࡘ࠸࡚

GDPR

࡛ホ౯ࡉࢀࡓ⪅ࡀ

AI

GDPR

GDPR

ࣝࢦࣜࢬ࣒࡟ᑐࡋ࡚ᙉไຊࢆక࠺つไࢆᶍ⣴ࡍࡿ࡜ࠊࡇࡢ࡝ࡕࡽ࠿ࡢゎ㔘ࡀ⪃࠼ࡽࢀࡿࠋࡋ࠿ࡋࠊ

GDPR

GDPR

࢖ࣥ࡜ࡢ⤌ࡳྜࢃࡏ࡛࢔ࣝࢦࣜࢬ࣒ࡀᙉไຊࡢ࡞࠸つไ᪉ἲࠊ࠸ࢃࡺࡿࢯࣇࢺ࣮ࣟ࡟ࡼࡿつไࢆつᐃࡋ

࡚࠸ࡿࡇ࡜࡟࡞ࡿࠋࡇࡢၥ㢟࡟ࡘ࠸࡚ࡣ

3-3

3-2 ಙ㢗࡛ࡁࡿAIࡢࡓࡵࡢ೔⌮࢞࢖ࢻࣛ࢖ࣥ

EU

l’intelligence artificielleࠊ␎⛠ GEHN IA)ࡣࠊ2019

4

8

AI

ࣥ(Lignes directrices en matiere d’ethique pour une IA digne de confiance)ࠖࢆබ⾲ࡋࡓࠋGDPRࢆ๓ᥦ࡜ࡋࡓ ࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡀ࢔ࣝࢦࣜࢬ࣒࡟ࡘ࠸࡚࡝ࡢࡼ࠺࡟⪃࠼࡚࠸ࡿ࠿ࢆ᥈ࡗ࡚ࡳࡼ࠺ࠋ

ࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡣಙ㢗࡛ࡁࡿ

AI

ࢆせồࡋ࡚࠸ࡿࠋࡇࡇ࡟࠸࠺ྜἲᛶࡣ

EU

EU

GDPR

➼ࡢࡑࡢ௚ࡢ

EU

⾡ⓗ࡟ࡶ♫఍ⓗ࡟ࡶ೺඲࡞

AI

⌮ཎ๎ࢆ♧ࡋࠊḟ࡟ࡇࢀࡽࢆ‶ࡓࡍࡓࡵࡢ୐ࡘࡢせ௳ࢆ♧ࡋࡓࠋ

ᅄࡘࡢ೔⌮ཎ๎ࡣḟࡢ㏻ࡾ࡛࠶ࡿࠋϸࠕே㛫ࡢ⮬ᚊ࡬ࡢᑛ㔜㸦respect de l’autonomie humaine㸧ࠖࠊϹࠕ༴

ᐖ㜵Ṇ㸦prévention de toute atteinte㸧ࠖࠊϺࠕබṇ㸦équité㸧ࠖࠊϻࠕㄝ᫂ྍ⬟ᛶ(explicabilité)ࠖࠋ

೔⌮ཎ๎ࢆ‶ࡓࡍࡓࡵࡢ୐ࡘࡢせ௳ࡣḟࡢ㏻ࡾ࡛࠶ࡿࠋϸࠕேⓗ㛵୚࡜ேⓗ┘ど㸦action humaine et

contrôle humain㸧

࣮࡜ࢹ࣮ࢱ࢞ࣂࢼࣥࢫ㸦respect de la vie privée et gouvernance des données㸧ࠖࠊϻࠕ㏱᫂ᛶ㸦transparence㸧ࠖࠊ ϼࠕከᵝᛶࠊ⿕ᕪู࡜බṇ㸦diversité, non-discrimination et équité㸧ࠖࠊϽࠕ♫఍ⓗ࠿ࡘ⎔ቃⓗᖾ⚟㸦bien-être

sociétal et environnemental㸧

ࠕ㏱᫂ᛶࠖࡢせ௳ࡣࠕ㏣㊧ྍ⬟ᛶࠊㄝ᫂ྍ⬟ᛶࠊࢥ࣑ࣗࢽࢣ࣮ࢩࣙࣥࢆྵࡴࠖ࡜ㄝ᫂ࡉࢀ࡚࠸ࡿࠋࡇ ࡢࠕࢥ࣑ࣗࢽࢣ࣮ࢩࣙࣥࠖࡣ

AI

AI

ࢆಖ㞀ࡍࡿࠋࡲࡓࠊࠕㄝ᫂㈐௵ࠖࡣḟࡢࡼ࠺࡟ㄝ᫂ࡉࢀ࡚࠸ࡿࠋㄝ᫂㈐௵ࡣࠕ┘ᰝྍ⬟ᛶࠊ㈇ࡢᙳ㡪ࢆ᭱

ᑠ㝈࡟๐ῶࡍࡿࡇ࡜ࠊᮏே࡟ᑐࡍࡿ௰⿢ཬࡧதゴࡢ㏻▱ࠊࢆྵࡴࠋࠖ²⁰⁾ࠕ┘ᰝྍ⬟ᛶࡣ࢔ࣝࢦࣜࢬ࣒ࠊࢹ

࣮ࢱࠊタィ㐣⛬ࢆホ౯ࡍࡿྍ⬟ᛶࢆព࿡ࡍࡿࠋࠖ²¹⁾ࠋࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡀㄝ᫂㈐௵ࢆᯝࡓࡍᡭẁ࡜ࡋ࡚࢔

ࣝࢦࣜࢬ࣒ࡢ┘ᰝࢆᥦ᱌ࡋ࡚࠸ࡿࡇ࡜ࡣὀ┠࡟್ࡍࡿࠋ࢔ࣝࢦࣜࢬ࣒ࡣ௻ᴗ⛎ᐦ➼ࡢ⌮⏤࡛▱ⓗ㈈⏘࡜

ࡋ࡚㛤♧ࢆᣄྰࡉࢀࡿ᫬ࡀ࠶ࡿࡀࠊࡇࡢ࢞࢖ࢻࣛ࢖ࣥ࡟ᚑ࠺࡜ࠊ࢔ࣝࢦࣜࢬ࣒ࡣෆᐜḟ➨࡛┘ᰝ࡟ࡼࡾ

೔⌮࡟཯ࡍࡿࡶࡢ࡜ㄆᐃࡉࢀࡿྍ⬟ᛶࡀ࠶ࡿࠋ

ࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡣࠊ⌧ᅾࡲࡓࡣᮍ᮶ࡢᨻ⟇ࡸつ๎࡟௦ࢃࡿࡶࡢ࡛ࡣ࡞ࡃࠊࠕ࣮ࣚࣟࢵࣃ࡟࡜ࡗ࡚ಙ㢗

࡛ࡁࡿ

AIࠖ࡟ࡘ࠸࡚㆟ㄽࡢฟⓎⅬ࡜࡞ࡿࡇ࡜ࢆពᅗࡍࡿ࡜ࡉࢀ࡚࠸ࡿࠋࡲࡓࠊࡇࡢ࢞࢖ࢻࣛ࢖ࣥࡣࠊࣚ

࣮ࣟࢵࣃࢆ㉸࠼࡚ᆅ⌫つᶍ࡛ࠊAIࢩࢫࢸ࣒ࡢ೔⌮ⓗࣇ࣮࣒࣮ࣞ࣡ࢡ࡟ࡘ࠸࡚ࠊ◊✲ࠊ⇍៖ࠊ㆟ㄽࡀಁ㐍 ࡉࢀࡿࡇ࡜ࢆពᅗࡍࡿ࡜ࡉࢀ࡚࠸ࡿࠋ

3-3 ࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼㸦right to explanation㸧ࠖ

GDPR

࠶ࡿࠋᮏ✏ࡀࠕAIࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼࡟ࡘ࠸࡚ࠖ࡜࠸࠺ࢱ࢖ࢺ࡛ࣝ㆟ㄽࢆ㐍ࡵࡿࡢࡶࠊ ࡇࡢ㆟ㄽࡢᙳ㡪࡛࠶ࡿࠋ

AI

᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࢆᢎㄆࡍࡿ㆟ㄽࡀ࠶ࡿ²²⁾୍᪉࡛ࠊࡇࡢᶒ฼ᴫᛕࡀ᭕᫕ࡔ࡜࠸࠺ᢈุࡶ࠶ࡿ²³⁾ࠋࡇࡢ ᢈุࡇࡑࡀࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡢᛶ㉁ࢆṇ☜࡟⾲⌧ࡋ࡚࠾ࡾࠊࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࢆṇ㠃࠿ࡽྰ

ᐃࡋ࡞࠸ࡶࡢࡢࠊࡇࡢᶒ฼ᴫᛕࢆ㏣ồࡍࡿࡇ࡜࡟ᐇ┈ࢆぢ࡞࠸ㄽ⪅ࡀከ࠸࡜ᛮࢃࢀࡿࠋAIࡢุ᩿࡟ே㛫 ࡀ୙ᙜ࡟ᨭ㓄ࡉࢀ࡞࠸ࡓࡵ࡟ࠊAIࡢ฼⏝࡟ࡘ࠸࡚㏱᫂ᛶࢆ☜ಖࡋ࡚ㄝ᫂㈐௵ࢆᯝࡓࡋࠊ⤖ᯝⓗ࡟බṇ࡞

♫఍ࢆᐇ⌧ࡍࡿࡇ࡜ࡀࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡢ┠ⓗ࡛࠶ࡿࠋࡇࡢ┠ⓗࢆ㐩ᡂࡍࡿᡭẁࡀ

GDPR

ࡶつᐃࡉࢀ࡚࠸ࡿࡢ࡛࠶ࢀࡤࠊࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡟ࡇࡔࢃࡿᚲせࡣ࡞࠸ࠊ࡜࠸࠺ࡢࡀࠕㄝ᫂ࡋ࡚ࡶ

ࡽ࠺ᶒ฼ࠖ࡟ᢈุⓗ࡞ㄽ⪅ࡢࢫࢱࣥࢫ࡛࠶ࡿ²⁴⁾ࠋࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡟⫯ᐃⓗ࡞ㄽ⪅ࡶࠊGDPR࡟ࡇ ࡢᶒ฼ࢆᐇ⌧ࡍࡿᡭẁࡀᗄࡘࡶつᐃࡉࢀ࡚࠸ࡿࡇ࡜ࢆᣦ᦬ࡍࡿࡇ࡜࡟⇕ᚰ࡛ࠊࡇࡢᶒ฼ࢆ⌮ㄽⓗ࡟ᵓᡂ ࡍࡿసᴗ࡟ࡣ⇕ᚰ࡛࡞࠸²⁵⁾ࠋ

ࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡣୖ㏙ࡢ

GDPR 22

1

ࢱࡢ⮬ືฎ⌮ࡢࡳ࡛Ỵᐃࡉࢀ࡞࠸ᶒ฼ࠖࢆつᐃࡋ࡚࠸ࡿࠋ⮬ືฎ⌮࡟ࡣࣉࣟࣇ࢓࢖ࣜࣥࢢࡀྵࡲࢀࡿࡢ

࡛ࠊ

EU

EU

Recital

GDPR

Recital 71

ࡢἲⓗຠຊࡶྵࡵ࡚ࠊࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࢆ

GDPR

71

ࡉࢀ࡚࠸ࡿࠋࡋ࠿ࡋࠊࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡑࡢࡶࡢࡣ

GDPR

࡜ᐦ᥋࡞㛵ಀ࡟࠶ࡿ࡜⌮ゎࡋ࡚࠸ࡿࡇ࡜࡛࠶ࡿࠋ

GDPR

฼ࠖࡣ࠸ࡽ࡞࠸࡜⪃࠼ࡿ࠿ࠊࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡣ᭕᫕ࡔ࠿ࡽ୕ࡘࡢᶒ฼࡛⿵࠺࡜⪃࠼ࡿ࠿ࠊࡲࡓࡣࠊ

ୖグࡢ୕ࡘࡢᶒ฼ࡣࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࢆ๓ᥦ࡜ࡍࡿ࡜⪃࠼ࡿ࠿ࠊ㆟ㄽࡢࢫࢱࣥࢫࡣࡇࡢࡼ࠺࡟ศ 㢮࡛ࡁࡿࠋ࡝ࡢ㆟ㄽࡶࠊGDPRࡀつᐃࡋ࡚࠸ࡿ࠿࡝࠺࠿ࡣู࡜ࡋ࡚ࠊࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡟┦ᙜࡍࡿ

⪃࠼᪉ࢆᢎㄆࡋ࡚࠸ࡿࡼ࠺࡟ᛮ࠼ࡿࠋ

ࡲࡓࠊRecital 71ࡣࠊබṇ࠿ࡘ㏱᫂࡞ࢹ࣮ࢱฎ⌮ࢆಖ㞀ࡍࡿࡓࡵ࡟ࠊ⟶⌮⪅࡟ᑐࡋ࡚ࠕಶேࢹ࣮ࢱ࡟ࡘ

࠸࡚୙ṇ☜࡞⤖ㄽࢆᑟࡃせᅉࡀಟṇࡉࢀࠊ࠿ࡘࠊㄗࡾࡢࣜࢫࢡࡀ᭱ᑠ㝈࡟࡞ࡿࡇ࡜ࢆಖ㞀ࡍࡿࡇ࡜ࠖ➼

࡟ࡘ࠸࡚ࠊࠕᢏ⾡ⓗ࠿ࡘ⤌⧊ⓗ࡛㐺ษ࡞ᑐ⟇ࠖࢆᐇ᪋ࡍࡿࡇ࡜ࢆồࡵ࡚࠸ࡿࠋࡇࡢᑐ⟇࡟࢔ࣝࢦࣜࢬ࣒࡟

ᑐࡍࡿ┘ᰝไᗘࡀྵࡲࢀ࡚࠸ࡿ࡜⪃࠼ࡽࢀ࡚࠸ࡿ²⁷⁾ࠋAI࡟ᑐࡍࡿ┘ᰝไᗘࡣࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡀ ᐇ᪋ࡉࢀ࡞࠸ሙྜ࡟㏱᫂ᛶࢆ㧗ࡵࡿ௦᭰ᥐ⨨࡟࡞ࡿࠋࡇࡢ┘ᰝไᗘ➼ࡢಶேࢹ࣮ࢱࡢ℃⏝ࢆ㜵ࡄไᗘⓗ

࡞௙⤌ࡳࡀ

GDPR

ሙ࡜ࠊ┘ᰝไᗘࡀࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡢ᭕᫕ࡉࢆ⿵࠺࡜⪃࠼ࡿ❧ሙࡀ࠶ࡿࠋ

GDPR

࡟࠾࠸࡚ࠊ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿࢹ࣮࣭ࣗࣉࣟࢭࢫ㸦algorithmic due process㸧ࠊ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿ┘

ᰝ㸦algorithmic audit㸧ࠊ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿᙳ㡪ホ౯㸦algorithmic impact assessments㸧➼ࡢᐇ᪋ࢆ㏻ࡋ

࡚ࠊ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿㄝ᫂㈐௵࡟ᑐᛂࡍࡿࡇ࡜ࡣඹ㏻ㄆ㆑࡛࠶ࡿࠋࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡀ

GDPR

࡟つᐃࡉࢀ࡚࠸ࡿ࡜ࡋ࡚ࡶࠊࡑࡢᐇ⌧࡟ࡇࢀࡽࡢ௙⤌ࡳࡀᚲせࡔ࡜⪃࠼ࡽࢀ࡚࠸ࡿࠋࡇࡢᛮ⪃ࡣᶒ฼ࡢ ᐇ⌧࡟ࡣ࢞ࣂࢼࣥࢫࡸࢩࢫࢸ࣒ࡀᚲせࡔ࡜࠸࠺Ⓨ᝿࡟ᇶ࡙࠸࡚࠸ࡿࠋ

4 ࢖ࢠࣜࢫ࡜࢔ࣝࢦࣜࢬ࣒

࢖ࢠࣜࢫࡢࢹ࣮ࢱಖㆤἲ㸦Data Protection Act 2018㸧ࡣ

EU

GDPR

ࡢᨵṇࢆཷࡅ࡚࠸ࡿࠋ࢖ࢠࣜࢫࡣୡ⏺࡛᭱ࡶཝ᱁࡟ಶேࢹ࣮ࢱࢆಖㆤࡍࡿࢹ࣮ࢱಖㆤἲࢆ

1984

EU

AI

EU

OECD

EU

ࢀࡿࠋAIࡢ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿᑐᛂࡣ௒ᚋࡶᇶᮏⓗ࡟ࡣ

EU

࢖ࢠࣜࢫ࡛ࡣ 2019ᖺ

4

1

(Centre for Data Ethics and

Innovation㸹␎⛠ CDEI)ࡀάືࢆጞࡵࡓࠋ CDEI

ࡶࡕࠊAIཬࡧࢹ࣮ࢱࢆ㥑౑ࡋࡓᢏ⾡ࡢࡓࡵ࡟᭱㐺ࡢ࢞ࣂࢼࣥࢫయไࢆⓎᒎࡉࡏࡿࡓࡵ࡟ࠊᨻᗓࡢᨻ⟇❧

᱌⪅ࠊ⏘ᴗ⏺ࠊᕷẸᅋయࠊᅜẸ࡜㐃ᦠࡍࡿࡇ࡜ࡀㄢࡉࢀ࡚࠸ࡿࠋCDEIࡢάືࡣᐁẸࡢ඲㒊㛛࡟ཬࢇ࡛࠸

ࡿࠋCDEIࡢ᭱ึࡢ௙஦ࡣᶵᲔᏛ⩦ࢆࡍࡿ

A I

2019

7

19

࡟ࡘ࠸࡚ࡑࢀࡒࢀ୰㛫ሗ࿌²⁸⁾ࢆⓎ⾲ࡋ࡚࠸ࡿࠋࡇࡢ୰㛫ሗ࿌ࡀタᐃࡋࡓ┠ᶆࡣ࢔ࣝࢦࣜࢬ࣒࡟ࡼࡿỴᐃ

ࢆබᖹࡔ࡜ಙ⏝࡛ࡁࡿ⎔ቃ࡛࠶ࡿࠋ

AI

CDEI

࠸࠺ᡭἲࢆ㑅ᢥࡋࡓࠋCDEI࡟ࡣ࢔ࣝࢦࣜࢬ࣒࡟ᑐࡍࡿᖖタࡢ┘ᰝᶵ㛵࡜࠸࠺ഃ㠃ࡀ࠶ࡿࠋCDEIࡢㄪᰝ

࡜ຓゝࡣࠊබ㛤ࡉࢀ࡚♫఍ⓗ࡟ඹ᭷ࡉࢀࡸࡍࡃࠊࡑࡢ⵳✚ࡀᙉไ࡛ࡣ࡞࠸つ⠊ࢆᙧᡂࡍࡿࠋ

5 ࢔࣓ࣜ࢝ࡢุ౛࡜࢔ࣝࢦࣜࢬ࣒

࢔࣓ࣜ࢝࡟ࡣ࢔ࣝࢦࣜࢬ࣒ࡢつไࢆ⪃࠼ࡿୖ࡛ཧ↷ࡍ࡭ࡁ㔜せ࡞ุ౛ࡀ࠶ࡿࠋࡇࢀࡣ

2016

State v. Loomis

2017

࡟ᑐࡍࡿ⿢㔞ୖ࿌ࢆㄆࡵ࡞࠿ࡗࡓࡢ࡛ࠊ☜ᐃࡋ࡚࠸ࡿࠋ㖠ࡀⓎ◙ࡉࢀࡓ⮬ື㌴ࢆ㐠㌿ࡋ࡚࠸ࡓᐜ␲࡛㐊 ᤕࡉࢀࡓ⿕࿌ேࡢ

Loomis

COMPAS㸦Correctional Offender Management Profiling for

Alternative Sanctions㸧

COMPAS

ࡿ࠿࡝࠺࠿ࡀࠊ኱ࡁ࡞தⅬ࡟࡞ࡗࡓࠋᙜ↛࡞ࡀࡽࠊ෌≢ྍ⬟ᛶ➼ࢆホ౯ࡋࡓࡢࡣ

COMPAS

࢔ࣝࢦࣜࢬ࣒࡛࠶ࡿࠋ

COMPAS

Northpointe

ἲᘐ࡬ࡢ

COMPAS

ࣜࢬ࣒ࡀண ࡋࡓ෌≢ྍ⬟ᛶ➼ࡢண ⤖ᯝ࡟ᇶ࡙࠸࡚㔞ฮࡋࡓࠋ

࢘࢕ࢫࢥࣥࢩࣥᕞ᭱㧗⿢ุᡤࡣ⤖ㄽ࡜ࡋ࡚ḟࡢࡼ࠺࡟㏙࡭࡚࠸ࡿࠋࠕࡇࡢุỴ࡛㏙࡭ࡓࡼ࠺࡟㐺ษ࡟౑

ࢃࢀࡿࡢ࡛࠶ࢀࡤࠊ᥍ッ⿢ุᡤࡀุỴ࡟࠾࠸࡚

COMPAS

ࢆ⪃៖ࡍࡿࡇ࡜ࡣ⿕࿌ேࡢࢹ࣮࣭ࣗࣉࣟࢭࢫ࡟ᑐࡍࡿᶒ฼ࢆ౵ᐖࡏࡎࠊ᥍ッ⿢ุᡤࡣᮏ௳࡟࠾࠸࡚ㄗࡗ ࡓ⿢㔞ࡢ⾜౑ࢆࡋ࡞࠿ࡗࡓࠋࠖࡇࡢุỴࡣࠊ࢔ࣝࢦࣜࢬ࣒ࢆ┤᥋ࡢᑂᰝᑐ㇟࡟ࡋ࡚࠸࡞࠸ࡀࠊ

COMPAS

ࡿࠋ

ḟ࡟ࠊุỴࡀ

COMPAS

࠿ࡽᣠࡗ࡚ࡳࡼ࠺ࠋ௨ୗࡢ⟠᮲᭩ࡁࡢෑ㢌ࡢᩘᏐࡣᮏ✏ࡀཧ↷ࡋ࡚ὀグࡋࡓ

FindLaw

ᩥࡢẁⴠ࡟᣺ࡽࢀࡓ␒ྕ࡛࠶ࡿࠋ

9 ࠕCOMPAS

ࡼࡗ࡚ᨭᣢࡉࢀࡿࡢ࡞ࡽࠊ

COMPAS

88

COMPAS

ࣥࢺࢆḟࡢࡼ࠺࡞ၥ㢟࡟㛵㐃ࡍࡿせᅉ࡜ࡋ࡚฼⏝ࡍࡿࡇ࡜ࡀ࡛ࡁࡿࠋ㸦1㸧෌≢ࣜࢫࢡࡀప࠸ࡀฮົᡤ࡟

ᣊ᮰ࡉࢀࡿ≢⨥⪅ࢆ཰┘ࡋ࡞࠸≢⨥⪅࡟ࡍࡿࡇ࡜ࠋ㸦2㸧≢⨥⪅ࡀࢥ࣑ࣗࢽࢸ࢕࡛Ᏻ඲࠿ࡘຠᯝⓗ࡟┘ど ࡉࢀࡿࡇ࡜ࡀ࡛ࡁࡿ࠿࡝࠺࠿ࢆホ౯ࡍࡿࡇ࡜ࠋ㸦3㸧ಖㆤほᐹཬࡧ┘どࡢᮇ㛫ཬࡧ᮲௳ࠊ୪ࡧ࡟㐪ἲ⾜Ⅽ

࡟ᑐࡍࡿᑐᛂࢆㄢࡍࡿࡇ࡜ࠋࠖ

98

Ỵᐃࡍࡿࡓࡵ࡟ࠊ฼⏝ࡉࢀ࡚ࡣ࡞ࡽ࡞࠸ࠋ᭦࡟ࠊࣜࢫࢡࢫࢥ࢔ࡣࠊ≢⨥⪅ࡀࢥ࣑ࣗࢽࢸ࢕࡛Ᏻ඲࠿ࡘຠ

ᯝⓗ࡟┘どࡉࢀࡿࡇ࡜ࡀ࡛ࡁࡿ࠿࡝࠺࠿ࢆỴᐃࡍࡿ㝿࡟ࠊỴᐃⓗ࡞せᅉ࡜ࡋ࡚฼⏝ࡉࢀ࡚ࡣ࡞ࡽ࡞࠸ࠋࠖ ୖグࡢ

9

88

COMPAS

COMPAS

࢔ࣝࢦࣜࢬ࣒ࡀ฼⏝ࡋ࡚࠸ࡿࢹ࣮ࢱࢆ⪃៖ࡋ࡚ࡢุ᩿ࡔࡀࠊCOMPASࡢ฼⏝࡟ࡘ࠸࡚ไ㝈ࢆタࡅࡿ୍᪉

࡛ࠊไ㝈ࢆᏲࢀࡤ฼⏝ࢆ᫝࡜ࡍࡿࡇ࡜ࡀྵពࡉࢀ࡚࠸ࡿࠋࡇࢀࡽࡢㄽ⌮ࡣ

COMPAS

⏝ࢆ㛫᥋ⓗ࡟つไࡋ࡚࠸ࡿ࡜ゝ࠼ࡿࡔࢁ࠺ࠋ≉࡟ࠊᅉᯝ㛵ಀࢆㄽ⌮ⓗ࡟ド᫂ࡋ࡚≢⨥ࡢᡂ❧ࢆุ᩿ࡍࡿ

ฮ஦ྖἲ࡟࠾࠸࡚ࡣࠊᅉᯝ㛵ಀ࡛ࡣ࡞ࡃ┦㛵㛵ಀุ࡛᩿ࡍࡿ࢔ࣝࢦࣜࢬ࣒ࢆ౑࠺

COMPAS

ࢆุ᩿ࡍࡿࡇ࡜ࡣ⌮ㄽⓗ࡟↓⌮࡛࠶ࡿ³¹⁾ࠋCOMPASࡢ࢔ࣝࢦࣜࢬ࣒ࡣࠊุ᩿㐣⛬ࡀᢏ⾡ⓗ࡟ࣈࣛࢵࢡ࣎

ࢵࢡࢫ࡛ㄝ࡛᫂ࡁ࡞࠸ࡔࡅ࡛࡞ࡃࠊ࢔ࣝࢦࣜࢬ࣒⮬యࡀ௻ᴗ⛎ᐦࢆ⌮⏤࡟ἲᘐ࡛බ㛤ࡉࢀ࡞࠸ࡢ࡛ἲⓗ

࡟ࡶࣈࣛࢵࢡ࣎ࢵࢡࢫ࡛࠶ࡿࠋࡇࡢࡼ࠺࡞࢔ࣝࢦࣜࢬ࣒࡟౫ᣐࡋࡓุỴࢆฟࡏࡤࠊุỴࡶࡲࡓ

AI

9

GDPR 22

⌮ࡢࡳ࡛Ỵᐃࡉࢀ࡞࠸ᶒ฼ࠖ࡜ඹ㏻ࡍࡿᛮ᝿ࢆྵࢇ࡛࠸ࡿࠋࡋ࠿ࡋࠊࡇࡢุỴࡣ

COMPAS

࡞࠸ࡇ࡜ࢆ๓ᥦ࡜ࡋ࡚ฟࡉࢀ࡚࠸ࡿࡀࠊࣂ࢖࢔ࢫࢆᣦ᦬ࡍࡿ◊✲ࡀⓎ⾲ࡉࢀ࡚࠸ࡿ³³⁾ࠋ

࡜ࡇࢁ࡛ࠊᅜ㝿Ꮫ఍ࡢ

ACM㸦Association for Computing Machinery㸧ࡣ♫఍ᢏ⾡ࢩࢫࢸ࣒(socio-technical systems)ࡢ FAT㸦බᖹᛶ fairness,

accountability, and

transparency㸧࡟ࡘ࠸࡚ᅜ㝿Ꮫ఍ࢆ㛤

FAT

ࡢࡀ࢔࣓ࣜ࢝ࡢ㟁Ꮚࣉࣛ࢖ࣂࢩ࣮᝟ሗࢭࣥࢱ࣮(Electronic Privacy Information Center㸹␎⛠

EPIC)࡛࠶ࡿࠋ EPIC

The Public Voice

2018

10

23

Guidelines for Artificial Intelligence)ࠖ

ᛶ࡬ࡢᶒ฼(Right to Transparency.)ࠖ࡜ࠕே㛫ࡀỴᐃࡍࡿᶒ฼(Right to Human Determination)ࠖࢆᥦၐࡋ࡚࠸

ࡿࠋࠕ㏱᫂ᛶ࡬ࡢᶒ฼ࠖࡣḟࡢࡼ࠺࡟ㄝ᫂ࡉࢀ࡚࠸ࡿࠋࠕࡍ࡭࡚ࡢಶேࡣ⮬ศ⮬㌟࡟㛵ࡋ࡚

AI

࢔ࢡࢭࢫࡀྵࡲࢀ࡚࠸ࡿࠋࠖ࢔ࣝࢦࣜࢬ࣒ࡀࡇࡢㄽ⌮(logic)࡟ྵࡲࢀࡿࡇ࡜ࡣ᫂ࡽ࠿࡛࠶ࡿࠋEPICࡣ▱ࡿ

ᶒ฼ࢆ᰿ᣐ࡟ࡋ࡚࢔ࣝࢦࣜࢬ࣒ࡢබ㛤ࢆせồࡋ࡚ࠊAIࡢ㏱᫂ᛶࢆᐇ⌧ࡋࡼ࠺࡜ࡋ࡚࠸ࡿࠋ

6 OECDࡢAIᨻ⟇࡜࢔ࣝࢦࣜࢬ࣒

2019

5

OECD

AI

OECD

࡜࿧ࡤࢀࡿ஬ࡘࡢཎ๎ࢆᥦၐࡋࡓࠋϸࠕໟᦤⓗᡂ㛗ࠊᣢ⥆ྍ⬟࡞㛤Ⓨࠊᖾ⚟(Inclusive growth, sustainable

development and well-being)ࡢཎ๎ࠖࠊϹࠕே㛫୰ᚰࡢ౯್࡜බṇ(Human-centred values and fairness)ࡢཎ๎ࠖࠊ

(Robustness, security and safety)ࡢཎ๎ࠖ

ࡿ࡜

AI

࡜࠸࠺ၥ㢟࡟┤㠃ࡍࡿࠋ

ࡇࡢ່࿌ࡣࠊ⟇ᐃࡢẁ㝵࡛᪥ᮏࡀࠕே㛫୰ᚰࡢ

AI

ཎ๎᱌ࠖ࡟ࡘ࠸᳨࡚ウࡢ⫼ᬒࡸ㆟ㄽࡢ≧ἣࢆ⤂௓ࡋ࡚࠸ࡓࡢ࡛ࠊࡇࢀࡽࡢཎ๎ࡸ࢞࢖ࢻࣛ࢖ࣥ࡜ᩚྜࡀ

࡜ࢀ࡚࠸ࡿࠋ

7 AIࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼

7-1 ࠕAIࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡢព⩏

AI

AI

AI

ࡽ࠺ࡇ࡜ࢆᶒ฼࡜ࡋ࡚ᢎㄆࡍࡿព⩏ࢆ⪃࠼࡚ࡳࡼ࠺ࠋࡇࡢព⩏ࡢ୰ᚰ࡟࡞ࡿᛮ᝿ࡣࠕே㛫ࡢᑛཝࠖࢆ☜

ಖࡍࡿ࡜࠸࠺ᛮ᝿࡛࠶ࡿࠋ

AI

ࡵࡢᛮ᝿ࡀᚲせ࡟࡞ࡿࠋࡇࡇ࠿ࡽ

AI

AI

࠺ᛮ᝿ࡣ᪥ᮏᅜ᠇ἲ࡛ࡣ

13

AI

AI

ࢆᚑࢃࡏࡿࡢࡣ༴㝤࡛࠶ࡿࠋᮏ✏ࡀࡇࢀࡲ࡛⤂௓ࡋ࡚ࡁࡓ

AI

೔⌮ⓗつ⠊࡛࠶ࡾࠊAIࡢつไࡀᙉไຊࡢ࠶ࡿἲᚊ࡟㥆ᰁࡳ࡟ࡃ࠸ࡇ࡜࡟ࡣ┦ᛂࡢ⌮⏤ࡀ࠶ࡿࠋࡇࡢព࿡

࡟࠾࠸࡚ࠊ⮬Ẹඪࡢᨵ᠇ⲡ᱌ࡀ⌧ᅾࡢ

13

ࡢ஦᝟ࢆ↓どࡋࡓࠕே࡜ࡋ࡚ᑛ㔜ࡉࢀࡿࠖ࡟ኚ᭦ࡋ࡚࠸ࡿࡢࡣࠊேᶒ↓ど࡜࠸࠺ࡔࡅ࡛࡞ࡃ

AI

13

࡛࠶ࡿࠋ

AI

ᅜ࡟ຍ࠼࡚

AI

AI

࡜࡟㈐௵ࡀ࠶ࡿ࡞ࡽࠊ

AI

AI

ࡎࠊಶูࡢ

AI

㛫ࡢᑛཝࢆ☜ಖࡍࡿࡓࡵࡢ౯್࡛࠶ࡿࠋAIࢆ౑ࢃ࡞ࡃ࡚ࡶே㛫ࡢุ᩿࡟ࡣࣂ࢖࢔ࢫࡀ࠶ࡿࠋ

AI

ࣜࢬ࣒࡟࢔ࣝࢦࣜࢬ࣒ࢆタィࡍࡿ⪅ࡢ↓ព㆑ࡢࣂ࢖࢔ࢫࡀ࠿࠿ࡿࡇ࡜ࡣᗈࡃᣦ᦬ࡉࢀ࡚ࡁࡓ³⁷⁾ࠋAIࡢ࢔

ࣝࢦࣜࢬ࣒࡟ࡘ࠸࡚ࣂ࢖࢔ࢫࡢቑᖜࢆᠱᛕࡍࡿ㆟ㄽࡀከ࠸ࡀࠊAIࡢ࢔ࣝࢦࣜࢬ࣒ࡣ௙ᵝḟ➨࡛ே㛫ࡢุ

᩿ࡢࣂ࢖࢔ࢫࢆῶᑡࡉࡏࡿࡇ࡜ࡀ࡛ࡁࡿ ³⁸⁾ࡢ࡛ࠊAI ࡣࡑࡢࡓࡵ࡟ᑟධࡉࢀࡿࡇ࡜ࡀከ࠸ࠋࡋ࠿ࡶࠊAI ࡢ࢔ࣝࢦࣜࢬ࣒࠿ࡽࣂ࢖࢔ࢫࢆ㝖ཤࡍࡿࡇ࡜ࡣ୙ྍ⬟࡛࠶ࡿ ³⁹⁾ࠋࡇࡇ࠿ࡽ࢔ࣝࢦࣜࢬ࣒ࡢබṇᛶࢆᐃᮇ

ⓗ࡟ホ౯ࡍࡿᚲせᛶࡀⓎ⏕ࡍࡿࠋබṇࡉࡀኻࢃࢀࡿ࡜ᕪูࡀ⏕ࡲࢀࡿࠋࡓࡔࡋࠊබṇࡶᕪูࡶ᫂☜࡞ᐃ

⩏ࡀᅔ㞴࡛ෆᐜࡣᩥ⬦࡟ᛂࡌ࡚ከᵝ࡛࠶ࡿࠋࡇࡢබṇᛶࢆ⥔ᣢࡍࡿࡓࡵ࡟ࠊAI ࡢ฼⏝࡟ࡘ࠸࡚ࡇࢀࡲ࡛

ࢹ࣮࣭ࣗࣉࣟࢭࢫ࡜࿧ࢇ࡛ࡁࡓ㐺ṇᡭ⥆ࡢ୍⎔࡜ࡋ࡚㏱᫂ᛶ࡜ㄝ᫂㈐௵ࡀせồࡉࢀࡿࠋࡇࡢ㐺ṇᡭ⥆࡜

࠸࠺ᛮ᝿ࡶ᪥ᮏᅜ᠇ἲࡢ

13

31

27㸧ᖺ 2

೔⌮ᣦ㔪ࠖࡶ➨

4

ᕤ▱⬟Ꮫ఍఍ဨࡣࠊேᕤ▱⬟ࡢ㛤Ⓨ࡜฼⏝࡟࠾࠸࡚ᖖ࡟බṇࡉࢆᣢࡕࠊேᕤ▱⬟ࡀே㛫♫఍࡟࠾࠸࡚୙

බᖹࡸ᱁ᕪࢆࡶࡓࡽࡍྍ⬟ᛶࡀ࠶ࡿࡇ࡜ࢆㄆ㆑ࡋࠊ㛤Ⓨ࡟࠶ࡓࡗ࡚ᕪูࢆ⾜ࢃ࡞࠸ࡼ࠺␃ពࡍࡿࠋேᕤ

▱⬟Ꮫ఍఍ဨࡣே㢮ࡀබᖹࠊᖹ➼࡟ேᕤ▱⬟ࢆ฼⏝࡛ࡁࡿࡼ࠺࡟ດࡵࡿࠋࠖఱࡀබṇ࡛࠶ࡿ࠿࡟ࡘ࠸࡚ࡣ ලయⓗ࡞ሙ㠃ࢆ᝿ᐃࡋ࡚ᖖ࡟㆟ㄽࢆ⥆ࡅࡿᚲせࡀ࠶ࡿࡀࠊᢳ㇟ⓗ࡞⌮ᛕ࡜ࡋ࡚ࡢබṇࡢ㔜せᛶࢆྰᐃࡍ

ࡿ᰿ᣐࡣ࡞࠸࡜ᛮࢃࢀࡿࠋ

AI

ࡍࡿ೔⌮ࡣ᪥ᮏᅜ᠇ἲࡢᇶᮏⓗ࡞౯್࠿ࡽᑟࡃࡇ࡜ࡀ࡛ࡁࡿࠋ᪥ᮏᅜ᠇ἲࡀ⮬↛ἲᛮ᝿࡟ᇶ࡙࠸࡚࠸ࡿ⁴⁰⁾ ࡢ࡛ࠊࡇࢀࡣᙜ↛࡛࠶ࡿࠋࡇࢀࡣ

EU

᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖ࡜ࡋ࡚ゝㄒ໬ࡍࢀࡤࠊࡇࡢᶒ฼ࡢ⠊ᅖ࡜つ⠊ᛶ࡟ࡘ࠸࡚㆟ㄽࡀ㐍ࡴ࡟㐪࠸࡞࠸ࠋ

GDPR

ࡀᐇ⌧ࡉࢀࡸࡍࡃ࡞ࡿࠋࠕAIࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡣࠊGDPR ࢆ᰿ᣐ࡜ࡋ࡚୺ᙇࡉࢀ࡚

࠸ࡿࠕㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡢ୍㒊࡛ࡸࡸලయ໬ࡉࢀ࡚࠸ࡿࡀࠊࡑࢀ࡛ࡶྠᵝࡢᣦ᦬ࡀྍ⬟࡛࠶ࡿࠋࡑࢀ

ࡺ࠼ࠊࠕAI ࡢ࢔ࣝࢦࣜࢬ࣒ࢆㄝ᫂ࡋ࡚ࡶࡽ࠺ᶒ฼ࠖࡣἲᚊせ௳ࡀࡑࢀ࡯࡝᫂☜࡛ࡣ࡞࠸ᢳ㇟ⓗ࡞ᶒ฼࡜ࡋ

࡚⌮ゎࡉࢀ࡚ࡶᵓࢃ࡞࠸ࠋᢳ㇟ⓗ࡞ᶒ฼࡛࠶ࡿ࡟ࡏࡼࠊᶒ฼࡜ࡋ࡚ࡢᏑᅾࢆᢎㄆࡉࢀࡿ࡜ࡇࢁ࠿ࡽࠊࡇࢀ

ࢆᐇ⌧ࡍࡿࡓࡵࡢἲⓗᛮ⪃ࡸἲⓗ᪋⟇ࡀᕤኵࡉࢀࡿࡇ࡜࡟࡞ࡿࠋࡇࡢⅬࡣࠕ⮬ᕫ࡟㛵ࡍࡿ᝟ሗࡢὶࢀࢆࢥ

ࣥࢺ࣮ࣟࣝࡍࡿᶒ฼ࠖ࡜࠸࠺ᐃ⩏࡛௦⾲ࡉࢀࡿ᝟ሗࣉࣛ࢖ࣂࢩ࣮ᶒࡀࠊࡑࡢ୙᫂☜ᛶ࡟ࡶ࠿࠿ࢃࡽࡎࠊྰ