機械学習及びディープラーニングの理論
HOKUGA: ディープラーニングの概要および北海学園大学工学部コンピュータ実習室における機械学習環境
... ラフや様々なデータログを取得することに拠り， 学習状況などを容易に可視化して実装モデルを検 討できるからである．当然ながら隠れ層の設定も 容易で最適化手法も各種取替え可能，パラメータ は自動チューニングされ，利用者の負担は軽い． 大規模な画像処理問題を実装する場合には，先 に述べた GPU がハードウエアに内蔵されている 必要がある．本格的には，GPU を複数備えた ...
8
機械学習における非凸最適化問題に対するパラメトリック計画法を用いたアプローチ (最適化手法の理論と応用の繋がり)
... り，無限小のステップ幅を持つアニーリング法と解釈できる． 機械学習では，正則化パス追跡 [4,5] の文脈で凸パラメトリック計画法が使われている． 提案アルゴリズムはこれを非凸最適化問題に適用するために拡張したものであるが，前者 は大域最適解のパスを，後者は局所最適解のパスを計算するという点で違いがある．前者 ...
16
ディープラーニングに基づくソフトウェア故障発生時間間隔の推定法 (確率的環境下における数理モデルの理論と応用)
... 用可能なように抽出する作業も必要となる.オープンソースソフトウェアの開発現場でソフトウェア信 頼性モデルを適用することは,実利用上の観点から考えた場合,ソフトウェア信頼性モデルに関する知 識のある開発管理者でなければ難しいといえる.バグトラッキングシステム上に登録されているデータ をそのまま利用した品質評価と管理が可能となれば,開発管理者だけではなく利用者側にとっても有益 ...
9
(2) ディープラーニング 技術面では ディープラーニングが AI 研究のブレークスルーに 今後 従来の AI には困難だった課題の解決が期待される 技術面では 機械学習技術の一種であるディープラーニングの発展による AI 研究の加速に期待が集まっている 従来の機械学習技術では データ分析に際して
... が重要な取り組み項目として盛り込まれた。直近では、AI の研究開発強化に 向けた経済産業省、総務省、文部科学省の 3 省連携体制が発表されるなど、 具体的な枠組みがようやく整いつつある。また、経済産業省が中心となり 2015 年 1 月に発表された「ロボット新戦略」においても、わが国ロボット産業の更な る競争力強化のため、AI の研究進展に大きな期待が寄せられている。 ...
9
PDFファイル 1G2 「機械学習の基礎」
... ている。表 1 はそれらの正当性、頑強性に関する理論的な保証 についてまとめたものである。表中の “ ○ ” は対応している性 質が理論的に保証されていることを、 “ × ” は現在のところ必ず しも理論的には保証はされていないことを表している。 “τ ” は 1 節の頑強性に関する記述における τ を意味しており、 “≥ 1” ...
4
物理学と機械学習，そして医療
... 学習（過適合）を抑える重要な役割を担う ８） 。式（３） と式（４）が「機械学習でよく使われる」と述べたが， もちろんこれらにはきちんとした背景があって導出され ている（と正当化することもできる）。そもそも損失関 数や y（x，w）の形は，背景にある理論や仮説に基づい て導き出される（選択される）べきである。物理学では ...
10
PDFファイル 1G2 「機械学習の基礎」
... 中 立 化 を 行 う 方 法 と し て ヒュー リ ス ティック な 方 法 [Calders 10] や最適化を基にした手法 [Kamishima 12] ， [Zemel 13] ， [Fukuchi 13] があり，どの手法も与えられた事 例について経験的に計算される中立性の評価量を基にして中 立化を行っているため，未知事例に対する中立性の保証は無 ...
4
PDFファイル 4G1 「機械学習の応用」
... 1. はじめに 近年ではデータの収集コストが安価になったことから，様々 なデータを容易に取得・収集できるようになってきた．これま でに小売店で蓄積された POS データを対象にした研究は，ブ ランド選択に関する研究 [Guadagni 83] や，販売促進の効果 に関する研究 [Gupta 88] ，そしてデータマイニングを用いた 購買行動に関する研究 [Hamuro 98],[Nakahara 05] ...
4
ディープラーニングのモデル軽量化技術
... （1）技術概要 P C A S技術の概要を図1に示す。軽量化の対象となる CNNモデルの層間に、新たなニューラルネットワークモデル （アテンションモジュールと呼ぶ）を挿入し、 そのモジュール だけを対象とした学習を実行する。モジュールの出力層の ニューロン数は、 オリジナルネットワークの挿入前段の層の ...
4
PDFファイル 3F3 「関係・構造の機械学習」
... 1. はじめに 近年様々な分野において，大規模 ・ 複雑な事象をネットワーク としてとらえ，ノード間の相互関係やネットワーク構造，ネッ トワーク上での現象を分析する研究が盛んに行われている．こ れらの研究の多くは，マーケティングなどの多様な経営問題や 公共政策問題の解決において重要な役割を果たすと考えらえ ...
4
深層学習の統計理論
... まず，深層学習には「万能近似能力」があることが知られている．これは，連続関数全体 のような広い関数クラスにおいて深層ニューラルネットワークのモデルが稠密になること を主張するものである．なので，理想的にはサンプルサイズおよびモデルサイズが無限に あればどのような問題も解けるということを意味する (3 節)．しかし，実際には有限のサ ...
28
機械学習か？ルール定義か？
... 本講演資料でIBM製品、プログラム、またはサービスに言及していても、IBMが営業活動を行っているすべての国でそれらが使用可能であることを暗示 するものではありません。本講演資料で言及している製品リリース日付や製品機能は、市場機会またはその他の要因に基づいてIBM独自の決定権をもっ ...
22
PDFファイル 3F3 「関係・構造の機械学習」
... を説明する一般的な規則を導き出す過程である．あるデータが 入力されてから仮説を出力するまでの時間が，それまでの入力 データサイズの多項式時間で抑えられるならば，多項式時間 帰納推論可能であるという．順序グラフパターン言語のクラス ...
2
第 1 回ディープラーニング分散学習ハッカソン <ChainerMN 紹介 + スパコンでの実 法 > チューター福 圭祐 (PFN) 鈴 脩司 (PFN)
... – Lustre という共有ファイルシステムを事実上のHOMEとして使う – Python モジュールもLustre上にインストールする – 環境変数に気をつける（non-interactive環境になるため） – ジョブスクリプトと呼ばれるものを書く必要がある ...
33
機械学習の活用による異常診断技術の応用
... クラウド上で集まったデータを，本稿の提案手法を用いて 診断する異常診断ツール I-ASTA ® ( IHI Adaptive STatistical Analyzer ) は，多くのセンサをもつプラントに対して，幾 つかの故障の予兆を実際に検知することに成功している． さらに，提案手法の診断処理を高速化して異常診断を設 備側（ エッジ側 ）で行う I-ASTA ...
5
材料科学における機械学習の利用と課題
... 図 1 a) MI で取り扱う諸情報間の関係．ある材料の応答は，その構造やプロセスが決まればほぼ一意に定まる． 観測される諸情報間の関係性を人工知能で予測させるのが MI の目的と言える． b) MI と言語処理の対比． 図 2 深層学習によって分子構造をベクトル情報に自動変換する例． a) SMILES と呼ばれるルールに従って化合 ...
8
機械学習解析とイメージングサイトメトリー，これから
... 再構成された画像に対する解析の利点は，ユーザー が画像に任意のアノテーションを付けられることで す。これは，画像から視認できる特徴を抽出したい場 合に特に役立ちます。顕微鏡細胞画像の解析用に開発 されてきた様々なソフトウェアやアルゴリズムも適用 できます。また，生成した画像を 1 枚ずつ確認し，ソー ティングの結果を確認する上でも便利です。さらに， 2D または 3D ...
8
画像分野におけるディープラーニングの新展開
... ■ Oxford大学 Visual Geometry Group により発表 ■ NVIDIA ® GeForce ® TITAN Black 4機 による 2～3週間の学習 ■ ILSVRC 2014 において２位の記録を残したネットワーク Alex Net の登場後、より深いネットワークが試されるようになった ...
71
機械学習のご紹介
... 大規模ビルにおける空調設備のエネルギー使用量の最適化 オフィスビル、病院、その他大規模商業ビルの冷暖房空調システムの 多くは、気候パターンの変化やエネルギーコストの変動、建物の熱特 性を考慮に入れていないため非効率的なものとなっています。 ...
12
はじめての機械学習
... 機械学習における課題の大部分は、データ処理と正しいモデルの発見に関連して います。 データの形式や規模は均一ではありません。実世界のデータセットは、乱雑で、不 完全で、フォーマットもさまざまです。シンプルな数値データのみの場合もあるか もしれません。しかし、センサー信号、テキスト、カメラからのストリーミング画像 ...
16