中島先生/第1回　AIに“バグ”という見方をしてよいのだろうか 〜その1〜

画像分類から見る“バグ”の境界　～処理手順の誤り～

従来のプログラムでは、明確なルールに基づいた処理手順（アルゴリズム）に従って出力が決まります。簡単な例として、デジタル時計の表示数字を分類するプログラムを考えましょう。デジタル時計は、７つのセグメントの点灯状態によって数字を表現します。つまり、セグメントの点灯状態が数字の特徴を表します。たとえば、すべて点灯していれば「８」です。右上のセグメントだけが消えていれば「６」を表します。仮に、左上だけが消えた状態を「６」と判断すると、処理方法の誤りです。そのプログラムにはバグがある、と言えます。

画像のパターン学習

機械学習の代表的な問題として取り上げられる手書き文字認識の話では、上記のデジタル時計数字の例とは状況が違います。書き方の癖や筆圧、形の微妙な違いなどが、ペンストロークに影響し、同じ数字を表す手書き画像は千差万別です。アナログ情報であるペンストロークをデジタルデータで表すので、手書き数字の画像は、ピクセルと呼ばれる画素の集まりとします。特定の数字に対応するペンストロークは一つの定まらず、その結果、ピクセルの集まりが形作るパターンは多様です。一つの画像内のピクセル数は多く、その組み合わせも膨大で、計算手順を決めたアルゴリズムを書き下すことは難しいです。

そこで、ピクセル群のパターンを見て、そのパターンがどの数字に該当するかを推測する問題とします。今、画像が０から９までの数字以外にないとしましょう。すると、手書き文字を、各数字の特徴を見つけて、その特徴に基づいて分類する必要はなく、他の数字との違いを認識すれば良いことになります。たとえば、「８」と「６」は、「１」とは異なり、円を描くピクセル群を持つという点で似ている一方で、右上の方が繋がっているかいないかという違いがあります。特徴の違いを知るには、沢山の手書き数字の画像を集めて、AIに数字の特徴の違いを“学習”させます。このように大量の画像データから系統的に分類する方法を、データからの帰納的な学習といい、機械学習の基本的な考え方になっています。

機械学習モデルの判断は“確率的”

さて、手書き数字では、「８」と「６」の違いは微妙です。同じ画像に対して、「８」と答えたり、「６」とする人がいても不思議ではありません。訓練済み学習モデルも同じで、新しい画像に対して「この画像は80%の確からしさで“8”、20%の確からしさで“6”」といった判断を返します。つまり、出力は常に確定しているわけではなく、あくまで“もっともらしい”答えを返すのです。
では、同じ入力画像に対して、「70%の確からしさで”8″」と答える訓練済み学習モデルは、正しいのでしょうか、間違っているのでしょうか。一方、人間が見て明らかに「８」だと思われる画像に対して「１」は誤答です。ところが、「50%の確からしさで”8″」と答えた場合は、どうでしょう。出力結果が確からしさの度合いを含むことから、訓練済み学習モデルのプログラムに”バグ”があったと確実に言えるわけではありません。また、「なぜ間違えたのか」がルールに基づいて説明できないので、従来型の“バグ”と呼べるかどうかが問われます。

次回の予告
次回の中島先生のニュースレターでは、こうした確率的なモデルにおいて、どのようなときに“バグ”と呼ぶべきか、またその曖昧さがソフトウェア品質にどのような影響を及ぼすのかについて、さらに掘り下げていきます。