k-Meansクラスタリング

すでに知っている数学だけで組み立てる古典的モデル

2ダースほどのラベルのない点が散らばった地図。答えもラベルもないのに、それでもコンピュータはグループを見つける。このコースでここまでに作ってきたモデルはすべて、ラベルつきの例から学んできた。合わせるべき価格、予測すべきクラスだ。k-Meansはそのラベルを完全に投げ捨て、点どうしがどれだけ近くに座っているか、それだけを頼りに進む。

シーズンの初め、k台のアイスクリームのトラックが町のあちこちに散らばる。毎朝、各トラックは前日に自分が売った客たちのちょうど中心へ移動する。トラックが停まり直すと、何人かの客は今度は別のトラックのほうへ少しだけ近くなるので、明日の縄張りもまた動く。これを毎朝繰り返すと、やがてトラックは動かなくなる。1台ずつが、安定した小さな客の集まりの中心に停まったのだ。この日課を、何も動かなくなるまで繰り返すこと。それがk-Meansである。

下にはラベルのない点と、どこへでもドラッグできるk個の中心マーカーがある。ステップを押して、2つのことが順に起きるのを見てみよう。まずすべての点が、最も近い中心の色に染まる。次に中心たちが、たったいま自分を選んだ点たちの平均位置へすべるように動く。ここに事前計算されたものは何もない。点をドラッグし、中心をドラッグし、kを変えて、もう一度ステップを押してみよう。置いた場所からデータが仕分け直されていく。

機械学習における位置づけラベルがゼロのクラスタリングは、教室の外でも絶えず顔を出す。購買行動で顧客をひと握りのセグメントにまとめること、各ピクセルの色をk個の代表色のうち最も近いものへ置き換えて画像を圧縮すること、ラベルがまだ何もないデータセットで最初の大まかなグループ分けを見つけること。どれもまさにこのループで動いている。 割り当てて、動かす。この日課は、機械学習で繰り返し現れるパターンの予告でもある。もっともらしい初期推測を選び、それぞれがある目標量を悪化させないと証明できる2つのより簡単な更新を交互に行い、何も変わらなくなったら止めるのだ。このモジュールの後半で出会うガウス混合によるソフトクラスタリングは、点がちょうど1つを選ぶ代わりに複数のクラスタへ同時に属することを許して、この同じ考えを洗練させる。
▶ k-Meansクラスタリング
← ブースティング:間違いから学ぶクラスタはいくつ?エルボー法とシルエット →