一様量子化-托尔を指定した場合,rgb2indは一様量子化を使用してイメージを変換します。一様量子化では,RGBカラーキューブを長さ托尔の小さいキューブに分割します。たとえば,托尔0.1をに指定した場合,立方体の辺はRGBキューブの長さの10分の1になります。小さなキューブの総数は,以下のとおりです。

t =(地板(1 / tol) + 1) ^ 3

各キューブは,出力イメージの単一の色を表します。したがって,カラーマップの最大長はtとなります。rgb2indは入力イメージに表示されない色をすべて削除するため,実際のカラーマップはtよりも小さくなることがあります。

最小分散量子化-问を指定した場合,rgb2indでは最小分散量子化が行われます。最小分散量子化では,イメージ内のカラー分布に応じてRGBカラーキューブをさまざまなサイズの小さいボックス(キューブとは限らない)に分割します。入力イメージが指定した数よりも少ない色を使っている場合,出力カラーマップもより小さくなります。

逆カラーマップ——入力カラーマップinmapを指定した場合,rgb2indではカラーマップへのマッピングが行われます。逆カラーマップアルゴリズムは,指定されたカラーマップを色の成分ごとに32の個別レベルに量子化します。次に,入力イメージのピクセルごとに,量子化されたカラーマップ内で最も近い色が検出されます。