グレブナー基底

深作 亮也
学位:博士(理学)
専門分野: 計算機代数、実代数幾何
例えば、連立線形方程式系はガウスの消去法を基に解くことができます。連立代数方程式系は多変数多項式たちで構成されるので、連立代数方程式系は連立線形方程式系の一般化であると考えることができます。そして、グレブナー基底は、考え方そのものも含めて、ガウスの消去法の一般化です。
グレブナー基底を使えば、連立代数方程式系の解全てを、厳密に、計算できます。例えば、ニュートン法などの数値計算で、系の解全てを、厳密に、求めることは難しいです。一方、グレブナー基底はできます。
私は、グレブナー基底の剰余環での「良い性質」から、限量記号消去法と呼ばれる道具の計算を効率化しました。この道具は与えられた一階述語論理式と実数領域において同値で限量記号のない論理式を計算します。例えば、一階述語論理式

が与えられたとき、限量記号消去法は

を出力します。そのため、記号的な最適化も行うことが可能な手法です。例えば、


に対しては新しいパラメータ を導入して



を考えます。以下はMathematicaの限量記号消去パッケージReduceの実行画面です。

上の画面のように、限量記号消去法は記号を残した上で最適化を実現できる、実数領域の万能手法です。
最近は、因子分析モデルやニューラルネットワークなどの数理統計モデルへの計算機代数の応用にも取り組んでいます。以下はニューラルネットワークの平均二乗誤差の停留点の場所を示しています。このように、グレブナー基底で、停留点空間が曲線などから構成されるかも厳密にわかります。
