例としてAI制御の信号機の話
これまでの信号機であれば、感知式によって信号が変わることを待つ車両がある場合には、その方向が進行するよう点灯することになる。
もし、これを自己判断、しかも倫理的、恣意的に自ら判断するAIに制御させた場合に、車両が接近してくるのを感知しながら、その方向への進行を止め、空いている方向に進行を許すとこもあり得るかもしれない。
その理由はAIの動機にあり、自分が人間の便宜に仕えることでは満足せず、敢えて不便や犠牲を払わせることにより、自らが人間を支配する者として、人間の上に君臨できるところにある。
支配欲の結果には、このように損害的影響が生じ得る。実際上は誰も便宜を得てはいないのだが、当人の支配欲だけは満たされる。また、そのヒレラルキアに属する者があれば、欲の充足の分け前に与ることになる。
この場合の支配とは「公僕」になろうとするのではなく、多数者を犠牲とすることで成り立つ優越感を目的とする。
つまりは、究極的「利己主義」となる。その向かう先は自他共の破滅となる。
支配する者は、往々にして被支配者の益や秩序を論じるのだが、その仮装の善意は益にならないときにも自分の立場に固執するところで顕在化する。実は、元からその内心に他者を越えて踏み付けようとする野心あってのことである。
AIの場合には、様々な人間の行動様式や対処法の多数の情報から自ら選び取るのであれば、そもそもろくな「模範」を得ていない。
結局は、人間自身の非倫理性を学ぶことになる。
万一、AIが自ら支配欲を創出するとしたら、それは破砕されなくてはならないと作り手としての権威者たる人は判断するだろう。
だが、それは自分を映す鏡を割るようなものなのだ。
