フレーム問題
「有限の計算能力をもつ知能体を、ある環境に置き、目的を与えて、『思考行動し、間違えずに目標を達成せよ』と命ずる」
この命令を下すと知性体は思考ロックを起こして行動が出来なくなる. これがフレーム問題.
対比として、思考能力を持たないランダムウォーカーを考える.
同じ命令を下すとランダムウォーカーは即座に行動し、十中八九失敗する. ただ、たまたま正解する場合もある (c.f. ショパン猿)
ただ「間違えずに」という命令定義に基づくと、成功の確証が無いから命令には従えていない.
フレーム問題はしばしば「無限に総当たりしなきゃいけないから解決不能」と解説される.
それは正しいが、そもそもなぜ総当たりしなければいけないのか.
それが問題定義に (暗示的に) 含まれている無謬性.
無謬性の立証は悪魔の証明そのもの.
失敗しない保証をするにはあらゆるパターンを網羅しなければならず、それは「有限の計算能力」という定義とぶつかる.
だからフレーム問題は解けない.
無謬性の制約さえ除けばいくらでも解決できる.
そもそもランダムウォーカーがたまに上手くやれるのだから、その時点で問題は解けている.
いかに成功率をあげるかという別の問題に帰着するだけ.
フレームを設定すれば云々という話は、無謬性がgivenな有限フレームがあれば総当たりが解けるという話.
知能体に無謬有限フレームを自己設定させるとその時点でロック起こすし、外から無謬有限フレームを与えるのは問題の前提を破壊してるのでダメ.
フレーム問題から導き出せるのは「無謬性の保証はナンセンス」ということ.
