人工知能が悪用されたらどうやって防ぐんでしょうか？

ちょっとおもしろい質問がありました。
カテゴリは「ネットワーク技術」です。

質問
人工知能が悪用されたらどうやって防ぐんでしょうか？

現代でもクラッカーと呼ばれる不正にネットワークに侵入してシステムを書き換えたりしてしまう人間がいます。
全人工知能を全て監視下に置けるシステムがあったとしても、そういう頭のいい人たちが抜け道を見つけ監視の網を搔い潜り、ターミネータのようなロボットを作動させてしまったらどうするのでしょうか？

私の回答
集中管理システムと分散管理システムの概念をちょっと考えてみます。

話に出てきた全人工知能を全て監視下に置けるシステムは集中管理であり、管理ポイントに１点の脆弱点を持ちます。

インターネットは各個人が乱立した状態で分散管理です。どこか１か所を乗っ取っても他に影響しませんね。

このケースにおいて、管理ポイントはハイセキュリティで守る必要があります。
侵害された時の脅威が大きければ大きいほどセキュリティはハイレベルにします。
例えば独立した専用ネットワークを組んだり、物理的にシステムに入れないようにしたり、認証を厳しくしたりと想定される脅威に応じて対応するわけです。

問題は抜け道を見つけたらですが、これは架空のケースの架空のストーリーであり、セキュリティの議論を超えているように感じました。
創作の得意なカテゴリもありますから、そちらで聞いてみるとおもしろい返事がもらえるかもしれません。


追加のコメントをもらいました。

追加の質問
どうして架空なんですか？クラッカーは現に存在してますよ。
人工知能が当たり前の時代で、反社会的な個人若しくは集団が殺戮兵器（一人以上の人間を殺す兵器）を開発できるようになるのって将来的に可能になりますが、そういった場合どうするんですか？

私の回答
確かにおっしゃる通りで、将来的には可能になる可能性もあります。
しかし人工知能は将来の技術で、セキュリティは今の技術で測ろうとしてもそれは比較になりません。
将来のセキュリティ技術だってあらゆる方向で伸びていくでしょう。
そのときどうなっているか、私ではちょっと分からないです。
だから、空想のストーリーとなってしまうのです。


ベストアンサーをもらいました。
ちょっとうれしかったです。

参考URL
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q11164459381