google 未来

ロボットを脅威に感じるあなたに朗報、もしものためのEmergency Big Red Button

投稿日:

ロボットを脅威に感じるあなたに朗報か!

googleのDeepMind社を含むグループがもしもの際に人工知能を緊急停止させる「非常ボタン(big red button)」を組み込む方向性だそうです。

Google、人工知能の反逆を抑止する「非常ボタン」開発

Safely Interruptible Agentsという文書がリリースされています。数式が多くてびっくりしました(笑)

ロボットと人間が争ってしまうという世界観とは隣り合わせですが、歯止めとなる機能ですね。
十分かどうかはわからず今後も作り続けていかなければならないでしょうが、こういう倫理もありつつでテクノロジーが進化していけるといいですね。

この文書では、人工知能がいつでも適切に動作するわけではないこと。よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

ボタンを押させない ことを防ぐような仕組みも組み込まれていると読み取れます。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

ロボットにも感情があるとしてあくまで自分でそう考えたとするのは、ロボットの自尊心を満たせるロジックですね。

スポンサードリンク




スポンサードリンク




-google, 未来

Copyright© futurevaluecreation , 2021 All Rights Reserved Powered by AFFINGER4.