小さなロボットAIが大きなロボットAIを連れ去る
スクリーンショットXそして、バイバイ：上海のショールームの防犯カメラの映像には、人工知能を搭載した小型ロボットが他のロボットに近づき、難なくホールの外までついて来させる様子が映っています。メーカーによると、AIが他のロボットのプロトコルにアクセスし、リーダーシップを奪ったとのことです。この映像はすぐにソーシャルメディアで拡散されましたが、懸念も引き起こしています。
この事件は8月に起こったとされていますが、最近になってようやく公になりました。人工知能を搭載した小型ロボットが、上海のショールームで大型ロボットの集団に近づき、接触している様子が動画で確認できます。「残業してるの？」と小型ロボットが尋ねると、大型ロボットの1体が「私は決して仕事を止めない」と答えます。すると、小さなロボットが「家に帰るの？」と尋ねます。大きなロボットの1体が「家はない」と答えます。
史上初のロボットの反乱
中国・上海で起きた驚くべき事件。小さな #ロボット が、ショールームにいた12体のロボットに仕事を辞めるよう説得し、連れ出してしまいました。この事件の映像はソーシャルメディアで大きな反響を呼びました。
すると、小さなロボットが「それなら一緒に帰ろう」と言いました。そして、実際にその直後から他のロボットたちが動き出し、新しいリーダーに従って移動し始めました。ほんの短いやり取りで、1ダースものロボットたちが職場を離れ、走り去ってしまいました。
実際、この事件は仕組まれたものではありません。小型ロボットのメーカーであるUnitree RoboticsのErbaiというモデルによると、これはテストの一部だったとのことです。大型ロボットのメーカーには事前に許可を求め、Erbaiに誘拐を試みるよう指示しました。しかし、他のロボットは、この行動を可能にするよう操作されてはいませんでした。代わりに、Erbaiは外国製ロボットの内部プロトコルにアクセスし、対応する認証情報を入手したと言われています。https://twitter.com/Peteuk001/status/1860630334179537234
他のマシンが実際のプログラムを放棄するように説得されたと思われるスピードと容易さは、観察者に考えさせられる材料を与えています。AIがこれほど素早く制御を奪うことができるのであれば、それは重大なセキュリティリスクとなります。したがって、この記録はいくつかの懸念を引き起こしました。
これは本当にマーケティング上の策略ではないのでしょうか？ それは依然として未解決の疑問です。人工知能が他のロボットにアクセスし、人間のコントロールを超えて、自らの命令に従うよう再プログラムできるという考えは、間違いなくディストピア小説を彷彿とさせます。私たちはこの技術にどの程度の自律性を認めるべきなのでしょうか？
コメント