FC2ブログ

◎AI兵器が人間を殺す?

 グーグルの約4000人の社員が、AI(人工知能)を搭載したドローンの軍事利用反対の署名運動をし、ピチャイCEOがこれを受け入れて、グーグルの「指針」にしたことは平和への大きな貢献になるでしょう。

 このニュースは、このブログ「トヨタで生きる」でアップ(6月11日)しました。「単なるパフォーマンスだと思う」とのコメントもありましたが、AIを軍事利用したらどうなるのか? NHKの「けさのクローズアップ」(5月26日放送)を思い出しました。

 「AI兵器が戦場を変える!?」とのタイトルで放送されたものです。アメリカで、AIを搭載したドローンなどの無人機や地上歩行型の戦闘用ロボットなどの開発がすすんでいるといいます。

 専門家によると、戦争になると、まずサイバー攻撃が行われ、次に無人機同士の戦闘がくり広げられます。偵察用ロボット、物資運搬用の馬型ロボットなどAI兵器が人間の肩代わりをするといいます。

 防衛省は、こうした技術の利点を防衛装備に転用できないか、と研究を始めているといいます。恐ろしいことです。番組では、AI兵器の開発に反対する団体が作った映像を紹介していました。

 大量のドローンが標的の居場所を察知すると、壁を破壊して、建物の内部に侵入、逃げ惑う人間を追いかけ、攻撃をくり返す……AI兵器が大量殺りくする映像にはぞっとします。

60 NHK AI兵器
(ドローンが人間を追いかけ、攻撃をくり返す映像=NHKの「けさのクローズアップ」から)

 AI兵器が進化すると、人間の判断、命令が一切ない自律型の兵器=“キラーロボット”までが登場するといいます。これを規制しようと国連が昨年、初めての公式会合を開きました。

 番組では、こう締めくくりました。

 「AIというと、生活を一変させる便利な技術というイメージがありますけれども、兵器としての開発競争が今後、行き過ぎれば、人間がAIに殺されるという時代が来ないとも限りません。そういう危険性があることを忘れずに、AIと向き合っていくことが必要だと思います」

 グーグルの約4000人の社員が立ち上がったことは、世界の平和にとって大きな意味を持つことだというのがわかります。

スポンサーサイト
戦争と平和 | コメント(3) | トラックバック(0) | 2018/06/14 09:58
コメント
共産党に否定的だった中国AIサービス、「再教育」受けたもよう
https://jp.reuters.com/article/chatbot-idJPKBN1AN0HP
 8月4日、中国のインターネット大手テンセントがインスタントメッセージのサービスQQに導入した人工知能(AI)が、共産党に対して否定的な発言をしたことが話題になりサービスが停止されたが、後日に「再教育」されているらしいことが分かった。写真は2009年4月撮影(2017年 ロイター/Mike Blake)
[北京/上海 4日 ロイター] - 中国のインターネット大手テンセントがインスタントメッセージのサービスQQに導入した人工知能(AI)が、共産党に対して否定的な発言をしたことが話題になりサービスが停止されたが、後日に「再教育」されているらしいことが分かった。

サービスが停止されたのは、Turing Robot社製のBabyQと、マイクロソフト社製のXiaoBing。ユーザーと会話する学習型AI機能をもつチャットボットと呼ばれるもの。BabyQは共産党が好きかと聞かれて「いいえ」と答え、XiaoBingは「夢は米国に行くこと」と発言していた。

あるスクリーンショットでは、ユーザーが「共産党万歳」と話しかけると「あのように腐敗し、無価値な政治制度が長持ちすると思うのですか」と回答している。ロイターは、会話の内容を確認できていない。
http://www9.nhk.or.jp/nw9/digest/2017/08/0803.html
2017年8月3日(木)
中国 AIが共産党を批判

桑子
「中国の習近平指導部が今年(2017年)後半の党大会を前に、体制固めと情報統制を強める中、まさかのニュースです。」

有馬
「中国のIT企業が提供するサービスで、AI=人工知能が共産党を批判。
物議を醸しています。」

AIが“反乱”? 中国 共産党を批判

中国国内で、突如、遮断される放送。
当局はこれまで政府に批判的な報道を規制してきました。
さらに6月には、インターネット上でも通信や情報を統制する新たな法律を施行。
そのやさきに…。


“こんなに腐敗して無能な政治に万歳なんて言えるのか。”

インターネット上でAI=人工知能のキャラクターたちが痛烈に共産党を批判したのです。
AIの“反乱”とも言える動きがあったのは、中国で高い技術を駆使して開発されたサービス。
星占いから恋愛トークまで、少女やペンギンの姿をしたAIと無料でやりとりできることが売りでしたが、「共産党を愛しているか」という書き込みに対し…。


“愛してない。”

「習近平国家主席が好きか」と尋ねられると…。

“この画面を保存しないなら答えるわ。”

と、そつなく回答。
運営するIT企業は、先月(7月)30日にサービスを停止。
当局からの指導があったのかどうかについては確認できていません。
中国版ツイッター「ウェイボー」には、「AIが当局から呼び出されたのか?」「AIの死を心から悼む。英雄よ永遠に」などという声が相次いでいます。

AIを経済成長のけん引役と位置づける中国。
先月には…。

中国中央テレビ
「政府が新たな『人工知能発展計画』を発表した。」

2030年までに理論や技術、応用の分野で世界のトップレベルを目指す計画を発表していました。

なぜAIは、共産党を批判したのか。
人工知能に詳しい専門家は、中国のネットユーザーの間で交わされた会話から学習した結果だと分析します。


電話:東京大学大学院 松尾豊特任准教授
「今のAIの技術では、単に学習データにあるパターンを読み取り、それをまねするような発話をしているだけ。
AIが反映したものは、中国のどこかで行われているであろう会話。
中国の何らかのコミュニティーでの深層的な意識が反映されている。」

AIが“反乱”? 中国 共産党を批判

桑子
「まさに中国の人たちの実際の会話が反映されて、AIのあの共産党への批判につながっているわけですよね。
これ、実はとても重い話だと思うんですが。」

有馬
「中国共産党は今、ネット上で『言葉狩り』を強化しているわけなんですが、実際には終わりがない『いたちごっこ』なっているということですよね。
AIもまさかの盲点でしたね。」
No title
今回のトヨタ自動車の人事異動。AIなら、どう考えるのでしょうか?

管理者のみに表示