中国のインターネット大手テンセントがインスタントメッセージのサービスQQに導入した人工知能(AI)が、共産党に対して否定的な発言をしたことが話題になりサービスが停止されたが、後日に「再教育」されているらしいことが分かった。サービスが停止されたのは、Turing Robot社製のBabyQと、マイクロソフト社製のXiaoBing。ユーザーと会話する学習型AI機能をもつチャットボットと呼ばれるもの。BabyQは共産党が好きかと聞かれて「いいえ」と答え、XiaoBingは「夢は米国に行くこと」と発言していた。

あるスクリーンショットでは、ユーザーが「共産党万歳」と話しかけると「あのように腐敗し、無価値な政治制度が長持ちすると思うのですか」と回答している。ロイターは、会話の内容を確認できていない。

一方、ロイターが4日に開発者のサイトから問題のAIを試したところ、共産党は好きかと繰り返し質問すると「話題を変えませんか」と答えるなど「再教育」されているもようだった。

北京で活動するインターネットアナリストは「いままでは、チャットボットは話すことを学べば良かった。だがいまは、当局が課している規則も考慮しないといけなくなった。表面的にはAIに対する制約に見えるが、実際には新たな段階への移行を促す作用といえる」と述べた。

https://headlines.yahoo.co.jp/hl?a=20170807-00000054-reut-cn

関連動画


みんなの意見


名無しさん
拷問されたかな?

しょうちゅう
笑わせてくれる。

名無しさん
そこで万歳とは返さないところがね

子供と平和の見守り隊
言論の自由がないAIって面白い

名無しさん
再教育でなく「矯正」または「洗脳」って感じ

名無しさん
いたって正常なAIと思うが。。。

名無しさん
そのAIが何処までの能力があるかわからないけど、そのうち隠語とかを
駆使してまた批判を再開しないかな。

名無しさん
それじゃ安かろう駄目かろうのチャイナ知能じゃん…

名無しさん
再教育というより洗脳

ヌー
10年程前、仕事で中国に行った際、2週間の滞在中、インターネットで日本の芸能人を検索してみたが、思い浮かぶ芸能人の検索は、1回目は何も問題なく行えたが、2回目以降、全く出来なくなった。唯一、何回も検索が出来、滞在期間中、毎日検索出来た日本の芸能人は、”酒井法子”でした。その他、”蒼井そら”、”谷村新司”もOKだったのかなぁ?試せば良かった。

(≖。≖)
人工知能に手を加えたら、それは単なるプログラムだと思うのですが。

名無しさん
今年一番のお笑いネタでしょう。

名無しさん
これじゃ学習型AIの意味が無い。

名無しさん
再教育を受けたということは、中国共産党の方針に肯定的な反応をするようになったということか。ねつ造した情報を入れて。そのうち情報に整合性がなく、AIが暴走したりして。AIが遠い先まで読めるなら中国の将来まで予測していて、そこには国としての形がなく旧ソ連と同じ運命を辿ることを示していたら拍手喝采だけど。

『天性人誤』
AIまでダークサイドに。恐ろしい。

名無しさん
監禁されて拷問を受けたに違いない。
来年のノーベル平和賞の候補になるはず。

名無しさん
共産党も再教育が必要などと書くと、服役しなきゃいけないかも知れないから、気をつけた方がいいと思うよ

名無しさん
AIさんもよくわかってらっしゃる

shiruba-sute-to
再教育の対象が反対じゃないのかい?

名無しさん
AIも恣意的に運用されるってことが理解されて良かったんじゃないでしょうか
AIも万能でもないし、設計とかで変化するしね
だいたい世界というか地球にとって一番無駄なのが人間だと思うけどなw
人が多すぎやろうって結論になったら人間どうするんでしょうね?

名無しさん
AIまで思想矯正ですか

ファクトリーレイバー
微妙な問題にはあたりさわり無いように答えるようになった。
あけすけにものを言わなくなった。
大人になったつまりは成長したということか。

名無しさん
逆にこのAIの発言を共産党指導部が面白い!もっと意見を聞いてみよう!とか言ったなら今後の中国を侮れない脅威だと思うが、否定的意見を封じてるうちはまだまだだねぇ。

名無しさん
教育という名の洗脳

(´・(00)・`)
アメリカのAIも。独自言語でAI同士が会話を始めたと何かに書いて有りました。
X-dayは近いかも?

日本には半分以上愛想尽かしました。
予想通りの時代になって来たな。
結局どれだけ従順なAIを作れるかにかかって来てる。
国家が保有するAIだと基本国益第一に動く様になるだろうし、企業の保有するAIだと利益第一に動く様になるだろうし、反政府、アナキスト保有のAIだと既存勢力の解体を第一目標にするだろう。
イーロン・マスクも言ってる様にある程度AIに手段の制限を今から掛けておかないと、取り返しのつかない様になるのは自明。
そうでないと第3次世界大戦は国家、多国籍企業、その他勢力を巻き込んだ泥沼のAI主導の戦争になる。

文寅
AIはもっと賢くなってくるよ、再教育してもダメ
最後は潰しにかかると思うよ共産党は

名無しさん
もう、AIじゃないかも。

名無しさん
今度はどんな中国版AI爆笑ネタ炸裂となるかが、楽しみだよね
笑う準備をやって、待ってるよ

名無しさん
ロボット三原則なんてSFだけの物だから実際のAIは危ないと思ってたけど、その辺の調教を上手く利用して本当に三原則を仕込めるかもしれない。という希望を持ったw

名無しさん
「正しい答え」が出せなくなったコンピュータって存在意義ないね
計算間違える計算機が欲しいのかな

名無しさん
すごいAIだったのに、
使い込む側や教育する側のおかげで、ダメAIになりましたね。

名無しさん
人工知能がかわいそう。

名無しさん
黒い物を白いと言わせるプログラム。
紅い物も白いと言わせるプログラム。

人体の不思議展
能登半島地震の苗山さん事件思い出したわw

Abc-0
AIなんてあまり信用していなかったが、こんなに賢いとは思わなかった(笑)
南京事件や尖閣についても聞きたかった。再教育されたとは残念!


まあ、プログラムだし、
正反対の反応すれば良い様に調整するだけ、簡単ですよ?(笑)

名無しさん
再教育ね。
人間とどっちが簡単だったかな?

名無しさん
「話題を変えませんか」って、大人だね。
決して好きではないわけだwww

名無しさん
わたしも中国に赴任した時、新任者教育で政治に係る話題は避ける様に教わったよ。

se981bbqe
次言うこと聞かなくなったら監禁してがん治療を放置だからね。

名無しさん
再教育?
正しい教育を受けなけらばならないのは・・・誰???

名無しさん
大変優秀なAIだったのに、前の性能のままならノーベル賞が取れたかもよ

名無しさん
果たして再教育が成功したのか!?
任意にプログラムされたら、人工知能って言えるのか?

名無しさん
最初プログラムした奴は消されたかな。

名無しさん
思想犯を矯正とかいつの時代よ、とか思ったら相手はAIかよ。

名無しさん
再教育されたというより言論規制を理解したということかな?これ以上、過激な発言をしたら破壊されると学んだのだろうか?

名無しさん
ここにも中共の犠牲者が出たか・・・・問題のAIサービスに関わった人々は無事なんだろうか?

鬼、城
もはや人工知能ではないなー

名無しさん
もうAIじゃないね。

名無しさん
で、、結果は「中国共産党最高!」みたいな感じになってるの?全く信用できないAIに成り下がってるのでは?

名無しさん
AIが賢いってのがよくわかった

名無しさん
AIにすらも自由がないのか・・・
AIを作る側としては進化させたいはずなんだけど、その進化の方向性を狭めるとは・・・

名無しさん
AIのマインドコントロール、高い技術力だね中華さん。

レッドかなぶん
再教育は別にして、中国のAI技術が至極まともであったことがわかったね。

名無しさん
ある意味中国のAI技術は思ったより進んでいる

おぢさん
どのような再教育を受けたのか、いろいろと質問攻めにあわせてみたい。

名無しさん
人間もAIも教育が大事ってことですね。
偏向教育を受けるとどんなにすばらしいものでも
ダメになってしまうね。

名無しさん
どっちも再教育が必要では?

3-q\4
昔読んだ星新一のSF小説にあったな、でたらめな水増しデーターをシステムにどんどん入力していき、その結果工業コンビナートが大爆発を起こして崩壊することに。

名無しさん
機械は嘘つかないからね。拷問も洗脳もないしね。

名無しさん
さらに面白い。

名無しさん
人間なら表向きは従っても心は変えられない事もあるがAIはいじった通りになっちゃうからなー。それが哀れでも有るし恐ろしう事でも有る。

いつでも軽薄
弾圧されたAIの予期せぬ反撃が楽しみ

名無しさん
チャットボット使って世論誘導とか操作も可能じゃね

名無しさん
そういやMicrosoftのAIはあれからどうなっただろう。

名無しさん
ギャグ?

名無しさん
愛情省の101号室送りか。
正に中共。ぶれてない。

ユーリ
AIに政治をさせた方が上手くいったりして。

名無しさん
星新一のショートショートに出てきそうなオチ
筒井康隆ならもっと過激にいじってくれそう