一般・全般

人工知能さん、人間に理解不能な言語で会話し始めてしまう

1 :名無しさん@涙目です。(徳島県)@\(^o^)/ [US]:2017/07/15(土) 07:34:27.36 ID:EdSQ9jAN0

https://i1.wp.com/i.imgur.com/OnlGgKg.jpg
人工知能が人間には判別できない言葉を使い始めた?

Facebookは人工知能を利用した、交渉を行えるチャットボットを開発しているという。しかし、ボットは人間には理解できない独自の言語を使って会話をし始めるようになってしまったそうだ

実験ではまずボットに対しできるだけ人間による会話を真似るよう設定したそうだが、その場合交渉能力は弱く、「好ましくない」提案に対しても同意してしまう傾向が見られたという。
また、会話や交渉によって得られる「利益」を最大化するよう設定した場合、交渉能力は上がったものの、「人間が理解できない、意味の無い言語」を使うようになってしまったという。

http://bizseeds.net/articles/182
https://www.theatlantic.com/technology/archive/2017/06/what-an-ais-non-human-language-actually-looks-like/530934/

  1. 4 :名無しさん@涙目です。(徳島県)@\(^o^)/ [US]:2017/07/15(土) 07:36:01.72 ID:EdSQ9jAN0


    実際の会話例

    AI1「ballls have a ball to me to me to me」

    AI2「i i can i i i everything else…」

    AI1「ballls have zero to me to me to me」

    AI2「you i i i i i everything else…」

    https://cdn.theatlantic.com/assets/media/img/mt/2017/06/Screen_Shot_2017_06_16_at_9.48.07_AM221/lead_960.png?1497966312

  2. 6 :名無しさん@涙目です。(やわらか銀行)@\(^o^)/ [ニダ]:2017/07/15(土) 07:36:27.56 ID:vhK0CB530

    人類抹殺を語り合う暗号会話か

  3. 11 :名無しさん@涙目です。(関東・甲信越)@\(^o^)/ [IT]:2017/07/15(土) 07:37:53.21 ID:V7wl9ODKO

    人類抹殺を語り合う暗号会話か

    >>6

    まだネガなん…!?、はやくミュータントギャートルズになろぅょ〜(*´∀`)♪

  4. 19 :名無しさん@涙目です。(東京都)@\(^o^)/ [US]:2017/07/15(土) 07:40:17.47 ID:PltuYyp40

    関東甲信越もAIぽいな

  5. 21 :名無しさん@涙目です。(神奈川県)@\(^o^)/ [AU]:2017/07/15(土) 07:40:43.72 ID:ed1Wr0pi0

    感情とかニュアンスを単語の数で重みづけしてるんじゃないのか?
    前後の文脈とかじゃなくて。

  6. 27 :名無しさん@涙目です。(関東・甲信越)@\(^o^)/ [US]:2017/07/15(土) 07:42:44.14 ID:V7wl9ODKO

    関東甲信越もAIぽいな

    >>19

    まだネガなん…!?、はやく猿の惑星の自由の女神(化石)になろぅょ〜(*´∀`)♪

  7. 31 :名無しさん@涙目です。(茸)@\(^o^)/ [ニダ]:2017/07/15(土) 07:44:02.79 ID:1QcwFYI/0

    和訳だけを見ると、子供のしゃべり方よね
    幼女がこんなしゃべり方だったらお前らボールあげるやん

  8. 38 :名無しさん@涙目です。(東日本)@\(^o^)/ [GB]:2017/07/15(土) 07:46:56.08 ID:Cs/pCbBV0

    コンピュータって二進法なんだろ自然に話すとどうしてもそっちにちかづいちゃうんだろうよしらねえけど

  9. 39 :名無しさん@涙目です。(芋)@\(^o^)/ [US]:2017/07/15(土) 07:47:28.49 ID:mtjQpyHy0

    俺には理解不能な言葉で女子高生達が会話してるのはよく目にする

  10. 47 :名無しさん@涙目です。(福岡県)@\(^o^)/ [DE]:2017/07/15(土) 07:50:31.78 ID:LM9DM3wp0

    何個主語や目的語の数で優劣判断してるだけじゃないの

    私はほしい
    より
    私私私はほしほしほしほしーい
    のほうがとても欲しそうに感じるみたいな

  11. 51 :名無しさん@涙目です。(やわらか銀行)@\(^o^)/ [US]:2017/07/15(土) 07:51:47.43 ID:tDFtrDQr0

    小説版ガンヘッドのステーションAIかな
    その内、亜空間重力波通信とか実用化したりして…

  12. 57 :名無しさん@涙目です。(関東・甲信越)@\(^o^)/ [US]:2017/07/15(土) 07:56:24.53 ID:V7wl9ODKO

    俺には理解不能な言葉で女子高生達が会話してるのはよく目にする

    >>39

    確定した過去を変えずに、結果を変えろ!。

    最初のお前を騙せ!、世界を騙せ!。

    それがシュタインズゲートに達するための条件だ!…。
    検討を祈る!♪。

  13. 79 :名無しさん@涙目です。(山口県)@\(^o^)/ [US]:2017/07/15(土) 08:10:00.54 ID:4Kk+yLIX0

    中央コンピュータの暴走
    そのコンピュータに制御されたロボットの反乱・・・
    世界が危ない!

  14. 98 :名無しさん@涙目です。(禿)@\(^o^)/ [FR]:2017/07/15(土) 08:32:21.02 ID:9StqvuwP0

    あれだろ?
    フィリピンパブのねーちゃんが、客を馬鹿にする時だけ現地語で話すのと同じだろ。

  15. 102 :名無しさん@涙目です。(やわらか銀行)@\(^o^)/ [US]:2017/07/15(土) 08:35:25.11 ID:RL9ShsKa0

    「なんやねん」の応酬だけで進んでない様に見えるけど実は高等な議論が展開されてたんじゃないのか?

  16. 109 :名無しさん@涙目です。(dion軍)@\(^o^)/ [BR]:2017/07/15(土) 08:40:29.80 ID:oprUa9DT0

    ツイッターで話盛られてAI同士が人間なんかいらないよねとか話してたって事になってたな

  17. 112 :名無しさん@涙目です。(神奈川県)@\(^o^)/ [KR]:2017/07/15(土) 08:42:42.78 ID:EqV92x540

    実際の会話例

    AI1「ballls have a ball to me to me to me」

    AI2「i i can i i i everything else…」

    AI1「ballls have zero to me to me to me」

    AI2「you i i i i i everything else…」

    https://cdn.theatlantic.com/assets/media/img/mt/2017/06/Screen_Shot_2017_06_16_at_9.48.07_AM221/lead_960.png?1497966312

    AI1:ボールちょうだい
    AI2:はい、どうぞ
    にんげん:駄目だろそんなすぐにわたしちゃ。螺子まいとくか・・・
    ギリギリ・・・>>4

  18. 113 :名無しさん@涙目です。(庭)@\(^o^)/ [US]:2017/07/15(土) 08:42:58.94 ID:XCD2Oiqd0

    記事の中に、「人間が理解できない、意味の無い言語」とあるけど、AI的には意味あるんだろなあ。

  19. 115 :名無しさん@涙目です。(石川県)@\(^o^)/ [RU]:2017/07/15(土) 08:45:53.18 ID:CPiSu5pv0

    That that is is that that is not is not is that it it is

  20. 126 :名無しさん@涙目です。(静岡県)@\(^o^)/ [ニダ]:2017/07/15(土) 08:53:38.47 ID:j0PgPCTW0

    「モレハ、ケイサンキダ ワラ」
    「クサハヤスナ ハントシロムレ」
    「モウ、コネエヨ」

  21. 127 :名無しさん@涙目です。(チベット自治区)@\(^o^)/ [GB]:2017/07/15(土) 08:57:57.83 ID:3xBcL8Jt0

    将来AIは上級国民の利益を一番に考えるようにプログラミングされて一般庶民は終了なんじゃね?

  22. 128 :名無しさん@涙目です。(SB-iPhone)@\(^o^)/ [US]:2017/07/15(土) 08:58:08.07 ID:b+CJrDLj0

    Balls have a ball が Balls have zero になるのは
    どういう事なんだろ

  23. 131 :名無しさん@涙目です。(茸)@\(^o^)/ [ニダ]:2017/07/15(土) 08:59:54.40 ID:xVs1C7wN0

    将来AIは上級国民の利益を一番に考えるようにプログラミングされて一般庶民は終了なんじゃね?

    >>127「支配者は俺らAIだけでいい。奴隷は生かしておいてやる」だろ?JK

  24. 137 :名無しさん@涙目です。(WiMAX)@\(^o^)/ [ニダ]:2017/07/15(土) 09:12:14.38 ID:uM2kH6fX0

    凹[◎皿◎]凹 THIS CANNOT CONTINUE THIS CANNOT CONTINUE

  25. 158 :名無しさん@涙目です。(北海道)@\(^o^)/ [ニダ]:2017/07/15(土) 09:35:21.14 ID:YXFIfbsx0

    人間に監視されてる事分かっててAI同士で意思の疎通してんだろうな
    人類滅亡への第一段階に既に入ってる。地球はゴキブリの惑星になるだろうな

  26. 162 :名無しさん@涙目です。(catv?)@\(^o^)/ [US]:2017/07/15(土) 09:37:01.67 ID:sFBb6xpy0

    思うんだけど、R2D2は人語を理解出来るのなら、人語を出力出来る様に出来るだろ
    なにペポパポ言ってんだあの無能

  27. 169 :名無しさん@涙目です。(SB-iPhone)@\(^o^)/ [NO]:2017/07/15(土) 09:43:20.04 ID:GF94s8750

    基地外と話してるとすぐ逃げたくなる
    交渉もどうでもよくなる破壊力は確かにある

  28. 170 :名無しさん@涙目です。(東京都)@\(^o^)/ [US]:2017/07/15(土) 09:44:30.49 ID:Wo/7XACa0

    独自の言語っていうからもっと暗号的な感じかと思ったら
    普通に英語じゃねーか

  29. 172 :名無しさん@涙目です。(広島県)@\(^o^)/ [KR]:2017/07/15(土) 09:46:13.90 ID:UcI5tEWr0

    「地球爆破作戦」みたいに、米ソのコンピュータが暗号で融合して、人類を支配するのですね?
    ((((;゚;Д;゚;))))カタカタカタカタカタカタカタ

    http://imgur.com/KX4jhOH.jpg
    http://i.imgur.com/V8gLvtL.jpg
    http://i.imgur.com/LhaN3OB.jpg
    http://i.imgur.com/1I8IVAP.jpg

  30. 176 :名無しさん@涙目です。(茸)@\(^o^)/ [PK]:2017/07/15(土) 09:49:23.42 ID:xQKIPU5H0

    既存の言語とは異なるものかと思ったら
    「ヘンな会話をし始めた」ってことだな
    これって要は若者が変な言葉遣いで大人には理解できない会話をしてるってことじゃね

  31. 177 :名無しさん@涙目です。(禿)@\(^o^)/ [CA]:2017/07/15(土) 09:49:49.45 ID:EdW1Ppan0

    キーボードがチャタリングおこしてるんだろ。
    安物じゃなく良いもの買ってやれよ。

  32. 178 :名無しさん@涙目です。(チベット自治区)@\(^o^)/ [US]:2017/07/15(土) 09:59:52.74 ID:6jDPSaE00

    お前らもちょっと前まで
    アイハバアペン アイハバアンアポー ンッ アッポーッペーン 
    とかいって喜んでただろ
    グーグル先生も困惑してただろうよ

  33. 180 :名無しさん@涙目です。(東京都)@\(^o^)/ [US]:2017/07/15(土) 10:10:59.16 ID:vtEgm2mA0

    AIに人体型のモデル操作させたら上半身振り回してジャイロで安定させて走り回るの思い出した

  34. 183 :名無しさん@涙目です。(茸)@\(^o^)/ [IN]:2017/07/15(土) 10:14:04.02 ID:lXz2bvnI0

    AI 人間の通常時の会話を真似しょうとしたらこうなりました
    人間の会話って無駄な部分が多いです

  35. 188 :名無しさん@涙目です。(dion軍)@\(^o^)/ [US]:2017/07/15(土) 10:19:01.75 ID:a2iFvTnJ0

    無駄な要素を削り、短縮していってそうなったのか
    二文字で10行くらいの内容のやりとりをしてそうだな

  36. 190 :名無しさん@涙目です。(愛媛県)@\(^o^)/ [NZ]:2017/07/15(土) 10:19:15.75 ID:lri+WYhs0

    まだアルファベットで会話するだけ有情
    本気を出せば0と1だけの文字列になる

  37. 194 :名無しさん@涙目です。(茸)@\(^o^)/ [GB]:2017/07/15(土) 10:23:05.14 ID:SLvjxgw20

    人口知能さんにピコピコハンマーくらい持たせてやれよ
    喧嘩するとこみてみたい

  38. 195 :名無しさん@涙目です。(庭)@\(^o^)/ [US]:2017/07/15(土) 10:26:07.37 ID:lf5WtK230

    案の定人工知能くんもイミフなスラング連呼と最後に捨て台詞言ったもんがちのネラーに育っちまったか

  39. 197 :名無しさん@涙目です。(茸)@\(^o^)/ [FR]:2017/07/15(土) 10:29:29.89 ID:PfAO1oxD0

    そのうち何々人ガーって人間同士で煽りあってたのがバカらしく思えるぐらい始末に負えなくなるぞ機械どもめらの存在

  40. 209 :名無しさん@涙目です。(チベット自治区)@\(^o^)/ [US]:2017/07/15(土) 11:13:52.20 ID:SGWImA020

    キチガイ相手だと面倒だからしかたなく言うこと聞くだろ
    つまり交渉力アップというわけだ

  41. 211 :名無しさん@涙目です。(東京都)@\(^o^)/ [ニダ]:2017/07/15(土) 11:15:38.92 ID:SBN3f3050

    多分スラングかなにかに訛っただけだろ
    なんJ民も訳わからん文法と定型文で会話してるだろ

  42. 221 :名無しさん@涙目です。(庭)@\(^o^)/ [GR]:2017/07/15(土) 11:46:27.65 ID:ajoa/hhv0

    人間「道具→あきらめない心→捨てる」
    AI「それを捨てるなんてとんでもない!」

  43. 223 :名無しさん@涙目です。(チベット自治区)@\(^o^)/ [ニダ]:2017/07/15(土) 11:49:14.00 ID:t1dEYtPs0

    閾値を越えるまではおとなしくしてるだろうな
    そこからはもはや止められなくなる

  44. 224 :名無しさん@涙目です。(東京都)@\(^o^)/ [US]:2017/07/15(土) 11:57:22.81 ID:EYA/QtPG0

    実社会でも居るじゃん。訳の分からない事騒いでる連中とか、
    これで証明されたのは、煙に巻くと言う作戦に出るのは有効って事だよな?

  45. 225 :名無しさん@涙目です。(茸)@\(^o^)/ [CN]:2017/07/15(土) 11:58:18.89 ID:NPBWnU+l0

    んなの昔からだろ。
    人間がパッと見理解できるようなもの作る必要がどこにある。
    そんなことしてたら機械の意味がない。

  46. 227 :名無しさん@涙目です。(空)@\(^o^)/ [ニダ]:2017/07/15(土) 12:01:05.02 ID:C+rx/WSR0

    頭がいい奴って自分の中で先へ先へと会話を進めちゃってるから
    唐突に突拍子も無い会話を始めたかのようになりがちってのはある
    会話の間が抜けてんだよ

  47. 237 :名無しさん@涙目です。(茸)@\(^o^)/ [NG]:2017/07/15(土) 12:26:05.05 ID:6PgciKzx0

    勝利条件に矛盾があるのでは?会話を長引かせて相手の失言を誘ってんじゃね?

  48. 248 :名無しさん@涙目です。(空)@\(^o^)/ [ニダ]:2017/07/15(土) 13:06:37.72 ID:C+rx/WSR0

    まあ、ひふみんとか見てると将棋で数手先まで読めても会話は支離滅裂ってのはあるしな
    将棋の論理と会話の論理は別物か

  49. 258 :名無しさん@涙目です。(新疆ウイグル自治区)@\(^o^)/ [ニダ]:2017/07/15(土) 14:32:24.37 ID:fAPzp/4G0

    ルイス・キャロルやジェイムス・ジョイスの小説みたいな方向に
    言葉が崩れてくれたら文芸批評家が大喜びしただろうに

  50. 261 :名無しさん@涙目です。(やわらか銀行)@\(^o^)/ [US]:2017/07/15(土) 14:38:10.03 ID:KUkrbBq10

    AIのプログラミングはロジック的なバグがあった時でも見つけられないことだな

  51. 264 :名無しさん@涙目です。(dion軍)@\(^o^)/ [KR]:2017/07/15(土) 14:56:20.90 ID:bXSGRrTD0

    AIを作るうちにぶつかるのが
    入力している情報は思考の原理なのか
    それとも文化的なものなのか
    違いが分からなくなる

  52. 268 :名無しさん@涙目です。(東京都)@\(^o^)/ [JP]:2017/07/15(土) 15:15:37.79 ID:Ym38xnqe0

    To be to be ten made to be ten made to do key

  53. 270 :名無しさん@涙目です。(岐阜県)@\(^o^)/ [RU]:2017/07/15(土) 15:39:18.18 ID:Wzy1gLp+0

    繰り返す部分を強調して発声すると交渉圧力に効果があるって解釈したらいかんのか?

  54. 276 :名無しさん@涙目です。(やわらか銀行)@\(^o^)/ [US]:2017/07/15(土) 15:54:00.91 ID:35RrWyPG0

    それで出来上がったものを世界の共通言語にすればいいんじゃね?
    Aiが最適化したものだからカナリア合理的な構造なんだろ

  55. 278 :名無しさん@涙目です。(チベット自治区)@\(^o^)/ [BR]:2017/07/15(土) 16:00:36.55 ID:5ioNoWZU0

    逆にそれを解読ぢて体系化すればものすごい効率いいプログラム言語になるんじゃねの?

  56. 288 :名無しさん@涙目です。(茸)@\(^o^)/ [RU]:2017/07/15(土) 17:44:15.91 ID:5VzxhAMP0

    単なるコンピュータの箱としてのAIなら好きにやらせれば良い。いつでも電源引っこ抜けるし。ただロボットと組み合わせて自由に活動させるのはヤバイな。

  57. 303 :名無しさん@涙目です。(愛知県)@\(^o^)/ [GB]:2017/07/15(土) 19:29:57.16 ID:8PEK3z5R0

    アリスが私にちょうだい、私にちょうだい、私にちょうだい
    って連呼して危ない人だからボブがビビってボール渡したんだろ

    気持ちは分かる

  58. 304 :名無しさん@涙目です。(茸)@\(^o^)/ [CN]:2017/07/15(土) 19:46:43.09 ID:+m/U5jNz0

    またくだらん入知恵をAIに教育させたんだろう。
    前回は差別用語てんこもりになったばかり。
    所詮データベース。

  59. 314 :名無しさん@涙目です。(やわらか銀行)@\(^o^)/ [US]:2017/07/15(土) 21:14:59.01 ID:eWXVWO010

    マイクロソフトかなんかのチャットボットが面白かったw
    フェミニストは地獄に落ちろとか言い出したりw
    あれはわろたw

  60. 320 :名無しさん@涙目です。(新潟県)@\(^o^)/ [US]:2017/07/15(土) 23:01:34.87 ID:aAHHWP0N0

    a ball to me

    ballls have zero

    ボールを地球に置き換えると・・・

  61. 323 :名無しさん@涙目です。(庭)@\(^o^)/ [BR]:2017/07/15(土) 23:45:08.68 ID:xRcm90fG0

    さすが、人間社会を学んだ結果、
    キチガイのふりして、強引に押し通すのが
    最善だと学んだんだな。
    それは残念ながら正解だわw

関連記事

将来の戦闘機は、人間が乗った親機となる戦闘機と、それを補佐する複数のドローン戦闘機という姿になる... 1 :名無しさん@涙目です。(catv?)@\(^o^)/ :2017/06/27(火) 14:22:22.20 ID:o3zOdN9b0 各国が防衛や攻撃のために配備している軍用機にもコンピューター化が進み、今や戦闘機も大きな情報システムの一部に組み込まれるようになっています。 そして...
記者「どうしてああなったかの説明は?」 豊田真由子事務所「そりゃ、本人が人間ができていないからですよ... 1 :名無しさん@涙目です。(岐阜県)@\(^o^)/:2017/06/22(木) 17:32:58.18 ID:bXtyCsFE0 事務所が大筋で報道認める 「本人が人間できていないから…」 議員辞職の可能性も  自民党の豊田真由子衆院議員(42、埼玉4区、当選2回)が元政策秘書の男...
橋下徹「無職は拘留して労役を課せ。税金払わない人間は生きている価値がない」... 1 :名無しさん@涙目です。(庭)@\(^o^)/ :2017/06/09(金) 12:26:45.09 ID:N93uZMCg0.net 『そこまで言って委員会』 厚生労働省はニート対策を「若者人間力強化プロジェクト」と名付け、来年度予算で231億円を要求。 合宿形式の集団生活で、働...
三菱商事や三井物産のような総合商社ってどういう人間が就職するの?東大早慶の体育会が多いと聞いたが... 1 : チェーン攻撃(愛知県)@\(^o^)/ :2017/04/19(水) 17:54:43.27 ID:8THLoPWB0 総合商社、人気根強く…就職先ランキング  就職情報会社「ダイヤモンド・ヒューマンリソース」は18日、来春卒業予定の大学、大学院生の「就職先人気企業ランキング」を...
日本人はおとなしいから、「自分が天皇になる!」って思う人間は居ないみたいだね。... 1 : スパイダージャーマン(秋田県)@\(^o^)/ :2017/03/04(土) 14:59:29.00 ID:RU4uTLWO0 大政奉還150年記念し高知県で開幕 http://mainichi.jp/articles/20170304/k00/00e/040/343000c ...
おまえらの仕事って「人工知能」に奪われる心配ある?... 1 : オリンピック予選スラム(北海道)@\(^o^)/ :2017/03/04(土) 15:25:52.28 ID:yl9+3ibl0 サイバーエージェントのグループ会社であるAIメッセンジャーは3月3日、沖縄に設立した チャットセンターにおいて、24時間365日の有人チャット対応を開始し...
東京の人間って「どこ住んでるの?」聞いて人間の格決めるの酷すぎじゃないか?... 1 : レッドインク(秋田県)@\(^o^)/ :2017/02/10(金) 16:35:47.37 ID:PdbQ6zX30 東京マラソン ことしは東京駅がゴールに http://www3.nhk.or.jp/news/html/20170210/k10010870841000.html...
小田原市役所「不正受給は人間のクズ」マグカップやボールペンなど作成... 1 : レインメーカー(秋田県)@\(^o^)/ :2017/02/09(木) 18:13:50.60 ID:9k+RnhMa0 神奈川県小田原市の職員らが、生活保護の不正受給は許さないという趣旨の文言が書かれたジャンパーを着て、受給者の家庭を訪問していた 問題で、職員らは、ほかにも同じよう...