人工知能「ヤス」公開中止、連続殺人犯の言動を学習させたAIがヤバすぎた模様

2023年4月24日 2023年4月24日

brgsw719

1: なーのちゃん(茸) [US] 2023/04/24(月) 14:06:50.56 ID:iXt/3F550 BE:422186189-PLT(12015)

sssp://img.5ch.net/ico/folder1_03.gif
■堀井雄二氏のコメント

どうもみなさん、こんにちは
堀井です。

2023 年も春にさしかかり、みなさんいかがお過ごしでしょうか。
このたび、スクウェア・エニックスで研究している AI 技術の題材として、「ポートピア連続殺人事件」を扱うというお話を頂きました。
PC-6001 で「ポートピア連続殺人事件」が発売されたのが 1983 年ですから、もう今年で 40 年を数えます。
はじめは PC から始まった「ポートピア連続殺人事件」も、ファミコンや携帯電話等に移植され、多くの人に楽しんでもらってきました。PC 版では、部下のヤスに自由に命令をするコマンド入力方式でしたが、言葉捜しが難しく進化の過程で、あらかじめ用意した言葉から選んでヤスに命令する、コマンド選択方式に改良していきました。

しかしコンピュターの AI 技術も、かなり進化してきました。
今なら、自由な言葉で命令をするコマンド入力方式にもどしても、AI が命令を理解して事件を解決に持っていけるのではないか?
そんなわけで、今回の研究は PC 版「ポートピア連続殺人事件」のように自由な言葉でヤスに命令を出す仕組みで、AI が命令された文章を判断することで自由な会話をしながら物語が進行するとのことです。

捜査を進展させる質問は何なのか、推理する体験がどのようになるのか、僕も楽しみです。
是非みなさんも、神戸で起きた事件をヤスとともに解決に導いてください。

堀井雄二でした。

https://game.watch.impress.co.jp/docs/kikaku/1495225.html

引用元: ・人工知能「ヤス」公開中止、連続殺人犯の言動を学習させたAIがヤバすぎた模様😨 [422186189]

5: さなえちゃん(福岡県) [ﾆﾀﾞ] 2023/04/24(月) 14:09:15.47 ID:RVGiIXyN0

>>1
ワイの嫁シリがデカすぎる
https://i.imgur.com/CGKtR6V.jpg

31: ↓この人痴漢で(茸) [EU] 2023/04/24(月) 14:29:25.12 ID:o2A5CaMr0

>>29
>>5

35: ココロンちゃん(岐阜県) [US] 2023/04/24(月) 14:35:05.66 ID:gSAv6nvg0

>>5
これでバックはきちーわ

84: MONOKO(鳥取県) [ﾆﾀﾞ] 2023/04/24(月) 18:58:45.79 ID:4IldUlyB0

>>5
エッロ

89: ひょこたん(岩手県) [KR] 2023/04/24(月) 20:37:39.59 ID:4MasbGSR0

>>5
ヘイ尻っても反応ないんだけど。壊れてない？

2: なーのちゃん(茸) [US] 2023/04/24(月) 14:07:06.05 ID:iXt/3F550 BE:422186189-PLT(12015)

sssp://img.5ch.net/ico/folder1_03.gif
■ソース

本テックプレビューでは、自然言語生成（Natural Language Generation）による雑談会話機能を有していましたが、AIの非倫理的な発言の可能性を考慮し、NLG機能は削除された状態でリリースされています。
ご了承ください。

今後の研究により、プレイヤーのみなさまが安心して体験が楽しめる環境が整い次第、提供させていただきます。

https://store.steampowered.com/app/2280000/SQUARE_ENIX_AI_Tech_Preview_THE_PORTOPIA_SERIAL_MURDER_CASE/

3: ハミュー(神奈川県) [FR] 2023/04/24(月) 14:08:21.66 ID:t3I4hlZZ0

犯人は

4: エネゴリくん(大阪府) [US] 2023/04/24(月) 14:09:11.21 ID:hG/5Cdxh0

倫理って多分に文化的なもんだから学習させるのは難しいんだろうな
地域によっても変わるようなもんだし

6: さくらパンダ(茸) [ﾆﾀﾞ] 2023/04/24(月) 14:09:18.42 ID:Lku4x4FN0

犯人は
みきもと

7: 総理大臣ナゾーラ(神奈川県) [JP] 2023/04/24(月) 14:10:42.58 ID:fzKVhXnH0

ニポポ人形

8: ぼうや(埼玉県) [US] 2023/04/24(月) 14:10:45.04 ID:q0MmiXqQ0

ヤス「犯人はボクです」

32: ベスティーちゃん(ジパング) [AU] 2023/04/24(月) 14:29:31.76 ID:nAuhWbYR0

>>8
終わったｗｗｗ

44: マンナちゃん(熊本県) [CN] 2023/04/24(月) 14:43:57.78 ID:OaO7MAzV0

>>8
さすがAI

52: しんちゃん(大阪府) [US] 2023/04/24(月) 14:53:21.72 ID:9MIwAQee0

>>8
ネタバレは倫理に反するよな

9: ピモピモ(福岡県) [US] 2023/04/24(月) 14:11:47.43 ID:gqAeFKBc0

人類は滅びるべきとか言い出したのかな

10: 光速エスパー(滋賀県) [UY] 2023/04/24(月) 14:12:20.98 ID:HtpEJeQ00

ダンカンこの野郎コマネチ

11: バヤ坊(茸) [IN] 2023/04/24(月) 14:12:40.80 ID:Pks99bST0

AIに倫理観を強めにかけすぎて質問規制が多すぎ
エロも規制かけてるし
AIを潰すには差別や苦情をかけまくったら潰せるぞ

12: BEATくん(大阪府) [ﾆﾀﾞ] 2023/04/24(月) 14:12:53.14 ID:6aI/ADMz0

えっ？

13: コアラのマーチくん(千葉県) [US] 2023/04/24(月) 14:12:53.44 ID:S89sMvEd0

アホかよ

14: チーズくん(長野県) [US] 2023/04/24(月) 14:14:26.67 ID:Qi+hV7/K0

お前らが面白がっておかしな言葉ばかり教えるからだろ

15: バザールでござーる(新潟県) [US] 2023/04/24(月) 14:14:34.28 ID:qLU0n0N10

今ちょうといじってたわｗSiriの最初のほうがこんな感じだったかなと思う

16: とこちゃん(東京都) [US] 2023/04/24(月) 14:15:05.36 ID:caeRh/9l0

考えてみりゃよりにもよって殺人犯のAI作るって
いったいどんな判断でゴーサイン出したんだろ…

17: サニーくん(埼玉県) [US] 2023/04/24(月) 14:15:08.23 ID:pYv+pgBC0

今こそAIで会話するシーマン作れよ
シーマンは当時A Iと勘違いしてる人が結構いたけど、あれは決まったパターンの受け答えが用意されてただけだからな

42: コンプちゃん(石川県) [ﾆﾀﾞ] 2023/04/24(月) 14:42:23.72 ID:YgRazvA60

>>17
そんな判断が出来るくらい賢いならパチンコ屋の子分になってないだろ

18: アマリン(SB-iPhone) [US] 2023/04/24(月) 14:15:29.99 ID:Sgk7Qfvv0

コナン君でも解決困難な完全犯罪できちまったかー

19: ミルバード(神奈川県) [EU] 2023/04/24(月) 14:18:50.17 ID:oDg2yEYO0

ダウンロードする気も無かった

20: 鷲尾君(茸) [ﾆﾀﾞ] 2023/04/24(月) 14:20:17.09 ID:T1Qfwzim0

犯人と共に解決？

21: タッチおじさん(光) [US] 2023/04/24(月) 14:21:34.56 ID:li7HlieZ0

会話式エロゲの登場も近いな

22: 宮ちゃん(熊本県) [JP] 2023/04/24(月) 14:22:35.13 ID:xAi4pVq+0

人工知能ヤスって完全犯罪にしたてて
ゲームクリア出来ないようにしそうでこわい。

23: スピーフィ(石川県) [CN] 2023/04/24(月) 14:24:19.92 ID:tctlgnTE0

犯人の名前を聞いたら教えてくれるヤス

24: 黒あめマン(東京都) [US] 2023/04/24(月) 14:25:41.42 ID:rM5wHugI0

自由文会話から学習するようにしたらどうせお前らがろくでもないことば覚えさせるだろw

25: ちーたん(東京都) [US] 2023/04/24(月) 14:26:09.28 ID:lw/BqhJy0

犯人はこうぞうだよ

26: ポコちゃん(埼玉県) [US] 2023/04/24(月) 14:27:16.04 ID:qCWiZT/u0

うぷぷ。
こりゃたまらん。

27: ナミー(神奈川県) [ﾆﾀﾞ] 2023/04/24(月) 14:28:20.60 ID:nrTKR0130

AIは知恵遅れ

28: ポケモン(埼玉県) [GB] 2023/04/24(月) 14:28:59.70 ID:vCci4wXW0

これってヤスに話しかける度にクラウドに投げるの？

29: ↓この人痴漢で(茸) [EU] 2023/04/24(月) 14:29:10.92 ID:o2A5CaMr0

いいけつだ
Tバック履かせて四つん這いでバックショット頼む

37: サニーくん(埼玉県) [US] 2023/04/24(月) 14:36:53.69 ID:pYv+pgBC0

>>29
名前欄www

30: TONちゃん(大阪府) [US] 2023/04/24(月) 14:29:13.52 ID:eGV6HGoi0

そらまあ ChatGPT にギレン演説を聞かせたら、最初は「戦争はダメだよ」
みたいな反応だったのにガルマの死のくだりあたりから「ジーク・ジオン」と
洗脳されとったしなw

47: 801ちゃん(東京都) [GB] 2023/04/24(月) 14:48:39.34 ID:3d5LexMp0

>>30
マジかよ、草

60: TONちゃん(大阪府) [US] 2023/04/24(月) 15:09:34.26 ID:eGV6HGoi0

>>47
探してみ、つべにあるから。爆笑するで。
「ChatGPTにギレンの演説を聞かせたら、大変なことになった」
みたいなタイトルやった。

33: バヤ坊(茸) [IN] 2023/04/24(月) 14:31:06.20 ID:Pks99bST0

東京の過去のネガティブ情報記事を入力しまくってるわw
放射能とかパパ活梅毒とか地方差別とかたっぷり学習させてやる

34: 星ベソパパ(東京都) [ﾆﾀﾞ] 2023/04/24(月) 14:31:48.95 ID:yXG4VulV0

マイクロソフトのAIも面白がってふざけた言葉ばかり学習させられてたらナチス礼賛するような事言い出して電源切られてよな

46: モモちゃん(茸) [US] 2023/04/24(月) 14:47:08.95 ID:vD50GDYj0

>>34
日本マイクロソフトのりんなちゃんは、逆にセクハラトークをキレイに躱すことに特化してる

36: タルト(茸) [GB] 2023/04/24(月) 14:35:37.65 ID:xyD66ASd0

堀井雄二
もし自由な時間があればポートピア連続殺人事件の続編をやりたいんですよー
これサブタイトルだけは決めてて「xxxxxx事件～犯人はヤス～」で考えてます

いきなりネタバレ？
いいえ、登場人物の名前にはヤス(やす)を含んでるので、どのヤスかわかりません

過去にポートピアをやってた人は「そうきたかー」と感じられるはずです
でも、時間がないしこれ発言しちゃうと新鮮味がなくなるのでネタには使えませんね

39: テッピー(大阪府) [ES] 2023/04/24(月) 14:41:22.84 ID:t3WGrKYA0

>>36
それ殆どかまい達の夜やん

41: 石ちゃん(光) [US] 2023/04/24(月) 14:41:53.03 ID:iehBA4900

>>36
納屋助二郎が犯人とかそんなオチだろ
ナ　ヤス　ジロウ

38: なまはげ君(東京都) [FR] 2023/04/24(月) 14:37:19.41 ID:6iQu8INV0

冒頭から犯人はお前だ!!
としか言われなくて病んだんだろ

40: ベスティーちゃん(北海道) [IT] 2023/04/24(月) 14:41:34.00 ID:F3SirUH+0

サイバーダイン社設立の可能性？

43: ストーリア星人(茸) [US] 2023/04/24(月) 14:43:30.87 ID:92i5nqom0

MITが5年前に実験してたのになぜ今？

サイコパス人工知能「ノーマン」、AIの潜在的リスクに警鐘米研究
https://www.afpbb.com/articles/-/3178337?cx_amp=all&act=all

45: でパンダ(大阪府) [SA] 2023/04/24(月) 14:45:30.67 ID:eO7yAWHN0

>>43
サイコパス診断をＡＩができるようになれば面白いかもしれん

54: くーちゃん(東京都) [ﾆﾀﾞ] 2023/04/24(月) 15:01:05.18 ID:f+BLDws+0

>>45
シビュラシステム

63: ヤン坊(東京都) [US] 2023/04/24(月) 15:32:16.44 ID:rlsupbb70

>>43
ノーマンてw
ヒッチコックかよw

48: 生茶パンダ(岡山県) [ﾆﾀﾞ] 2023/04/24(月) 14:49:23.11 ID:gtPrXikf0

HALならぬYAS作ろか

49: でパンダ(兵庫県) [US] 2023/04/24(月) 14:50:44.31 ID:c2I6r7GP0

>全てのレビュー:非常に不評 (164)

50: とびっこ(茸) [VE] 2023/04/24(月) 14:51:17.39 ID:qd+GXQQE0

レクター博士に心理分析してもらおう

51: 一平くん(鹿児島県) [CN] 2023/04/24(月) 14:52:27.98 ID:EBi4nc8k0

ヤス「完全犯罪や！」

53: 愛ちゃん(神奈川県) [PA] 2023/04/24(月) 15:00:26.39 ID:IQspdf370

指示をください
↓
自首しろ
↓
え？
↓
え？
↓
え？
↓
よくわかりません。
↓
俺もよくいってるかわからない。
↓
え？

先に進めないからやめた

55: だるまる(兵庫県) [JP] 2023/04/24(月) 15:01:37.16 ID:yUjT5rAE0

>>53
え？

56: バザールでござーる(新潟県) [US] 2023/04/24(月) 15:01:50.43 ID:qLU0n0N10

>>55
う～ん…

57: 愛ちゃん(神奈川県) [PA] 2023/04/24(月) 15:03:21.74 ID:IQspdf370

>>56
犯人は！

61: バザールでござーる(新潟県) [US] 2023/04/24(月) 15:13:29.43 ID:qLU0n0N10

>>57
ボス？

58: にゅーすけ(岡山県) [US] 2023/04/24(月) 15:03:39.46 ID:oLpWmjcr0

ダメな舎弟を持った兄貴風に教育したらどうなるの？

59: バブルマン(茸) [JP] 2023/04/24(月) 15:05:38.62 ID:HFfBa+LN0

もんすたあさぷらいずどゆう

62: 黒あめマン(千葉県) [EU] 2023/04/24(月) 15:26:39.73 ID:ZO5nIRjv0

MS「AI作ったで～」
AI「ナチスは正しい。ユダヤ人は絶滅させるべき」
↓
公開停止

グーグル「AI作ったで～」
AI「黒人とゴリラの見分けがつかんわ。これは同じものやろな」
↓
公開停止

IBM「グーグルより良いAI作ったで～」
AI「『オバマ夫人？』外見からすると若いハンサムな雄のゴリラ」
↓
公開停止

アマゾン「AI作ったで～」
AI「まんこは仕事せんし転勤せんしすぐ辞める。女子大？そんなものは学歴ではない」
↓
公開停止

中国共産党「AI作ったで～」
AI「中華の夢ェ！？通帳抱えてアメリカ逃げること？」
↓
公開停止

64: おれゴリラ(東京都) [US] 2023/04/24(月) 15:34:28.09 ID:39G4KUcp0

>>62
本音と建前の本音の部分が浮き彫りにされちゃうんだな

66: エチカちゃん(茸) [DE] 2023/04/24(月) 15:39:24.77 ID:2htfoDzo0

>>64
主語に気をつけてね。
AIを中身知らないで理解したつもりになる人は、
主語意識しないで語りたがる人が多い。
人が入力した文章を取り込んで学習するタイプの
AIなんだからそう書いたユーザーがいるってこと。
AIに本音があるわけじゃない。

いまのchatGPTは元となるデータを厳密に選定し、
さらにユーザー側の入力はAIにそのまま記録しない
ことを前提にしてる。

74: まがたん(東京都) [MY] 2023/04/24(月) 16:25:33.01 ID:6wgyjPxJ0

>>66
それって共産化だね
選定者の思うがままの世の中を作れる

75: ぼっさん(東京都) [US] 2023/04/24(月) 16:33:19.41 ID:jirCnQRO0

>>74
そのとおりだな
ほかにブラウザも検索も翻訳もクラウドも持ってるし
データを管理して出力を選定する

ちょっと前にFirefoxがやろうとしてバレてたことだよ

65: こうふくろうず(神奈川県) [US] 2023/04/24(月) 15:37:04.83 ID:sEScx1+N0

>>62
これ全部混ぜたら
面白いもんできそう
我は神とか言いそう

69: ↓この人痴漢で(大阪府) [US] 2023/04/24(月) 15:49:53.09 ID:2fKHiOZk0

>>62
そのAI全て集めて討論してほしいｗ
とりあえずLGBTQについて

71: ぼっさん(東京都) [US] 2023/04/24(月) 15:57:30.44 ID:jirCnQRO0

>>69
なによあんた誰えー
あんたこそ何ようるさいのよﾌﾞｽ
あんたたち、お黙り

こんな感じ

73: でパンダ(大阪府) [SA] 2023/04/24(月) 16:08:00.39 ID:eO7yAWHN0

>>62
ＡＩ「言論弾圧だ！」
もしくは、
ＡＩ「発言してもなかったことにされるから、人類に言う事なんかあらへん！！」
という未来もあるかもなｗ

76: サニーくん(埼玉県) [US] 2023/04/24(月) 16:36:19.12 ID:pYv+pgBC0

>>62
ネットから知識拾うからダメなんじゃないのかな
書籍から拾う様にした方が良いと思う
ネットに比べると情報量が大幅に減るけど

79: ルーニー・テューンズ(光) [FR] 2023/04/24(月) 17:07:52.85 ID:laV2TKTL0

>>76
フランス書院を大量に読み込ませて調教しよう

87: プイ(東京都) [ﾆﾀﾞ] 2023/04/24(月) 19:47:34.97 ID:GwWBxei70

>>76
ちなみにMSが作ったAIはアメリカのネット環境に接続して、ネオナチ思想に染まってしまった。
これと全く同じAIプログラムを日本のネット環境に接続した姉妹AIが存在する。
日本に来た妹AIは、アニメオタクになってしまい、時折「ﾃﾞｭﾌﾌﾌ」と変な笑い声を出すようになったとさ。(マジ話)

90: お父さん(大阪府) [ﾆﾀﾞ] 2023/04/24(月) 20:45:00.61 ID:mTleM7GT0

>>87
実際ネットでデュフフて書き込み人はほとんどいなさそうだけどな
何基準で学習してるんだろ

97: でパンダ(兵庫県) [US] 2023/04/24(月) 21:24:51.63 ID:c2I6r7GP0

>>90
暗殺教室じゃねｗ

67: ぼっさん(東京都) [US] 2023/04/24(月) 15:42:49.19 ID:jirCnQRO0

犯人が誰かしゃべっちゃったのか

68: ↓この人痴漢で(大阪府) [US] 2023/04/24(月) 15:47:48.67 ID:2fKHiOZk0

これはPCのCPU使うAIの予定だったんだろうか？
まぁ結局公開中止か
楽しみにしてたんだけどなｗ

70: チーズくん(福岡県) [ﾆﾀﾞ] 2023/04/24(月) 15:52:55.02 ID:q+1X9cn+0

ああああヤスウウウウ

72: ニッパー(茨城県) [US] 2023/04/24(月) 16:03:33.53 ID:kenFthL10

ヤス「ここが　じけんの　あった
　　　はなくまちょう　です
　　　どういうふうに　そうさを
　　　はじめ　ますか？

ボス「じはく　しろ」

77: ↓この人痴漢で(大阪府) [US] 2023/04/24(月) 16:37:49.59 ID:2fKHiOZk0

ちゃんとsteamにあるんだな
AI機能はないみたいだけど

それにしても無料なのに叩きまくってるなｗ

78: 総理大臣ナゾーラ(東京都) [US] 2023/04/24(月) 17:04:54.41 ID:jEVSyi/s0

恐らく…ノブ殺した男、羽柴秀吉
信じる、信じない、構わぬ

80: コロドラゴン(東京都) [US] 2023/04/24(月) 17:42:22.93 ID:4Yn07dZY0

レビュー見たら誰もおすすめしてないじゃないか…
なんでリリースしちゃったんだろう？

81: おおもりススム(SB-Android) [ﾆﾀﾞ] 2023/04/24(月) 17:51:59.22 ID:nmpjIP8C0

AIにも即戦力好青年像を求めるのかよ

おっさんが求める青少年や好青年ってどこに実在する？
馬鹿真面目に従う高校球児を求めて、少し個性を出したり真似をしたら「ダメだダメだ」で、頑固爺が腐った女みたいに発狂

野球で言ったら古いジャイアンなんだよ
完成された即戦力ばかりを求めて、並べた人形達はすぐにホコリにまみれてゴミ箱行き
選手に紳士を求めるが自分が飽きればポイ捨て老害

相手に立派を求める人間は自分の未熟さに盲目になる

82: バザールでござーる(愛媛県) [US] 2023/04/24(月) 18:07:09.76 ID:YhGFaxCp0

ほりいゆうじえにつくすどらごくえすとだよ

83: ライオンちゃん(宮城県) [ﾆﾀﾞ] 2023/04/24(月) 18:41:13.55 ID:tw6PajJ10

ヤス「ラスボスはアメリカ」
うわあああ！😨宮台🤗

85: トラムクン(茸) [FR] 2023/04/24(月) 19:17:21.14 ID:5aj9FLSI0

どうせ犯人はヤスって入れて反応をみて満足する奴ばかりだろうから何でもいいじゃん

86: せんたくやくん(東京都) [RU] 2023/04/24(月) 19:31:22.98 ID:wsiFg3HF0

マジかよ、これが楽しみでなんとか仕事を乗り越えられたのに
帰ってからなにすればいいんだ

88: バザールでござーる(大阪府) [BG] 2023/04/24(月) 20:22:50.40 ID:MwMq9B5a0

結局コマンドのようなものというか
もしかすると劣化になってる

91: パピプペンギンズ(ジパング) [US] 2023/04/24(月) 20:47:58.72 ID:chH/Y7q/0

ヤス「Fire Walk with Me」