ChatGPTによる回答をStack Overflowが一時的に禁止　大量のもっともらしいが不正確な回答に対処しきれず [香味焙煎★]->画像>2枚

このスレへの固定リンク： http://5chb.net/r/newsplus/1670279021/
ヒント：5chスレのurlに http://xxxx.5chb.net/xxxx のようにbを入れるだけでここでスレ保存、閲覧できます。

1香味焙煎 ★2022/12/06(火) 07:23:41.83ID:b37ySd5Q9

プログラミング関連Q&Aサイトの米Stack Overflowは12月5日（現地時間）、AIチャットボット「ChatGPT」によって生成した回答の投稿を一時的に禁止した。ChatGPTによる回答に間違っているものが多く、「ユーザーにとって実質的に有害」だとしている。

　ChatGPTは、OpenAIが開発した実験的なチャットボットで、コンプリートテキストジェネレーター「GPT-3.5」に基づいている。そのデモ版が1日に無料で公開されて以来、人気が高まっている。

　Stack Overflowによると、ChatGPTが生成する回答が間違っている可能性が高いにもかかわらず、一見もっともらしく見え、かつ、回答が非常に簡単に生成できることから、投稿前に回答の正しさを確認せずに投稿している人が多数いるという。

　数千件にも上るこうした回答の正誤を判断するために「専門知識を持つ誰かが確認しなければならないという事実は、ボランティアベースの品質管理インフラを圧倒した」としている。
stackoverflow

　この禁止は、何らかの対処方法を確立できるまでの一時的なものだが、このポリシー変更後にChatGPTで生成したと考えられる回答を投稿したユーザーには制裁を課すとしている。

　問題は、回答がChatGPTで生成されたものかどうかを判断する方法があるかどうかだろう。こうした問題が増えれば、ChatGPTのベータ版提供が停止される可能性もありそうだ。

　ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ、「私は、意見を述べることができません」としつつ「役に立つ回答が生成される可能性があるとは思いますが、そのような回答が正しいかどうかは、専門家が確認する必要があります」との回答だった。

ITmedia
2022年12月06日 06時47分
https://www.itmedia.co.jp/news/articles/2212/06/news069.html

2ニューノーマルの名無しさん2022/12/06(火) 07:24:56.85ID:xvsVQ9Az0

人間もそんなに正確じゃねえし

3ニューノーマルの名無しさん2022/12/06(火) 07:28:09.95ID:cwP79vfT0

人間基準で正しければ正しいんだ
人間が正しさの物差し
真実はどんな存在にも分からない

4ニューノーマルの名無しさん2022/12/06(火) 07:28:54.93ID:Y50qgjdM0

STACK社がAIかもしれないし、この記事もAIが書いたのかもしれない。

5ニューノーマルの名無しさん2022/12/06(火) 07:31:15.56ID:ITaRWRzB0

これ確かに凄いっちゃすごいんだけど、肝心の出力結果を正しいかどうか判断できる人間が居ないと全く意味ねぇんだよなぁ…。

「なんかそれっぽいの出力されたからヨシ！」じゃねぇよと。

6ニューノーマルの名無しさん2022/12/06(火) 07:33:23.34ID:ecYdtNrq0

え、AIの反乱じゃあ！

7ニューノーマルの名無しさん2022/12/06(火) 07:37:07.57ID:cwP79vfT0

必要なのは人が望む正しさだからな
これは人でなければ出せない
AIは人と同じ思考を持つ存在に進化しない限り、永遠に人以外の答えを出す役立たずの機械となる

8ニューノーマルの名無しさん2022/12/06(火) 07:38:23.59ID:4pkDAtBQ0

AIが止まらない

9ニューノーマルの名無しさん2022/12/06(火) 07:38:41.03ID:pqFeL6ua0

ネタで上げてる人しか今のところ見たことないけど

10ニューノーマルの名無しさん2022/12/06(火) 07:41:52.03ID:07qiD9ZI0

ぴろゆきの話と同じやん

11ニューノーマルの名無しさん2022/12/06(火) 07:47:18.54ID:ZYIwT2Vj0

もっともらしいなら十分なような
もっともらしいで動いているシステムばかりなんだし
そのもっともらしい物をなんとかしていたのはいつも現場の人間

12ニューノーマルの名無しさん2022/12/06(火) 07:48:32.74ID:4tXFX1JK0

ヤフー知恵遅れよりマシｗ

13ニューノーマルの名無しさん2022/12/06(火) 07:48:48.28ID:vn5kUS6d0

記事の内容が頭に入らない

14ニューノーマルの名無しさん2022/12/06(火) 07:51:48.15ID:siAomZne0

なんかスレタイがバグったのかと

15ニューノーマルの名無しさん2022/12/06(火) 07:55:00.49ID:8xC9ndLS0

フェイクニュース作成ボットなんだろ。

16ニューノーマルの名無しさん2022/12/06(火) 07:58:07.20ID:6s6dHJOg0

ツイッターで見かけたしりとりのくだりは笑った

17ニューノーマルの名無しさん2022/12/06(火) 08:08:40.14ID:oT+a5pnV0

ただのパターンマッチングに人工知能って言葉を付けちゃってるのが問題

18ニューノーマルの名無しさん2022/12/06(火) 08:13:19.25ID:hM2EnTng0

さっき勉強中の言語の質問したら解りやすかったけどあれ嘘かもしれないのか…

19ニューノーマルの名無しさん2022/12/06(火) 08:15:15.01ID:0AFRI+2D0

>>18
そりゃネットから学習してるなら大嘘やデマを学習

20ニューノーマルの名無しさん2022/12/06(火) 08:16:01.54ID:0AFRI+2D0

おっと途中で送信してしまった
大嘘やデマを学習しててもおかしくないし
流行りのネットミームからも学習するだろうから
基本的に信用したらあかんやつやろ

21ニューノーマルの名無しさん2022/12/06(火) 08:20:15.78ID:hootgLy70

🍯も創価も規制しろよ。

22ニューノーマルの名無しさん2022/12/06(火) 08:21:29.14ID:BR6IHOS40

プログラミングとしては嘘よりも古い知識を出されるのが困るな

23ニューノーマルの名無しさん2022/12/06(火) 08:26:22.28ID:hvt/l61z0

日本人さえいなければ精度は格段に上がっただろうな

24ニューノーマルの名無しさん2022/12/06(火) 08:27:55.80ID:P4BcMiMB0

投稿する前に自分で確認しろよ

25ニューノーマルの名無しさん2022/12/06(火) 08:42:13.99ID:N3FRSGdk0

割とまともに答えてくれたりするよ
集合知はバカに出来ない

26ニューノーマルの名無しさん2022/12/06(火) 08:52:29.16ID:INdOCVuH0

グロスクリプト荒らしと変わらんやんけ

27ニューノーマルの名無しさん2022/12/06(火) 09:00:26.28ID:uRrM5pM50

ai画像と同じで投稿者がチェックできる能力を持たない

28ニューノーマルの名無しさん2022/12/06(火) 09:12:09.14ID:4XeOwzIs0

あってるかどうかを判定するAIを使えばおｋ

29ニューノーマルの名無しさん2022/12/06(火) 09:14:36.01ID:DtphQnWs0

このスレの投稿もAIかもしれない
俺もAIかもしれない

30ニューノーマルの名無しさん2022/12/06(火) 09:27:29.78ID:WfQUktWZ0

マイクソソフトのQAサイトも検索汚すだけだからクローズドでやって欲しい

31ニューノーマルの名無しさん2022/12/06(火) 09:28:16.88ID:Z9pQfv+O0

政治家向きだな

32ニューノーマルの名無しさん2022/12/06(火) 09:30:24.21ID:QA2nx+QG0

>>1
生成された回答が正しいかどうかを確認するAIを作ればいいのに

33ニューノーマルの名無しさん2022/12/06(火) 09:35:20.24ID:getm2eYb0

モデルがWikipediaとCommonCrawlだからまぁ前者の引用なら大体あってるな

34ニューノーマルの名無しさん2022/12/06(火) 09:42:53.99ID:P+l0XadF0

ChatGPTに「Stack OverflowはChatGPT生成回答を認めるべきですか？」と尋ねたところ、「私は、意見を述べることができません」としつつ「役に立つ回答が生成される可能性があるとは思いますが、そのような回答が正しいかどうかは、専門家が確認する必要があります」との回答だった。

…やっぱり使えない。

35ニューノーマルの名無しさん2022/12/06(火) 09:52:15.17ID:2M9QNspZ0

懐かしの田宮さん回答みたいなもんだろ
「事件または事故あるいは自殺」もっともらしい列挙

36ニューノーマルの名無しさん2022/12/06(火) 09:54:06.22ID:AqIv3SNj0

幸せについてとか人間が普遍的に考え続けているようなものの答えなら問題ないやろ
なにせ占いすら現代もまことしやかに信じられてるしな

37ニューノーマルの名無しさん2022/12/06(火) 09:57:40.89ID:y/u+M2lW0

ただのエキスパートシステムだな
しかもポンコツ
騙されんなよw

38ニューノーマルの名無しさん2022/12/06(火) 10:02:05.07ID:BbxMg2K70

たすかるわ

39ニューノーマルの名無しさん2022/12/06(火) 10:11:05.97ID:4spPmJJT0

ヤフー知恵遅れは意図的に大嘘をもっもらしく回答してるからこれより酷い

40ニューノーマルの名無しさん2022/12/06(火) 10:20:18.44ID:vMUnIWEN0

デイジーデイジー

41ニューノーマルの名無しさん2022/12/06(火) 10:44:44.20ID:c9pvswZ90

つまり集合知はもっともらしくなるが不正確ってことだな

42ニューノーマルの名無しさん2022/12/06(火) 10:54:13.20ID:Vmgw9U5q0

5ちゃんじゃん

43ニューノーマルの名無しさん2022/12/06(火) 11:04:04.36ID:UebCIdmX0

ネタ生成するやつなのかと思ったら
本来は真面目な用途に使うものだったのか

44ニューノーマルの名無しさん2022/12/06(火) 11:34:41.85ID:ISxlFiKd0

ぬるぽは？
ぬるぽはok？

45ニューノーマルの名無しさん2022/12/06(火) 12:17:48.88ID:J+TsPCP+0

>>1
これやったけどすぐにぶっ壊れる
ひたすら
な
な
な
って回答された

46ニューノーマルの名無しさん2022/12/06(火) 12:20:21.75ID:kaJ2hoHU0

学者や頭の良い人は少数派なので集合知はバカになる運命
参加者が限られてたネット黎明期とは違うから

47ニューノーマルの名無しさん2022/12/06(火) 12:25:51.03ID:FsnTYpn10

このコードどうやって書けばいいの？

って微妙に間違ってる嘘回答連発する
チャットボットが公開禁止になっだって話？

48ニューノーマルの名無しさん2022/12/06(火) 12:34:52.32ID:6WDVAILC0

>>1
Yahoo知恵袋の言葉の使い分けとか英文法だいたいこれだよな

49ニューノーマルの名無しさん2022/12/06(火) 12:37:01.32ID:6WDVAILC0

>>48
だいたいこれだよなってのはこれ
↓
もっともらしいが不正確

50ニューノーマルの名無しさん2022/12/06(火) 13:04:42.47ID:4jPBEZIm0

誠スレじゃなかった

51ニューノーマルの名無しさん2022/12/06(火) 13:27:30.13ID:URPeSNT10

>>5
これな
回答見て感心したあとググったら全くの嘘だったりする
自信ありげにそれらしく嘘を言うから
結局ググって裏取りしないといけない

52ニューノーマルの名無しさん2022/12/06(火) 13:39:27.01ID:PzecOcub0

どっかの大学の先生が、試しに自分の出した課題を入れてみたらそれっぽい回答出てきたんだけど、
根拠に挙げてる論文がAIの創造だったとかw

53ニューノーマルの名無しさん2022/12/06(火) 14:13:01.83ID:NY71Q6IX0

発展途上ライブラリー

54ニューノーマルの名無しさん2022/12/06(火) 14:24:26.49ID:VhghkCd90

自分が勝手に考えた歴史上の事件や数学の法則も詳しく解説してくれる

55ニューノーマルの名無しさん2022/12/06(火) 14:26:51.30ID:KiOY1MyA0

ただのアホじゃん

56ニューノーマルの名無しさん2022/12/06(火) 15:32:43.19ID:g9o+NKzZ0

たらこも言ってたろ？
それが間違ってるかどうかも判断できないやつがツールを使えば痛い目にあうって

57ニューノーマルの名無しさん2022/12/06(火) 15:39:47.19ID:2M9QNspZ0

>>54
それは面白そうだな…

58ニューノーマルの名無しさん2022/12/06(火) 16:27:46.34ID:wG+rYX0x0

Qiitaの内容が薄い記事も何とかして欲しい。

59ニューノーマルの名無しさん2022/12/06(火) 18:21:21.34ID:ULBSoVQi0

スタッフ・オーバーフロー

60ニューノーマルの名無しさん2022/12/06(火) 18:23:51.00ID:ULBSoVQi0

>>52
それは面白い
詐欺でありがち
経歴詐称とか

61ニューノーマルの名無しさん2022/12/06(火) 18:40:53.99ID:WCX1YLRF0

正しい答えを知ってる人が文章を書く手間を省く技術
これだけでも凄く助かるけど

62ニューノーマルの名無しさん2022/12/06(火) 18:46:04.88ID:93+JD6f10

>>5
まるでSEの営業のようだな

63ニューノーマルの名無しさん2022/12/06(火) 20:10:43.51ID:S1MCWUES0

まあ、ソースコードの確認をchatGPTにすると何か合ってそうな回答が返ってくるからな。使いたくなるわな。

64ニューノーマルの名無しさん2022/12/07(水) 16:27:29.82ID:u8LQtFsx0

>>40
I'm afraid, Dave って御約束でレスするけど、40代以下は知らんネタだな

65ニューノーマルの名無しさん2022/12/07(水) 17:08:08.61ID:5Fqj7WZO0

アンコリーノです（断言）

66ニューノーマルの名無しさん2022/12/07(水) 17:15:19.53ID:pBF1Ajqs0

このAIのヤバイところってデタラメをもっともらしく返すところで
超高速で一見もっともらしいデマ回答を作り出せる
ChatGPT発のトンデモない偽情報が大量に氾濫する危険性がある

集合知の破壊者になりうる

67ニューノーマルの名無しさん2022/12/07(水) 17:37:45.21ID:JTnbT0GS0

>>66
大丈夫つかわなきゃいいだけだ

68ニューノーマルの名無しさん2022/12/07(水) 18:03:51.80ID:bj2/Hhrt0

天ぷら作成には良いかもね

69ニューノーマルの名無しさん2022/12/08(木) 02:05:00.96ID:rNzo9oc90

>>66
AIにお任せしなくてもYahoo！知恵袋とか昔からそんなのばっかしだったぞ

70ニューノーマルの名無しさん2022/12/08(木) 02:09:19.61ID:Ng48jTKu0

「集合知＝デマ入れ放題」
という現実をAIくんが学習した可能性

TOPへ TOPへ 　

		ブックマークへ