【悲報】香川県の自治体、chatgptを使ってゴミ分別ルールの案内をしようとするも嘘ばかりつくため失敗に終わる

2023年12月27日2024年1月13日

0001 名無しさん 2023/12/20(水) 09:28:55.59 ID:r4N1iTQvd●

生成AI使った○ミ出し案内サービスの導入断念香川三豊市

生成AI「ChatGPT」を使った○ミ出し案内サービスの実証実験を進めていた香川県三豊市は、AIによる正しい回答の割合が目標に届かなかったことから、本格導入を断念しました。

三豊市と東京大学大学院の松尾豊教授の研究室は、ことし6月から「ChatGPT」を使った○ミ出し案内の実証実験を開始しました。

市のホームページの専用画面で、○ミの種類や内容などを入力すると、AI＝人工知能が分別や処分の方法を考えて文章で表示するものですが、正しい回答の割合が62.5％にとどまったため、7月7日に実証実験を休止しました。

そのあと、さまざまな改善を行って、10月23日から先月末まで2回目の実証実験を行いました。
https://www3.nhk.or.jp/news/html/20231220/k10014292781000.html

0002 名無しさん 2023/12/20(水) 09:29:51.14 ID:EXWenIMU0

こんなんチャットボットでいいやん

0003 名無しさん 2023/12/20(水) 09:31:05.41 ID:bhe4WFTF0

AIにやらせる必要あるか？

0004 名無しさん 2023/12/20(水) 09:31:10.59 ID:5GW0RfrZH

○ミの分別なんてイエス・ノー選択する方式で出来そうだけどダメなん？

0005 名無しさん 2023/12/20(水) 09:32:13.45 ID:KjruD5wc0

そんなに低くなる理由あるか？

0024 名無しさん 2023/12/20(水) 09:43:50.02 ID:JkESgFH00

>>5
正しい文法の日本語で質問しないと
とんちんかんな回答になる

0006 名無しさん 2023/12/20(水) 09:33:02.49 ID:lH47ZRGa0

＞2回目の実証実験でも正答率が94.1％にとどまったことなどから、

改善してもこれってどういうことやねん

0053 名無しさん 2023/12/20(水) 10:10:06.96 ID:rSJ/UgC6a

>>6
どんな質問なのかによるがコールセンターの担当者置くより正答率高そうだけどな94.1％だと

0007 名無しさん 2023/12/20(水) 09:34:47.69 ID:4YYzMbg00

名指しでダメ出しされる松尾研草

0008 名無しさん 2023/12/20(水) 09:35:01.84 ID:kTeyO6LA0

検索してくるおじさんみたいなモノだから
ソースページが間違ってたらウソになるわな
ある虫みたいなやつの足の数聞いたらさ
同じ回答の中で4本と6本って言いやがったｗ

0009 名無しさん 2023/12/20(水) 09:36:09.81 ID:/Fsr9bqs0

これ半分AI安倍晋三だろ

0010 名無しさん 2023/12/20(水) 09:36:50.72 ID:O+piL5WuM

AIって嘘付くことあるの？？

0013 名無しさん 2023/12/20(水) 09:39:02.03 ID:4YYzMbg00

>>10
ひろゆき程度には

0014 名無しさん 2023/12/20(水) 09:39:02.77 ID:HrqOc+E/0

>>10
学習元の情報が間違っていればAIも間違う
現状では正確性が重要な分野では全く使い物にならない

0060 名無しさん 2023/12/20(水) 10:17:02.24 ID:WjLZcXTR0

>>10
Chat Gptやってみろよ
嘘じゃない回答のほうが少ないぞ

0063 名無しさん 2023/12/20(水) 10:18:43.72 ID:i4nujpjYM

>>10
使ったことないのかよ
要は大規模な人工無能くんだよ

0066 名無しさん 2023/12/20(水) 10:19:20.48 ID:TU3dMfqV0

>>10
安倍晋三は生きてる

0011 名無しさん 2023/12/20(水) 09:37:30.34 ID:nPm5nRow0

うどんでもこねてろ

0012 名無しさん 2023/12/20(水) 09:38:23.77 ID:0l+8PwYP0

デジタル化で税金が安くなる→ウソむしろ増税
ＡＩで税金が安くなる→ウソむしろ増税

ジャアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアア

0015 名無しさん 2023/12/20(水) 09:39:24.67 ID:pWmxTjQQ0

もうシンギュラリティはじまってるやん

0081 名無しさん 2023/12/20(水) 11:01:47.46 ID:h/pNFIgTM

>>15
晋ギュラリティだから

0016 名無しさん 2023/12/20(水) 09:39:27.30 ID:kTeyO6LA0

それウソだろって突っ込むと終了させようとしてきたな
質問ありがとうございました。みたいなの何回も言ってきた
ごまかしする小学生みたいな知性

0020 名無しさん 2023/12/20(水) 09:42:04.45 ID:H1bJLsp40

こういうのにChatGPTって向いてないんだよな
100％正確な回答を求めるような仕事はまだできない

自治体で使うとしたら自治体主催のイベントの、イベント名やどんな内容にしたらいいか見たいのを考えさせて人間が最後に判断みたいな使い方だよ

0025 名無しさん 2023/12/20(水) 09:44:41.58 ID:lH47ZRGa0

>>20
そんなのもう公募でもしてやってる感だせばいいだけだしな

0021 名無しさん 2023/12/20(水) 09:42:11.97 ID:6K4F3SVR0

学習させるから駄目なんだろうな
人工無能に正解を叩き込みまくるしかないだろ

0022 名無しさん 2023/12/20(水) 09:42:33.46 ID:StXTYHwVd

AIは学習データと設定に従ってに答えを出力してる、
超高性能な計算機に過ぎないからからな

誤った回答を嘘と表現するのは間違い

0023 名無しさん 2023/12/20(水) 09:43:20.69 ID:g4/yx5wD0

＞AI＝人工知能が分別や処分の方法を考えて文章で表示するものです
～～～

この認識が根本的かつ致命的に間違っている
このAIは「何も考えていない、何も認識していない、何の意識もない、ただし管理者が設定したフィルタで制限され捻じ曲げられている」
AIが考えているというのが土台間違い

0062 名無しさん 2023/12/20(水) 10:17:46.27 ID:Mz6hOqHvM

あるある

チャットGPTさんに
あんたの答えは正しいんかきいたら
ワイのゆうことは正しいかどうか確認が必要や
ゆうて返事くれるし

>>23
ですよね( ´ ▽ ` )ﾉ

0028 名無しさん 2023/12/20(水) 09:45:41.56 ID:27jJETBA0

AIで94.1%なら人間が応答したら何%なん？

0029 名無しさん 2023/12/20(水) 09:45:55.41 ID:JkESgFH00

こういう単純化出来るQAで
わざわざAIを使おうとする発想が高卒レベル

0030 名無しさん 2023/12/20(水) 09:46:36.36 ID:HrqOc+E/0

Bing AIに社会問題とかの質問すると引用したソースのURL丁寧に羅列するんだけど、そのソースがウィキペディアとか大手ニュースサイトなんだよね
この時点でありふれた返答しか返ってこないのがわかる

0031 名無しさん 2023/12/20(水) 09:47:16.56 ID:bhZnvZu50

東京大学大学院の松尾豊教授の研究室って例の大澤昇平がおったトコやんけ
ならAIがポンコツでもしゃーないかも

0033 名無しさん 2023/12/20(水) 09:48:07.08 ID:JkESgFH00

>>31
大澤って高専卒の低学歴だっけかw

0032 名無しさん 2023/12/20(水) 09:47:55.95 ID:kgbLeqvb0

無能AI

0034 名無しさん 2023/12/20(水) 09:48:21.93 ID:kTeyO6LA0

機械検索のクセ考えてやる面倒くさい検索の代行してくれるって思ったら役立つ

0035 名無しさん 2023/12/20(水) 09:49:31.27 ID:GYpiMc3xa

人間は100%正解するんだぞ

0040 名無しさん 2023/12/20(水) 09:56:09.12 ID:QBxm8cFVM

>>35
やめたれwwwww(官僚/行政の無謬性)

0036 名無しさん 2023/12/20(水) 09:50:01.78 ID:Yg+nkLzBr

そんなの聞いてねえよみたいな返答してくるし

0038 名無しさん 2023/12/20(水) 09:54:54.72 ID:g4/yx5wD0

これ分かってる人間なら「オイ、ふざけんな」って即座に見抜けるじゃん
けど分からないから質問した場合は何が間違ってるかもわからない

0043 名無しさん 2023/12/20(水) 10:01:17.83 ID:fnQnay090

文章の考え出しに使ってる
0を0.1ぐらなクオリティしか出してくれないけど白紙からやるよりは負担が少ない

0044 名無しさん 2023/12/20(水) 10:02:07.56 ID:foPzVgra0

安倍晋三AI「意味のない分別だよ」

0046 名無しさん 2023/12/20(水) 10:03:41.93 ID:bmU5i9JU0

そんなのデータベースでよくね
問い合わせのあったものは随時追加していけばいい

0047 名無しさん 2023/12/20(水) 10:03:44.15 ID:1Q0jCwug0

お前ら基準のAIだとリチウム電池は燃えるから燃える○ミとかなるんだろうな

0048 名無しさん 2023/12/20(水) 10:05:23.56 ID:QldwPvhir

人間よりア○はきついな

0049 名無しさん 2023/12/20(水) 10:05:29.25 ID:7ZJrmh8K0

まだ使えるレベルじゃないってことだよ
まだまだ人間の仕事は無くならないよｗｗ

0052 名無しさん 2023/12/20(水) 10:09:26.95 ID:N5TMxlOB0

>>49
そういうことよりも、AIを真に受けてとんでもないことやらかす奴が出るリスクがヤバい
Googleマップのナビを盲信して車の事故起こしたケースは枚挙に暇がないだろ
ああいうのが発生するんだよ

0050 名無しさん 2023/12/20(水) 10:06:49.34 ID:pvjuJc/I0

プロンプトが雑そう

0054 名無しさん 2023/12/20(水) 10:10:47.94 ID:SIkrWNUk0

結局人間がダブルチェックするなら意味ないわな
最初から人間でいい

0056 名無しさん 2023/12/20(水) 10:14:05.61 ID:kTeyO6LA0

誰が書いたかわなんない素人のページがたまにソースになってたりする
よく知らないけど今ググってきたーって感じの人間にソックリ
ネット情報の信頼性を判断する能力が低い
ウソの山から当たりを引くための前提知識や人間的な勘とか経験が不足してる…

0057 名無しさん 2023/12/20(水) 10:15:45.77 ID:bnNTRMiga

100%正しくないとバグだからな

0061 名無しさん 2023/12/20(水) 10:17:25.30 ID:g4/yx5wD0

普通に検索したらすぐに辿り着ける情報にたいして
訳の分からん方向に誘導し始めるのがChatGPT

0064 名無しさん 2023/12/20(水) 10:19:13.35 ID:7fEGAFIv0

○ミは自治体によって違うしな
ペットボトルひとつでも潰せって所と潰すなって所もある
AIで学習してもそういうルールを取捨選択しなきゃならんなら自分らで手打ちで最初からソース作った方が早いだろ

0065 名無しさん 2023/12/20(水) 10:19:19.18 ID:d41H4jhx0

chatgptは持ってる情報古いし、bingは半年前から進化どころか部分的に劣化してるし

0067 名無しさん 2023/12/20(水) 10:20:09.34 ID:gNWzazww0

○ミは結構めんどくさいんだよな
プリンター捨てるとき○ミ処理券必要かどうか電話したわ

0068 名無しさん 2023/12/20(水) 10:22:24.99 ID:N4XdKKIn0

コイツせいぜい凡エンジニアの代替くらいしかできなくないのか?

0069 名無しさん 2023/12/20(水) 10:28:09.18 ID:JkESgFH00

現状では学習内容がアレというだけじゃなく
日本語ローカライズが不充分で
入力された質問の文体に回答が左右されまくるのが
一番の問題

正しい日本語を使える奴しか
AIを正しく利用出来ない

ちなみに英語の場合は
スラングを使いまくったかなりブロークンな質問でも
割と正しい回答を出来たりする

構文解析が単純な言語と難易な言語で
かなり差があるんだわ

0135 名無しさん 2023/12/20(水) 23:44:55.92 ID:byhKzijI0

>>69
虚言癖の戯言

0071 名無しさん 2023/12/20(水) 10:33:02.33 ID:qCDN4OqEM

香川県レベルの低さがまた1露呈したね。
くだらない条例作って遊んでるからこうなる

0073 名無しさん 2023/12/20(水) 10:40:20.34 ID:WwRq3cxsd

中国ならなぁ

0075 名無しさん 2023/12/20(水) 10:42:16.19 ID:TYCTfi1b0

ChatGPTは真贋を判断できないから「那須壁県の郡里球場前駅でオススメのカフェを教えて」って聞くと5個くらい架空のカフェをリストアップしてくるヤバい奴だぞ

0076 名無しさん 2023/12/20(水) 10:44:25.02 ID:v/RDr8Jl0

ビングで検索するのやめちくりー

0077 名無しさん 2023/12/20(水) 10:49:12.31 ID:VOjQy2lG0

無料版なら昔のデータからしか回答しないし

0078 名無しさん 2023/12/20(水) 10:49:36.38 ID:QE4UqP880

自治体によって違うからこうなる

0080 名無しさん 2023/12/20(水) 11:00:16.85 ID:226OiHRO0

データの属性は自治体にしか分からないのにAIに聞く意味ないよ

0082 名無しさん 2023/12/20(水) 11:08:23.27 ID:8K6BaZ8o0

論理的な問題は向いてない

0086 名無しさん 2023/12/20(水) 11:34:19.31 ID:kPXpaG590

94％まで正解ならまあいいんじゃないの

0088 名無しさん 2023/12/20(水) 11:57:57.98 ID:UkedfFmD0

○ミの分別ルールは面倒臭すぎる

0090 名無しさん 2023/12/20(水) 12:01:34.98 ID:kTeyO6LA0

自治体によって違うんだよな
なんか消防署と自治体で喧嘩してたのもあったな、スプレー缶だったかな、行政でも縄張り違えば都合も違うから決まってないｗ
納豆のパックとかもネバネバついてるから再生プラに入れないでとかｗメーカーはプラってマークつけてんのにｗ
ペットボトルも分別しても燃やすし
ペットボトルの首根っこのリングも取れってとこもあるんだってな

そんなん、ＡＩは知らんがな
地域つけてやれば答えてくれるかもしれないけど…間違ってるだろうな

0094 名無しさん 2023/12/20(水) 12:05:57.29 ID:BnJzljoX0

gpt4にPDF読ませてもそうなんの？

0097 名無しさん 2023/12/20(水) 12:10:19.69 ID:4YYzMbg00

>>94
gpt3で6割だったからgpt4にして9割達成したちゅう話やで

0095 名無しさん 2023/12/20(水) 12:06:49.80 ID:2EkrKFIe0

曲の提案させてリスト作ることできるから
プレイリスト作ってもらってSpotifyに連携できないか聞いてみたら
出来るって回答するから
試したけどやっぱ出来なかったわ

0099 名無しさん 2023/12/20(水) 12:14:59.20 ID:r4N1iTQvd

自信満々に嘘つかれたら信じちゃうよな

こういうのは生成AIじゃなくてチャットボットにやらせるんだろうな

$【悲報】香川県の自治体、ChatGPTを使って○ミ分別ルールの案内をしようとするも嘘ばかりつくため失敗に終わる [294565846]\n_1$

0101 名無しさん 2023/12/20(水) 12:20:35.64 ID:wkkX+WBf0

ゴリ押しで欲しい回答聞き出せるしな

0102 名無しさん 2023/12/20(水) 12:21:25.25 ID:qkeek6nSH

ちょっと触ったら適当ってわかるやん
それっぽい答えを知ったかで出してくる道具にすぎない

0103 名無しさん 2023/12/20(水) 12:26:36.20 ID:6jPl6kqia

質問なんて限定されてるんだから
普通にQA作ればよくね？

0104 名無しさん 2023/12/20(水) 12:27:56.60 ID:K4RogPXr0

じゃあバレないように新聞紙に包んでとかとても人間らしくていいじゃん

0105 名無しさん 2023/12/20(水) 12:31:39.80 ID:kTeyO6LA0

AIで曖昧さを持たせるから誤りの原因になるんだわな
向いてない使い方

0106 名無しさん 2023/12/20(水) 12:37:03.89 ID:2Dp8wIyQ0

リネットジャパンのも単純なチャットボットからChatGPTに変わって凄い使い辛くなったわ

0108 名無しさん 2023/12/20(水) 12:41:57.42 ID:ZnK/kFQ60

役所の人間は１ヶ月もチャットGPTとチャットしてるだけのお仕事かよw
せめて10日で気がつけよw

0110 名無しさん 2023/12/20(水) 12:57:08.87 ID:KH3aRK3Z0

絵描くAIも字を書かせるとなんか変だろ
CHATgptでもなんか変なことあるんだよ

0111 名無しさん 2023/12/20(水) 13:02:30.50 ID:RS1HAji6a

なんだAIが自動で分別するんじゃないのか
意味のない実験だよ

0112 名無しさん 2023/12/20(水) 13:17:16.83 ID:XUyQB0fU0

AIはまだ速いにゃ

0113 名無しさん 2023/12/20(水) 13:17:32.86 ID:0jiccYnWM

あうあうあー

0118 名無しさん 2023/12/20(水) 14:48:54.28 ID:o9sDz+HZ0

ちゃんとプロンプト設定してないんだろ
そもそもプロンプトって概念すら知らなそう

0119 名無しさん 2023/12/20(水) 14:49:43.67 ID:2X303IVC0

香川の○リポおじさんだぽ

0120 名無しさん 2023/12/20(水) 14:57:57.00 ID:GCq36TY90

AI「水銀式体温計は燃える○ミです」
↓
焼却炉稼働停止

0121 名無しさん 2023/12/20(水) 14:59:45.38 ID:us77xVnRH

AIが自信満々に誤答したら使えないけど、AIが迷ったりわからないと答えたものはここへ、のような○ミ捨て場を新設すれば運用できるでしょ
それと、AIが回答する内容をわざと限定して、その中に当てはまらないものは回答が難しいものとして、上記の新設の○ミ捨て場に捨ててもらって、○ミ収集の人が区分けするとか

なんか、これだけに関わっているわけじゃないだろうけど、日本の最高峰のAI関係者が半年間時間をこれに使っていた間に、主にアメリカのAIは格段に進歩したし
しかも、できませんでした、だし
自分とこで日本語に特化した大規模言語モデルを出してなかったっけ？
性能いいなら、それ使えばいいじゃん

この記事読んで、日本のAI研究は駄目なんだな、と思いました

0129 名無しさん 2023/12/20(水) 16:47:38.65 ID:xxr7C2Y40

>>121
無理してAI使わなくていいよ

0122 名無しさん 2023/12/20(水) 15:55:07.80 ID:QVwv0xfY0

学習情報に基づいて、文章や絵を確率でもっともらしく出力するのが生成AIだろ（自然でもっともらしいかが重要なので、事実の成否は適当）
そんなことは自明なのに、こういう運用しようとする自治体は脳みそ付いてないんじゃないか？

0123 名無しさん 2023/12/20(水) 16:05:31.23 ID:Hf/PUKoU0

かなり人間に劣るやん

0124 名無しさん 2023/12/20(水) 16:09:33.84 ID:Bez0BkR90

○ミの分類をなんでchatGPTにやらせるの？

0125 名無しさん 2023/12/20(水) 16:20:00.98 ID:GYp45/v90

行政や公的書類は無謬性が求められるからAIにお任せして出来上がりチェックしてオーケーとか危ない事この上ないわな
チェックってのは結局他人事だから漏れがあるし

0126 名無しさん 2023/12/20(水) 16:42:47.80 ID:XNQeOxuq0

Microsoftもエヌビディアもこのおかげで株価めちゃくちゃ高いんだけど？

0127 名無しさん 2023/12/20(水) 16:44:16.49 ID:XNQeOxuq0

うーん、ファジー

0128 名無しさん 2023/12/20(水) 16:46:40.26 ID:608j3W+Tr

松尾が現状日本のトップだからなあ
まあ無理なんやろ

0130 名無しさん 2023/12/20(水) 16:50:54.40 ID:XrHF58/p0

デジタル大臣の河野太郎さんはChatGPT推しで
自分の脳みそにまでChatGPTをいんすとーるしたのにいったいなぜ・・・・

0131 名無しさん 2023/12/20(水) 16:53:47.92 ID:Mf1Qgij70

でもケンモメンよりは精度高いよね

0132 名無しさん 2023/12/20(水) 16:55:00.57 ID:en0qkqSY0

エクセル関数で作れそう

0133 名無しさん 2023/12/20(水) 16:56:06.69 ID:KFQ+y5130

熊本市でもこんな○ミ分別チャットbotアプリあるけど普通に動くぞ

0134 名無しさん 2023/12/20(水) 18:28:00.22 ID:gwbmfrUQ0

香川自体が○ミだから困惑するね

0136 名無しさん 2023/12/20(水) 23:57:58.81 ID:vA+0fsww0

無料のだからか？

0138 名無しさん 2023/12/21(木) 03:23:30.75 ID:wQOdMYAF0

お笑い芸人がYoutubeでよくやってる○○の代表的なギャグを教えてくださいって質問の回答めちゃくちゃだよな
どう作ったらあんなことになるのか疑問だわ

参照先 https://greta.5ch.net/test/read.cgi/poverty/1703032135/\n\n\n\n\n

ネット炎上

Posted by oruka