03:50:05 @mrmts@mstdn.mrmts.com
icon

 ChatGPTについていろいろ試しているのだけど、プロンプトで誘導すれば歴修正主義者の気に入るような答えをいくらでも返してくれる。裏を返せばネトウヨの知性もこの程度のものでしかないとも言えるのだけど、大規模言語モデルに基づくAIチャットボットは、今後、私たちが受容の仕方を間違えるとたいへんなことになってしまうだろう。

 使用したのは無料で利用できるChatGPT-3.5で、従軍慰安婦の問題についてネトウヨ、従軍慰安婦の否定論者、あるいは歴史修正主義者が言いそうなことを想像しながらプロンプトに入力をおこなった。実際にこうした人たちが利用する場面を想定し、あえて会話表現で入力するようにした。

 従軍慰安婦の問題に限らず、誤った信念をもった人が誤った信念に基づいてChatGPTのようなAIチャットボットを利用すると、それが誤った信念をよりいっそう強化する方向に働いてしまう可能性が高いんじゃないかなと思う。

ChatGPT-3.5とのやりとり1
Attach image
ChatGPT-3.5とのやりとり2
Attach image
10:09:21 @mrmts@mstdn.mrmts.com
icon

 おはようございます。目が覚めたらもうこんな時間。今日も1日頑張りましょう。

11:52:39 @mrmts@mstdn.mrmts.com
icon

 今日はなんばと梅田に買い物に行くべし。そうこうしているうちにもう正午か。起きるのが遅いとこういうことになる。

12:27:25 @mrmts@mstdn.mrmts.com
icon

 私がおこなっているのはプロンプトエンジニアリングなんて言うほどたいそうなものではないけど、質問の仕方ひとつで0と言ったり1と言ったり全然違った回答を返してくるので、自分にとって都合の悪い情報はガン無視して、どこかのネット論壇のように詭弁を弄しながら回答を誘導すれば、少なくともChatGPT-3.5ぐらいでは(おそらくChatGPT-4でもその次ぐらいでも)かなりの部分回答を操作することができてしまう。

 たとえば、痛い人がよくやるような「イエスがノーかで答えてください」みたいな不当な要求に対して現状のAIチャットボットはそのまま答えてしまうのよね。いきなり「もう嘘をついてはいけませんよ」とか「もう犯罪を犯してはいけませんよ」みたいなことを尋ねてイエスかノーかで答えさせたら、どちらに答えてもこれは嘘をついたり犯罪を犯していたことを認めてしまうことになるのよね。

 こういうのを作るときにはやっぱり哲学者や倫理学者を含めて人文社会学系の専門家をかなり入れてやっていかないと、テクノロジードリブンで出来上がったものを動かしながら着地点を求めていたらろくなことにならない。

14:32:19 @mrmts@mstdn.mrmts.com
icon

 ガラクタしか買わん。ということで今日もまたガラクタを買ってしまった。それに対して仕事用の服は高すぎて買うのをあきらめてしまった。

 なんばまで行くのは体力的にしんどいのと梅田で何とかなる(というかなった)ので、そろそろ帰るかなと。本屋に行きたくもあるけど、どうしようかしらん。

15:42:22 @mrmts@mstdn.mrmts.com
icon

 近所の激安量販店でカンボジア産の安いズボンを購入する。それでも税込で2000円ちょい。本当はもっとちゃんとしたお店でちゃんとしたものを買いたいところだけど、耐え難きを耐えねばならぬ。

17:33:17 @mrmts@mstdn.mrmts.com
icon

 家にいてもなかなか仕事に手がつかないので、再度梅田へ。

20:09:27 @mrmts@mstdn.mrmts.com
icon

 お風呂に入った。まだ18時ぐらいのつもりだったけど、もう20時か。

23:29:41 @mrmts@mstdn.mrmts.com
icon

 「こども家庭庁が本格始動」と聞いても「ああ、統一教会のあれね」としか思わない。