13:43:36 @azyobuzin@xxx.azyobuzi.net
icon

Eclipse Theia、高い拡張性であなただけのエディタを作ろう!なんだけど、ドキュメントがあまりにもないので、おそらくまともな応用例は関係者作なんだろうなぁと勝手に思ってる。

15:03:41 @azyobuzin@xxx.azyobuzi.net
icon

NOTIFYってトランザクション内で使うとトランザクションのコミット通知という扱いになるのか
https://www.postgresql.jp/document/14/html/sql-notify.html

15:16:17 @azyobuzin@xxx.azyobuzi.net
icon

ChatGPTがクソデカ言語モデル(単語列間のもっともらしさの評価関数)だけで構成されてるのか、ルールベースな回答法も併用しているのかが気になっている

15:19:39 @azyobuzin@xxx.azyobuzi.net
icon

ChatGPT自身に仕組みを聞いてみた感じは前者っぽいんだけど、どうしても一般人が書いた文章を学習して得られる出力だと思えないんだよなぁ。前処理がめちゃくちゃうまいんか?

Attach image
15:24:00 @azyobuzin@xxx.azyobuzi.net
icon

Azure AI supercomputing infrastructure で学習しました!って https://openai.com/blog/chatgpt/ に書いてあるけど、この計算資源を使う価値があるまでデータセットの精度を高めるために大量の人間が文章のチェックをしたんだろうな……。これが人間にしかできないお仕事です

Web site image
ChatGPT: Optimizing Language Models for Dialogue
15:30:37 @azyobuzin@xxx.azyobuzi.net
icon

ChatGPT自身に仕組みを聞くの、嘘が返ってくるのでやめたほうがいいです(おしまい)。ChatGPTは次の単語列を錬成するときの探索に強化学習の手法を使っているってブログに書いてあるやんけ。おそらく GPT-3 の説明が返ってきてるな

Attach image
15:34:12 @azyobuzin@xxx.azyobuzi.net
icon

AIをお試ししたらみんなフィードバックボタン押してあげましょうね

15:36:47 @azyobuzin@xxx.azyobuzi.net
icon

Twitter で ChatGPT の会話例見まくってたけど、かなり長い前提を教えてから本題を頼む(キャラの特徴を教えてから、その口調で小説を書かせるみたいな)ができているので、 140 文字の文章をまともに読めない人間よりもワーキングメモリーがでかいことは間違いない。ワーキングメモリーのサイズってディープラーニング的には1試行あたりの行列のデカさのはずなので、実行環境の強さがわかる…

15:59:51 @azyobuzin@xxx.azyobuzi.net
icon

pgAdmin4、起動するたびに新バージョンがリリースされてるな

19:25:26 @azyobuzin@xxx.azyobuzi.net
icon

Npgsql の JSON 対応強すぎてワロタ

Attach image