@ambergon
・ローカルLLMの現実
今のところ一般的なユーザーにローカルLLMを使ってもらうのは、まだ現実的じゃないです。
nVidiaのCUDAべったりが定番なので、nVidia縛りのGPUのVRAMがいくらとか言い出して、そんなアホな~って感じです。
CPU/GPU系各社がニューラルネットワーク系演算に最適化された命令セットを追加したものがこれからもどんどん増えてくるし、一社寡占の現状にプッツンして他でも動くようにする活動がじわじわ見受けられ始めた段階なので、その後ならいいと思います。
・オープンなモデルの実力
パラメータ数でいえば2桁3桁レベルで違うけれど、これだけで回答が変わるわけではないです。
体感ではGPT-3.5の2割・3割引きぐらいかなぁっていう使用感のレポートが出てた気がしますね。
・本音
ぶっちゃけGPT-4でもまだまだアホチンなので、ある程度用途を限った開き直った使い方しかできんよなあ。
AIと友人になれる日はいつでしょうね。
@ambergon あらかじめOpenAI側で仕込まれた指示自体も厳しくなってるし、回答も少々劣化気味だし、容赦なくBANされるし、って感じで、かなり締めつけが厳しくなってる傾向だという話なので、とても気をつけるか、ローカルLLMに移行するか、なにかしら検討したほうがいいかと…
たぶんAITuberとかもこれから受難の日々なんだろうなあ。
This account is not set to public on notestock.
Pawooのようなサービスをやってると、ラッセルのリリースにあったように、
ユーザー
警察
弁護士
サーバー事業者
等から対応を求められるのね。
しかも、どちらかというと増える傾向にある。
mstdn.jpを運営していたDSNOは、もう運営継続は無理だなということで、一度は閉鎖する宣言をした。
あとを引き継いだSujitechにしても、今回のPawooのように、サーバー事業者からの要請に応えきれずサーバ停止に至ったりしている。
mstdn.jpの場合はドイツのVPSを使ってて、そこではテロ関連の投稿であったり児童ポルノだったり、問題のある投稿へ30分以内の対処を求められるとか。まぁ内容によるだろうけど厳しいね。
より小規模なmisskey.ioでも、警察への対応があるそうで。いうて個人運営ですからね。
今回のラッセルの対応は、問い合わせにも真摯に答えているし、見落としたとはいえ、恐らく初動も遅くはなかった。リリースで経緯をしっかり説明し、より体制を強化して努力するという姿勢はすごいよね。
でも負担増になったらむしろ持続可能性が下がってしまうので、安心できない。さて…… [参照]
「パケットの振替輸送受託による混雑の影響でパケットが遅れております。あらかじめご了承ください。」
@BlackStrings あれだけの気の狂ったユーザー数相手だから、適当に非公開のキーワードとか、あるいはもっとよくわからない謎AIとかに引っ掛けた自動処理に違いないからねえ…
相手が人間ならともかく、ブラックボックスの謎プログラム相手だともう嵐過ぎ去るまで待つぐらいのが一番気楽な解決法なわけで。
@BlackStrings たぶんぐぐる様の検索順位とかと似たような感じで、一時的になんかよくわからん理由でON/OFFされるタイプのもんだと開き直るしかないかなあと。
※そもそも考えたことなかった私
電車の地上設備超めんどくさいので、これから電化廃止やら架線撤去で蓄電池化やらの事例が出てくるんだろうなあ…
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
「いまどき機械設計なんて流行んねえぜ~」って言ってくるソフト屋帝国とたたかうやつだな(いみがわからない)
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
IntelさんそろそろナントカLakeのネタがなくなってトチ狂ってBiwa Lakeとか名付けないかな
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
This account is not set to public on notestock.
なぜ饅頭がうまいと表現するためだけに大自然的何かを持ち出さねばならないのか埼玉人の感性がわからない
This account is not set to public on notestock.
「是你教我和平游行是没用」って今年の言葉として何十年も残ると思う><
This account is not set to public on notestock.