32B 4bitの必要メモリが18.43GB、14B Q6（6bit量子化ってこと？）の必要メモリが12GB、14B Q4の必要メモリが8.31GB。8.31GBで動くならかなりメモリに余裕でるな
RE: https://fedibird.com/users/JiaYue/statuses/113916473685490833
君継 葭月🔑(@JiaYue@misskey.noellabo.jp)の投稿
Fediverse探訪の一環で登録してみました。最近は画像生成AIで遊んでいます。好きなものは狐耳と小さい胸と鼠蹊部で、冒険企画局のTRPGなどを嗜みます。スマホゲーやNetHack、音声作品やえっちな音声作品、えっちな実演音声作品などについてもよく話します。
| 月 | 火 | 水 | 木 | 金 | 土 | 日 | |
| 1 | 2 | 3 | 4 | 5 | |||
| 6 | 7 | 8 | 9 | 10 | 11 | 12 | |
| 13 | 14 | 15 | 16 | 17 | 18 | 19 | |
| 20 | 21 | 22 | 23 | 24 | 25 | 26 | |
| 27 | 28 | 29 | 31 |
32B 4bitの必要メモリが18.43GB、14B Q6（6bit量子化ってこと？）の必要メモリが12GB、14B Q4の必要メモリが8.31GB。8.31GBで動くならかなりメモリに余裕でるな
RE: https://fedibird.com/users/JiaYue/statuses/113916473685490833
