2023年10月16日
他の年の同じ日
前の年
20:35:17 @uaa@social.mikutter.hachune.net
オリジナル notestock 公開ページリンク
icon

TVMのビルドにLLVM-15が要るって時点で詰んだ気がする。WSLのUbuntu、LLVM-14なんだけど… llm.mlc.ai/docs/install/tvm.ht

https://llm.mlc.ai/docs/install/tvm.html
Install TVM Unity Compiler — mlc-llm 0.1.0 documentation
20:26:00 @uaa@social.mikutter.hachune.net
オリジナル notestock 公開ページリンク
icon

MLC-LLM、Vulkan/OpenCLならIntel Arcでも試せるんだろうか（当然なんだけどCUDAのみ対応ってのがこの界隈は多いので、OpenCLが通るだけでもありがたい）。なになに…「WSL support for Windows is work-in-progress at the moment. Please do not use WSL on Windows to run Vulkan.」ってことはWSL上ではOpenCLじゃないとダメなんすかね。 llm.mlc.ai/docs/install/gpu.ht

https://llm.mlc.ai/docs/install/gpu.html#vulkan-sdk
GPU Drivers and SDKs — mlc-llm 0.1.0 documentation
20:16:34 @uaa@social.mikutter.hachune.net
オリジナル notestock 公開ページリンク
icon

MLC-LLM で Vulkan など Graphics API + C/C++ で LLM が流行ってほしいメモ (2023/4/30) zenn.dev/syoyo/articles/660570

Web site image
https://zenn.dev/syoyo/articles/660570a5e50f5f
MLC-LLM で Vulkan など Graphics API + C/C++ で LLM が流行ってほしいメモ
2023年10月16日