ollama を repository から動かす

Ollama は stop 実装がまだない

実装読む限り signal handling はしてるようにみえるから signal 送ったんだけどプロセスが止まらない

CLI だとどうもbackground で実行してしまうので、開発のように動かしたい。そこで repository を clone して動かす。環境は Ubuntu

https://github.com/ollama/ollama

こちらをclone して、

go generate ./...

go run . serve

generate を忘れると、

llm/llm_linux.go:5:12: pattern build/linux/*/*/bin/*: no matching files found

とエラーが出るので注意。

また、既に ollama を動かしていて、 install 時に install.sh を使っていると、Systemd が使われているので、process が動き続けている。

$ ps aux | grep ollama
ollama      1837  1.4  0.3 11656164 306144 ?     Ssl  15:26   0:03 /usr/local/bin/ollama serve

に対し、 kill -2 しても process が残り続けていた(正しくは何度も再起動されていた)のはそういうわけだった