今回はGNOMEデスクトップ向けのAIアシスタントである、Newelleを紹介します。多機能なので今回は初期設定のみを解説します。

WitsyとNewelleとAlpaca

第906回で紹介したWitsyは、大変残念なことに記事の公開直後から開発が停止してしまいました。

一応今でも問題なく使えてはいますが、いくつかある問題を抱えたまま今後も修正されることなく使い続けるのはなかなか苦しいというのが現状です。

代替のものを探していていくつか考えていました。VS Code 1.122がリリースされて⁠⁠、GitHubサインインなしでBYOKを利用可能になったということで、これはローカルLLMとの親和性も上がったということなのでしょう。記事やコードを書くのにVS Code（またはそのオープンソース版であるVSCodium）を使用しているので、この機能を活用するのも手でした。

前々から気になっていたのがNewelleです。GNOME向けのデスクトップAIクライアントということで、第841回で紹介したAlpacaも似たようなものです。しかしAlpacaはOllamaのフロントエンドです。Ollamaは手っ取り早く動かすにはいいのですが、VRAM 16GBのGPUでQwen 3.6-27Bをオンメモリーで動かしたいなど細かなパラメータ調整をしたい場合には不向きです。これはllama.cppのコマンドラインオプションをたくさんつけてようやく実現できることではあるのですが。

Newelleだとそのあたりはどうなのでしょうか。

Newelleの特徴

NewelleについてはタイトルでGNOME向けと入れていますが、GNOMEとの親和性が高いということは特にありません。ほかのデスクトップ環境でも何ら支障なく動作します。

機能も豊富でとてもすべてを紹介できませんが、筆者として指摘しておきたいことは、ローカルLLMとの親和性が極めて高いことです。具体的にはOllamaとllama.cppの両方に対応しています。もちろんOpenAI互換APIも使用できるので、第917回で紹介したInference Snapsも使用できます。

今回はビルトインのllama.cppを使用する方法を紹介します。LM Studioもバックエンドはllama.cppですが、あまり細かい設定はできません。しかしNewelleはコマンドラインパラメーターのほかJSONでの追加設定も可能であり、llama.cppを単体で実行したのと限りなく近い使用感となります。

また、WitsyではWeb検索はMCPサーバーを用意する必要がありましたが、Newelleはビルトインで初期設定が楽というのもあります。

今回使用するモデル

今回はVRAMが16GBのグラフィックボードを使用します。先日公開されたGemma 4 12Bが16GBのVRAM/ユニファイドメモリでローカル実行可能ということで、まさに今回のために用意されたモデルがあるので、これを利用します。

ソースコードは書かせていませんが、チャットでやり取りする限りは充分な性能があると感じました。

Newelleにもモデル管理機能はありますが、使い勝手に欠ける部分があります。そこで、gemma-4-12のGGUFファイルをあらかじめダウンロードしておくのがおすすめです。具体的に、今回は/home/ikuya/Downloads/gemma-4-12b-it-GGUF/フォルダーにgemma-4-12b-it-Q4_K_M.ggufとmmproj-F16.ggufをダウンロードしてあると仮定します。後者は画像の読み取りに必要です。

今回使用するPC

今回使用するPCのスペックは次のとおりです。

Ubuntuのバージョンは26.04 LTSです。第912回を参考に、NVIDIAのプロプライエタリなドライバーをインストールしています。

Newelleのインストール

Newelleはflatpakパッケージで提供されているので、flatpakを使用できるようにする必要があります。次のコマンドを実行してください。

$ sudo apt install gnome-software-plugin-flatpak
$ flatpak remote-add --if-not-exists flathub https://dl.flathub.org/repo/flathub.flatpakrepo

ここで一旦再起動します。

再ログイン後、次のコマンドを実行してインストールしてください。

$ flatpak install flathub io.github.qwersyk.Newelle
$ flatpak --user override --talk-name=org.freedesktop.Flatpak --filesystem=home io.github.qwersyk.Newelle

インストールが完了したら起動してください。ウィザードの表示後、メインウィンドウが表示されます（図1）。

Newelleの設定

Newelleはデモ用APIを用意しており、これがデフォルトになっています。その右横にある歯車アイコンをクリックすると、モデルの設定が表示されます（図2）。

デフォルトで7種類、「⁠その他のLLM」にも6種類あり、選択肢が豊富です。説明にもあるように「ローカルモデル」がllama.cppなので、ここをクリックして展開します（図3）。

まずは「Install LlamaCPP (Hardware Acceleration)」にある「Install」をクリックし、llama.cppをインストールします。

するとインストール方法が質問されます（図4）。

Flatpakパッケージであることを考えると「Compile from Source」を選択するのは困難なので「Download Pre-built」の「Download」をクリックします（図5）。

するとインストール可能なバイナリの中から最適なバイナリを選択してくれます。

基本的には選択されているものが最適なので、そのまま「Download & Install」をクリックします。図5では切れて見えませんが、下にスクロールするとあります。

続いて「Custom Models Directory」に先ほどダウンロードしたモデルのあるフォルダーを指定すると、「⁠Model」と「MMProj(VISION)」が更新されます（図6）。

下にスクロールし、「⁠Advanced Parameters」を有効にします。というのも、「⁠Top-P」などはモデルによって調整する必要があり、そのパラメーターはGemma 4 - How to Run LocallyのRecommendsに書かれています。

ここによると

• temperature = 1.0
• top_p = 0.95
• top_k = 64

Gemma 4's max context is 128K for E2B / E4B and 262,144 for 12B / 26B A4B / 31B.

とのことで、「⁠Top-P」を「0.95」に、「⁠Temperature」を「1.0」に、「⁠Context Size」を「262144」とします（図7）。

残念ながら「Top-K」の設定はありません。もし設定したい場合は図6にある「Custom Arguments」に「--top-k 64」と入力します。

モデルの設定はこれで終了ですが、あとは好みで、エンターキーではなくShift+Enterキーで送信しておきましょう。変更する「一般」タブの「Enterで送信」をオフにします（図8）。

使用を開始する

これで最低限の設定が完了しました。画像の読み取りにも対応しているということで、第897回で使用した画像を読み込ませてみましたが、残念ながらQwen3-VLのほうが精度は上でした（図9）。

前述のとおりチャットはかなり優秀でした。Newelleの使い方をNewelleに聞くという方法で試していたのですが、ほぼ誤りのない回答でした。

12Bくらいだとどうしても得手不得手があるので、自分のニーズに応じてモデルを変更しましょう。たくさんのモデルがリリースされており、どれが自分のニーズに合っているのか探すのもローカルLLMの醍醐味です。