読み方 ： オラマ

Ollamaとは？

LLMはクラウド上のAIチャットサービスとして提供されることが多く、利用者はAI事業者が運用するサーバにアクセスしてプロンプトを入力し、応答結果を受け取る形になる。この方式では機密データが外部に送信されるリスクや、通信の遅延、利用コストといった課題があった。

一方、オープンに公開されているLLMは、ダウンロードして手元のコンピュータに導入することも可能だが、モデルデータの形式変換や依存ライブラリの構築など、専門的な知識を要する作業が避けられなかった。Ollamaはこれらの工程を一つのパッケージに統合し、コマンド一つでモデルの取得から起動までを自動的に処理する。Windows、macOS、Linuxに対応しており、幅広い環境で利用できる。

対応モデルとしては、米メタ（Meta Platforms）社の「Llama」シリーズ、米マイクロソフト（Microsoft）社の「Phi」シリーズ、米グーグル（Google）社の「Gemma」シリーズ、仏ミストラルAI（Mistral AI）社の「Mistral」シリーズなどがあり、主要なオープンソースモデルに対応する。

Ollamaは公開されているモデルを公式ライブラリから取得し、複数のモデルを切り替えながら使うことができる。内部では量子化されたモデル形式を扱うことでメモリ使用量を抑え、CPUやGPUで推論処理を行う。設定ファイルを用いればシステムメッセージや生成パラメータを指定でき、同一モデルから異なる挙動を持つ派生モデルを定義することも可能である。

動作時にはバックグラウンドでAPIサーバが起動し、HTTP経由で外部のアプリケーションから呼び出せる仕組みになっている。これにより、自作プログラムやチャットツールと連携した利用も可能で、単体のAIチャット環境としてだけでなく、開発基盤としても活用されている。

大規模なモデルほど高性能なGPUや大容量のメモリ（RAM）が必要になるが、比較的小さなモデルであればCPUのみでも動作する。すべての処理が手元で完結するため、機密情報やプライバシー情報を含む文書の処理や、社内データの分析といった、外部サービスでは扱いにくい用途にも適している。

この記事の著者 ： (株)インセプト IT用語辞典 e-Words 編集部
1997年8月より「IT用語辞典 e-Words」を執筆・編集しています。累計公開記事数は1万ページ以上、累計サイト訪問者数は1億人以上です。学術論文や官公庁の資料などへも多数の記事が引用・参照されています。