LM Studio
LM Studioとは?

通常、ChatGPTのような生成AIはインターネット経由でAI事業者のサーバに処理を依頼する仕組みをとっており、入力した内容が外部のサーバに送信される。LM Studioはこれとは異なり、モデルの処理をすべて手元のコンピュータ内で行う。インターネット接続がない環境でも動作し、入力データが外部に送信されないため、機密性の高い文書や個人情報を扱う場面でも利用しやすい。一度モデルをダウンロードすれば追加の費用も発生しない。
利用の手順はシンプルで、アプリをインストール後、内蔵のモデルブラウザから目的のモデルを選んでダウンロードするだけである。米メタ(Meta Platforms)社の「Llama」シリーズや、米グーグル(Google)社の「Gemma」シリーズ、仏ミストラルAI(Mistral AI)社の「Mistral」シリーズなど、著名なオープンソースモデルに対応している。
対応モデルは「GGUF」(GPT-Generated Unified Format)形式での配布が主流で、これはモデルを軽量化・圧縮した形式である。高価な業務用の機材がなくても、手元のパソコンのスペックに合わせてモデルを選択できる。プログラミングの知識は不要で、チャット形式の画面から直感的に操作できる。
動作には一定のハードウェア性能が求められ、特にメモリ(RAM)の容量が大きく影響する。モデルのサイズによって異なるが、8GB以上が目安となる場合が多い。GPUを搭載した環境では処理速度が大幅に向上するが、CPUのみでも動作する。軽量モデルであれば一般的なノートパソコンでも動作するが、高性能なモデルほど相応のスペックが必要になる。モデルファイル自体は数GBから数十GBの容量であり、ストレージの空き容量にも注意が必要である。
開発者向けの機能として、OpenAI互換のAPIサーバを起動する機能も備えている。これにより、自作のアプリケーションやツールからHTTP経由でローカルのモデルを呼び出すことが可能になる。外部の有料APIに依存せず、自前の環境でAI機能を組み込んだシステムを構築したい場面で活用される。また、応答の長さや多様性を左右する各種パラメータも画面上から調整できる。