Ollama社内導入とセキュリティ対策
不安はよくわかります。でも、解決策はあります。それが今急速に注目を集めている「ローカルLLM」、特にOllamaを使った社内AI環境の構築です。データが絶対に外に出ない。コストも抑えられる。思っているよりずっと簡単に始められる。ただ、正直に言います。「セキュリティ設定を間違えると、むしろ危険になる」という落とし穴があります。今日はその両面を、具体的な手順とともにお伝えします。
社員がChatGPTに顧客情報を貼っちゃう、っていうの、正直うちでもありそうで怖いです。でもローカルでAIを動かすなんて、うちみたいな小さい会社には難しすぎますよね？
いやいや、そんなことないねん。Ollamaやったらコマンド一行でモデルが立ち上がるんやで。データは一切外に出えへんし、APIコストもゼロになるんよ。まずは1台のPCで試してみたらええよ。
データが外に出ないのは安心です。でも記事に「設定を間違えるとむしろ危険」って書いてあって、それがすごく不安で…。素人がやって穴を開けちゃったら本末転倒じゃないですか？
ええとこ突くなあ。確かにデフォルトのままやと0.0.0.0で外に公開されてまうから危ない。けど対策は3つだけやねん。バインドを127.0.0.1に絞って、許可するアクセス元を決めて、ファイアウォールで念押しする。手順通りやれば大丈夫やで。
3つだけなら、なんとかできそうな気がしてきました。完璧に環境を整えてからじゃなくても大丈夫でしょうか？
それでええんよ。完璧に揃えてからやのうて、今あるPC1台でPoCから始めたらええ。VRAM8GBもあれば7Bクラスは快適に動くしな。やってみたら「なんやこんな簡単やったんか」ってなるで。
なぜ今、社内でLLMを持つのか
OllamaはオープンソースのAIツールで、自社のサーバーやパソコン上でAIモデルをローカル実行できます。Meta社のLlama 3.3、MistralのNemo、GoogleのGemma 3、MicrosoftのPhi-4、AlibabaのQwen 2.5、DeepSeekのV3など100種類以上のモデルに対応しており、GitHubでは90,000以上のスターを獲得するほど世界中で使われています。たった一行のコマンドを打つだけでモデルが起動する。その手軽さが、エンタープライズ向けのAI導入の現場でも急速に採用を広げている理由です。
データが一切外に出ない
クラウドのAIサービス（ChatGPTやClaudeなど）は確かに便利です。私自身も毎日使っています。でも、顧客情報や設計図、財務データをクラウドに送ることに法務がOKを出さないケースは多い。Ollamaはすべての処理がローカルで完結します。プロンプトも回答も一切外部に送信されません。GDPRや個人情報保護法への対応が必要な業種では、これは「あると便利」から「必須の要件」へと変わりつつあります。欧州企業がOllama導入を急いでいる背景には、まさにこのデータ主権の問題があります。
APIコストがゼロ、スピードも上がる
OpenAIのAPIは従量課金です。社内で大量に使えば費用はどんどん積み上がります。Ollamaなら一度モデルをダウンロードすれば、あとは何回使ってもコストはゼロ。しかもインターネットを経由しないので応答が速い。規模が大きくなるほど、この差は劇的に効いてきます。
さらに、OllamaはOpenAI互換のAPIを持っています。接続先のURLをhttps://api.openai.comからhttp://localhost:11434に変えるだけで、既存のツールやアプリをそのままローカル環境で使えます。コードの書き換えはほぼ不要です。この柔軟さも、企業での採用が増え続けている理由のひとつです。
見落としがちなセキュリティの落とし穴
ここが今日一番伝えたいポイントです。Ollamaは素晴らしいツールですが、設定を誤ると「データを守るために導入したのに、逆に穴を開けてしまった」という事態になります。これは正直すごく怖い話で、他のAIツールではあまり語られない部分です。
インターネット上をスキャンした調査によると、175,000台以上のOllamaサーバーが認証なしで外部からアクセスできる状態だったことが判明しています。意図せず公開してしまっているケースがほとんどです。
デフォルト設定が引き起こす危険
問題の根本は「デフォルト設定」にあります。Ollamaは何も設定しないまま起動すると、0.0.0.0:11434というアドレスでAPIを公開します。これは「すべてのネットワークインターフェースで受け付ける」という意味です。社内LANだけでなく、場合によっては外部からも接続できてしまいます。外部からアクセスされると、攻撃者には次のことができます。
- インストール済みのAIモデル一覧を取得し、社内システムの構成を推測される
- 任意のプロンプトを送り込んでモデルを操作・悪用される
- GPUやCPUのリソースを乗っ取り、別の目的（暗号通貨マイニングなど）に使われる
- 社内ナレッジと連携している場合、内部情報を引き出される
さらに、過去にはCVE-2024-39722・CVE-2024-39719という脆弱性が発見されており、APIを通じてサーバー内のファイルが読み取られる可能性が指摘されていました（バージョン0.1.46より前のものが対象）。現在は修正済みですが、古いバージョンを使い続けている場合は要注意です。「怖い話をされた」と思うかもしれませんが、これは正しく対策するための情報です。ちゃんと設定すれば問題ありません。
安全に運用するための設定3ステップ
難しくありません。次の3つの手順を踏むだけで、Ollamaを安全に社内運用できる状態になります。技術者がいなくても、手順通りにやれば大丈夫です。
ステップ1：バインドアドレスをローカルに限定する
Ollamaを起動する際の環境変数で、OLLAMA_HOST=127.0.0.1:11434と指定します。これで「このパソコン自身からしかアクセスできない」状態になります。社内の複数人で使いたい場合は、社内LANのIPアドレスのみ許可する設定にします。Linuxでsystemdサービスとして動かす場合は、設定ファイルの[Service]セクションにこの環境変数を追記し、sudo systemctl daemon-reloadとsudo systemctl restart ollamaで再起動するだけです。
ステップ2：アクセス元をホワイトリストで制限する
OLLAMA_ORIGINSという環境変数で、リクエストを許可するドメインやIPアドレスを指定します。社内の特定システムからだけアクセスを許可するなら、そのIPアドレスをカンマ区切りで指定してください。「すべて許可（*）」は絶対に設定しないでください。公開環境では特に危険です。この設定はCORSのホワイトリストとして機能し、不正なオリジンからのリクエストをブロックしてくれます。
ステップ3：ファイアウォールで念押しする
OSのファイアウォールで、11434番ポートを外部に開放しない設定を加えます。社内LANの特定IPからのみ接続を許可するルールを書けばより安全です。この3ステップを踏めば、セキュリティ上の基本的な対策は整います。詳細な設定方法はOllama公式サイトのドキュメントにまとめられています。実際の社内導入では、まず1台のPCでPoC（概念実証）から始めることをおすすめします。7〜8Bパラメータ規模のモデルであれば、VRAM 8GB程度のGPUでも快適に動作します。社内AIの具体的な活用事例についてはつむぎやのブログでも紹介していますので、あわせてご覧ください。
ツールの導入はあくまでも手段です。Ollamaで社内AIが動くようになって、毎日繰り返していた情報整理、資料作成、問い合わせ対応——そういった面倒な作業をAIが引き受けてくれた先に、何があるでしょうか。それは、あなたが本当に得意なこと・好きなことに集中できる時間です。面倒な雑務を自動化した先にこそ、あなたの本当の価値があると私は信じています。
少し考えてみてください。「もし社内の面倒な作業がすべて自動化されたら、あなたは何に時間を使いたいですか？」その答えこそが、AI導入の本当の目的だと思います。
最初の一歩は思ったより難しくありません。まずはOllamaを1台のPCにインストールして試してみてください。3分もあれば始められます。あなたの会社でも、ぜひその体験をしてほしいと思います。
AI導入についてのご相談はつむぎや株式会社までお気軽にどうぞ。