オンプレミスLLM(大規模言語モデル)は、機密情報を外部に出さずにAIを活用できる選択肢です。本記事では、クラウド型AIとの違いを整理しながら、どのような企業にオンプレLLMが向いているのかを分かりやすく解説します。閉域環境、コスト予測、社内システ…
オンプレミス環境で生成AIを活用したい方向けに、Dify × Ollama × ローカルLLMを使ったAI基盤の構築手順を詳しく解説します。GPUを利用したチャットモデル・埋め込みモデルの追加方法から、RAGアプリケーションの作成例まで、Docker Composeベースで再現可能…
クラウドLLMに課題を感じている企業向けに、ローカルLLMの考え方とメリットを解説。Dify × Ollama × ローカルLLMを組み合わせた、オンプレミス完結の生成AI活用基盤構成例を紹介します。
皆さん、こんにちは! HPCクラスターの運用において、「ジョブ状況を外部システムと連携したい」「可視化ダッシュボードを作成したい」「CLI(コマンドラインインターフェース)に縛られず自動化したい」といった高度なニーズが出てくることもあります。 今…
皆さん、こんにちは! 高性能計算(HPC)クラスタの運用は年々複雑化しています。 大規模クラスタの効率運用やマルチユーザー環境での公平なリソース配分、GPUやクラウドの統合など、現場には多くの課題があります。 そんな中、Slurmは世界で最も広く使われ…
Microsoft Copilot Studio で構築したAIエージェントに対して、Microsoft 365 Agents SDK を用いてコマンドラインから一括クエリを実行し、LLMOpsの第一歩となる品質評価や自動テスト基盤を構築する方法を解説。Azure AD(Entra ID)の設定から実装コード、C…
Lifematics は、ライフサイエンス領域で培ったデータ解析基盤・機械学習・インフラ構築の経験を活かし、マテリアルインフォマティクス(MI)への展開を進めています。本記事では、MI の基本とライフサイエンスとの共通課題、バイオマテリアル分野での応用可…