AIシステム開発・LLM連携のお仕事

AIシステム開発・LLM連携とは

AIシステム開発・LLM連携は、大規模言語モデル（LLM）のAPIを既存の業務システムやWebサービスに組み込み、社内の文書を探して答える検索、書類の要約や分類、問い合わせへの回答の下書きなどを自動化する仕事です。社内の文書をAIに参照させて回答させるRAG（検索拡張生成）の構築が、代表的な案件です。

ChatGPTの画面で使うだけでは、社内の情報を安全に扱えない、既存のシステムとつながらないといった壁があります。そこで、APIを使って自社の仕組みの中にAIを組み込みたい企業からの依頼が増えています。2026年9月時点で、大手クラウドソーシングでは「AI 開発」の募集中の案件が約200件あります。

Webシステム開発の経験がある人にとっては、これまでの技術をそのまま生かしながら、単価の高い分野に移れる入口になります。

仕事内容の詳細

要件の整理と設計

どの業務の、どの作業をAIに任せるのかを発注者と整理します。扱う文書の量と種類、回答の正確さの基準、個人情報や社外秘の扱い、費用の上限を確かめ、使うモデルと構成を決めます。

RAG（社内文書検索）の構築

社内の規程、マニュアル、過去の問い合わせなどを取り込み、質問に関係する部分を探してLLMに渡す仕組みを作ります。文書の分け方、検索の仕方、回答に出典を付ける工夫で、答えの正確さが大きく変わります。LangChainやLlamaIndexなどのライブラリを使うことが多くあります。

業務システムへの組み込み

既存のWebシステム、社内ツール、チャットツールなどからLLMを呼び出せるようにします。Azure OpenAI Service、Amazon Bedrock、Vertex AIなど、企業が契約しているクラウドの上で動かす案件もあります。

評価と運用の改善

想定される質問を集めて回答の正確さを測り、プロンプトや検索の設定を直します。利用料金の監視、ログの確認、回答の誤りへの対応の手順も整えます。

1日のフロー例

午前中に発注者と打ち合わせをし、評価の結果と次の改善点を共有します。午後はコードを書き、取り込む文書の前処理や検索の設定を調整します。夕方にテスト用の質問で回答を確かめ、結果を記録します。

必要なスキル・資格

必須スキル

• Python または TypeScript: API連携とデータ処理を書く力
• LLMのAPI: OpenAI、Claude、Geminiなどの呼び出しと、料金・制限の理解
• Webシステム開発: API、データベース、認証の基本
• RAGの設計: 文書の分割、ベクトル検索、回答の評価
• セキュリティ: 社外秘や個人情報を扱うときの設計

あると有利なスキル

• クラウドのAIサービス: Azure OpenAI Service、Amazon Bedrock、Vertex AI
• AIを使ったコーディング: Claude Code、Cursor、GitHub Copilotで開発を速める
• ベクトルデータベース: pgvector、Pinecone などの運用
• 業務の知識: 経理、人事、法務、カスタマーサポートなどの実務の理解

資格（参考になるもの）

• AWS Certified Machine Learning Engineer
• Microsoft Certified: Azure AI Engineer Associate
• Google Cloud Professional Machine Learning Engineer

始め方ロードマップ

ステップ1: LLMのAPIを使ってみる（2〜4週間）

OpenAIやClaudeのAPIで、要約、分類、構造化した出力（JSON）を返す小さなプログラムを作ります。料金の計算方法と、回数や長さの制限もあわせて確かめます。

ステップ2: RAGを一つ作る（1〜2か月）

手元の文書（公開されているマニュアルなど）を取り込み、質問に答える仕組みを作ります。答えを間違える質問を集め、分割や検索の設定を変えて正答率を上げる経験が、そのまま仕事の力になります。

ステップ3: Webアプリとして公開する（1か月）

作ったRAGに画面とログイン機能をつけ、ほかの人が使える形にします。GitHubに公開し、構成と工夫した点を説明できるようにしておきます。

ステップ4: 小さな改修や検証の案件から受注する

既存のシステムにAIの機能を一つ加える案件や、試作（PoC）の案件から始めて実績を積みます。

案件相場

試作（PoC）の開発

特定業務でAIが使えるかを確かめる試作。30万〜100万円が目安です。

RAG・社内検索の構築

文書の量や連携先によって50万〜300万円程度で、運用と改善を含む月額契約もあります。

既存システムへのAI機能の追加

要約、分類、回答の下書きなど、機能一つあたり10万〜50万円程度の案件が見られます。

時間単価の目安

レベル	時間単価	特徴
初心者（LLM連携の経験半年未満）	3,000〜4,500円	API連携・既存システムの小さな改修
中級者（経験1〜2年）	4,500〜6,500円	RAGの構築・評価と改善
上級者（経験3年以上）	6,500〜8,000円	全体設計・クラウドのAI基盤の構築

この仕事に向いている人

• Webシステム開発の経験があり、AIの分野に広げたい人
• 答えの正確さを数字で測り、地道に改善するのが好きな人
• 業務の流れを理解し、どこをAIに任せるかを考えられる人
• 新しいモデルやサービスの情報を追い続けられる人
• 社外秘や個人情報の扱いに慎重な人

よくある質問

Q. 機械学習の専門知識は必要ですか？

A. 多くの案件では、モデルそのものを作る知識より、APIを使って業務に組み込む開発の力が求められます。統計や機械学習の知識があると評価の設計に役立ちますが、Webシステム開発の経験があれば十分に始められます。

Q. どのLLMを使えばよいですか？

A. 発注者が契約しているクラウド、扱う情報の種類、費用の上限によって決まります。一つに絞らず、主要なモデルの得意分野と料金の違いを把握しておき、案件ごとに提案できるようにしておくと強みになります。

Q. 社外秘の情報を扱っても大丈夫ですか？

A. 入力した情報を学習に使わない契約形態や、企業のクラウドの中で動くサービスを選ぶのが一般的です。どこにデータが送られ、どう保存されるかを設計の段階で発注者に説明できるようにしておきましょう。

@SOHOで案件を探す

@SOHOでは、LLMのAPIやRAGを使ったシステム開発、既存システムへのAI機能の追加などの案件が掲載されています。「AI 開発」「LLM」「RAG」「ChatGPT API」などのキーワードで検索してみてください。

プロフィールに、使える言語とクラウド、作ったシステムの構成を載せておくと、発注者が技術の範囲を判断しやすくなります。@SOHOなら手数料0%で、報酬の100%を受け取れます。