社内エージェントはUpsonicで作る?|枠組みに任せない線

「作業フォルダの外に出られない枠組みなら、自律エージェントに社内の作業を任せても安全なはずだ」「出来上がりを別のAIが点検してくれるなら、人が全部を見なくてもいい」——小さなオープンソースの枠組みで社内エージェントを試し始めたチームから、こうした期待をよく聞きます。どちらも、枠組みに備わった安全の機能を、そのまま運用の安全と読み替えている点で同じ誤解を含んでいます。本当は、枠組みが止めてくれる範囲は思ったより狭く、残りは使う側が運用で埋めるしかありません。この記事では、Python で自律エージェントを組むOSSの Upsonic を例に、作業範囲の閉じ込めと検証役を枠組みに任せてよいか、枠組みが守ること・守らないこと、何が社外に出るか、商用版との境目、小さなOSSを採るときの保守と乗り換えの線、運用に乗せた後の見直しとやめ方を整理します。
カメ先生エージェントの枠組みに安全の機能が付いていると、それで安全になったと思われがちなんだ。でも本当は、枠組みが止めるのは決められた種類の操作だけで、何をさせてよいかを決めるのは使う会社の側なんだよ。
カメ子作業フォルダに閉じ込める機能があっても、そのフォルダの中で何をするかまでは守ってくれない、ということですか。
カメ先生そのとおり。フォルダの中の大事な資料を書き換えることも、外のサービスにつないだ道具を呼ぶことも、閉じ込めとは別の話だね。それに、点検役のAIも同じ種類のAIだから、同じ見落としをすることがある。
カメ子枠組みの機能を数えるより、人が止める場所を先に決めるほうが大事なんですね。
- Upsonic は自律型と定型型の二つのエージェントを組める Python のOSS(MIT)。作業フォルダへの閉じ込め、安全の検査、自己点検、人の承認、MCP 連携、OCR を備える
- 閉じ込めが止めるのはフォルダの外への操作と一部の危険な命令まで。自己点検やAIによる安全判定は同じ種類のAIの判断なので、取り返しのつかない操作には必ず人の承認を挟む
- 配布サイトの最新版は2026年5月、本体の更新は6月で止まり、提供元の力点は商用の基盤に移って見える。採るなら版を固定し、乗り換えの条件とやめ方を先に決める
うちの業務、AIで何が自動化できる?
「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。
Upsonic とは:自律型と定型型のエージェントを組む Python の枠組み
Upsonic は、AIエージェントを作るための Python のオープンソースの枠組みです。GitHub の Upsonic/Upsonic で公開され、ライセンスは MIT です。公式の文書は、二つの作り方を用意していると説明しています。一つは、段取りを自分で考え、シェルの命令やファイルの操作を繰り返しながら作業を進める自律型のエージェント。もう一つは、決まった入力と出力の約束のもとで、渡された道具を使って一つの作業をこなす定型型のエージェントです。
どこにAIが入るかを整理しておくと、Upsonic 自体はモデルを持たず、OpenAI、Anthropic、Google、Bedrock、Azure、Ollama など30を超える提供元のモデルを呼び出して動かします。その周りに、道具の呼び出し、会話の記憶、社内文書を検索して答える仕組み、複数のエージェントの分担、Slack やメールからの呼び出し口といった部品がそろっています。道具は MCP でつなぐこともでき、画像やPDFから文字を読み取る OCR の部品も用意されています。
提供元の会社は、自社サイトで銀行・金融・保険・製造などの企業向けにエージェントを作って動かす事業を掲げ、OSSの枠組みは100万回を超えるダウンロードと8,000の星を得たと説明しています。配布サイトの紹介文は「金融向けのエージェントの枠組み」です。提供元の所在地は情報源によって表記が分かれており、会社の実態は導入前に契約の相手として確かめる必要があります。
2026年の動き:5月の版、6月以降の静けさ、商用の基盤
鮮度を公開の記録で確かめておきます。Python の配布サイトでの最新版は、2026年5月19日の 0.77.3 です。5月中旬には数日のうちに版が重ねて出ており、最後の大きな変更は、すべてのモデル呼び出しを一つの台帳に記録する利用量の仕組みでした。本体のリポジトリには6月15日に脆弱性の報告方法を定めた文書が、6月18日に行動規範が加わり、それ以降、2026年11月初めまで本体の更新はありません。一方、文書のリポジトリは10月27日に更新されています。
並行して、提供元は商用の基盤であるエージェントOSに力を入れています。2025年12月には、約100万ドルの資金調達を経てエージェントOSを発表したと報じられました(二次情報)。公式の文書によると、エージェントOSは Upsonic に限らず、どの枠組みや言語で書いたエージェントも動かせる統制付きの基盤で、モデルの呼び出しの一元化、入出力の検査、接続先の制限、人の承認、評価、改ざんできない監査記録などを備えます。
買収や開発終了の告知は見当たらず、最新版も直近1年以内なので、現役のOSSであることは確かです。ただ、OSSの枠組みの更新が5か月近く止まり、提供元の重心が枠組みを問わない商用基盤に移っているという事実は、この枠組みを社内の標準にするかどうかを考えるうえで、軽く扱えない判断材料です。この点は後の節で詳しく扱います。
誤解1:作業フォルダに閉じ込めれば安全、ではない
Upsonic の自律型エージェントは、ファイルの操作とシェルの命令を、指定した作業フォルダの中に制限します。公式の文書では、親のフォルダへさかのぼる指定や、作業フォルダの外を指す絶対の指定は止められると説明されています。シェルについては、全体を消す命令や、ディスクを初期化する命令など、いくつかの破壊的な命令が既定で止められ、管理者の権限で動かす命令などを止める対象に足すこともできます。シェルそのものを無効にする設定もあります。
ただ、この閉じ込めが守るのは「フォルダの外」と「名指しされた危険な命令」までです。作業フォルダの中にある資料を書き換える、消す、外に送るといった操作は、フォルダの中で完結している限り止まりません。止める命令の一覧も、書かれたものを止める仕組みなので、書かれていない危険な使い方は通ります。公式の文書自身も、隔離した実行環境が必要ならクラウドの隔離環境の部品を使うよう案内しています。閉じ込めは同じ計算機の上での制限であり、別の計算機に切り離す隔離とは強さが違うと理解しておきます。
また、MCP やつないだ道具を通じた操作は、作業フォルダとは別の経路です。CRMを更新する道具や、メールを送る道具をエージェントに渡せば、フォルダの閉じ込めとは無関係に社外へ影響が出ます。閉じ込めは最後の防波堤の一枚であって、何をさせてよいかの設計の代わりにはならないと考えておくのが安全です。
誤解2:検証役のAIが見ていれば、人は見なくてよい、ではない
Upsonic には、AIの出力をAIに確かめさせる仕組みがいくつかあります。一つは自己点検の機能で、公式の説明では、最初の答えを作った後に誤りや不足を批評させ、改善した答えを作り直させます。点検の回数の上限や、受け入れる点数の基準も設定できます。公式の文書は、この機能が1件ごとの時間とトークンの使用量を増やすと注意しています。
もう一つは安全の検査の仕組みで、入力・出力・道具の呼び出しの各段階に方針を当てて、個人情報や機密を止めたり伏せたりします。道具については、危険な道具の登録を止める検査と、呼び出しの直前に危険な引数を止める検査があり、公式の説明ではいずれもAIによる分析で判定します。方針に反した出力を、理由を伝えて書き直させる仕組みもあります。
これらは役に立ちますが、共通の弱点があります。点検する側も同じ種類のAIなので、作る側と同じ思い込みで、同じ箇所を見落とすことがあるのです。自己点検で点数が基準を超えたことは、内容が正しいことの証明になりません。AIによる危険判定も、言い回しを変えた危険な依頼を通すことがありえます。点検役のAIは人の確認の量を減らす道具として使い、取り返しのつかない操作の最終判断はAIに判断させない、という線を引いておきます。
枠組みが守ること・守らないこと
ここまでの話を、枠組みの機能ごとに表にまとめます。左が枠組みが受け持つ範囲、右が使う側が運用で埋める範囲です。社内の標準にするかを決める会議では、この右の列を誰が持つかを先に決めておくと議論が早く進みます。
| 枠組みの機能 | 枠組みが止めること | 止めないこと(使う側が埋める) |
|---|---|---|
| 作業フォルダへの閉じ込め | フォルダの外へのファイル操作、名指しした危険な命令 | フォルダ内の資料の改変・削除、つないだ道具を通じた社外への操作 |
| 安全の検査(入出力) | 方針に当たる個人情報・機密の送信、方針に反する出力 | 方針に書いていない機密、判定の取りこぼし |
| 道具の安全検査 | AIが危険と判定した道具の登録と引数 | AIが危険と判定しなかった危険な呼び出し |
| 自己点検 | AIが自分で気づける誤りや不足 | 作る側と同じ思い込みによる誤り、事実の誤り |
| 人の承認 | 承認が必要と印を付けた道具の実行 | 印を付け忘れた道具、承認者の見落とし |
表の右の列を見ると、ほとんどが「何を危険とみなすか」を人が決める仕事だと分かります。方針の一覧、承認の印、作業フォルダに置く資料の選定は、使う側の責任で書き、定期的に見直すものです。枠組みはそれを実行する装置にすぎません。
人の承認を挟む場所:道具ごとに印を付ける
Upsonic では、道具を定義するときに「実行の前に人の承認が要る」という印を付けられます。公式の説明によると、エージェントがその道具を呼ぼうとすると処理が一時停止し、人が承認するか却下するかを決め、その決定を受けて処理が再開します。却下の際に理由の一言を添えることもでき、文書の例には、削除・本番への反映・支払いのような操作が挙げられています。
社内で運用するときの要点は、どの道具に印を付けるかを、道具を作る人ではなく業務の責任者が決めることです。目安は三つあります。社外に何かが出ていく操作(メール送信、取引先のシステムへの書き込み)、取り消しのきかない操作(削除、確定、支払い)、そして多くの人に影響する操作(全社への通知、共有の設定の変更)です。
承認の画面に何を出すかも決めておきます。承認者が見るべきなのは、呼ぼうとしている道具の名前だけでなく、渡す引数、その操作に至った理由、元にした資料です。理由と根拠が見えない承認は、押すだけの儀式になるので、エージェントに理由を書かせ、承認の記録と一緒に残す設計にします。承認待ちがたまると現場は承認を流し始めるので、印を付ける道具は最初から絞っておくことも大切です。
MCP の道具と OCR の部品:誰の資格でつなぎ、何を読ませるか
Upsonic では、MCP のサーバーを一つ、または複数まとめてつなぎ、そこにある道具をエージェントに使わせられます。公式の文書によると、認証の情報は接続ごとに環境変数などで渡し、文書の例には GitHub の個人の鍵や Slack のボット用の鍵が並んでいます。つまり、エージェントは接続に渡した鍵の持ち主の資格で動くということです。開発者が自分の個人の鍵で試した設定を、そのまま本番に持ち込むと、エージェントがその開発者の権限をすべて使える状態になります。
公式の文書自身も、鍵をコードに直接書かない、開発用と本番用で鍵を分ける、定期的に替える、最小限の権限にする、といった基本を勧めています。加えて、複数のサーバーをまとめてつなぐ部品には、使う道具を名前で絞り込む、または除外する設定があります。つないだサーバーの道具を全部渡さず、作業に要る道具だけを名前で許可するのが、承認の印と並ぶもう一つの絞り方です。
OCR の部品は、画像やPDFを画像に直して傾きや濃さを補正し、選んだ読み取りエンジンで文字にして、ページごとの確信度をまとめる仕組みです。複数のエンジンから選べ、手元で動くものを選べば、読み取りの段階では資料を外に出さずに済みます。ただし、読み取った文字をエージェントがモデルに渡す段階では、その中身が提供元に送られます。読み取りの確信度が低いページは人が原本を見る、と運用で決めておきます。
何が社外に出るか:モデルの提供元、伏せ字の仕組み、利用状況の送信
Upsonic はライブラリとして社内の環境で動くため、データの主な行き先は、呼び出すモデルの提供元です。ここは既存の社内AIの規程と同じ考え方で扱えます。Ollama などで手元のモデルを使えば、モデルへの送信を社内に閉じることもできます。安全の検査には、メールアドレスや電話番号を一時的な伏せ字に置き換えてからモデルに送り、返ってきた答えで元に戻す仕組みがあり、公式の文書は、モデルは伏せ字の内容しか受け取らないと説明しています。
注意したいのは、伏せ字にするのは方針で検出できたものだけだという点です。社内の案件名や取引条件のように、決まった形を持たない機密は検出されにくく、そのまま送られます。また、道具の安全検査はAIによる分析で判定すると説明されているので、検査そのもののためにも、道具の内容や引数がモデルに送られる点を把握しておきます。
もう一つ見落とされやすいのが、枠組みの利用状況の送信です。公式の文書によると、Upsonic は開発の参考のために匿名の利用データを集めており、環境変数で無効にできます。既定で有効な送信は、社内に入れる前に無効にすると決めておき、設定を社内の雛形に含めておくと漏れがありません。記憶の機能で会話を保存する場合は、保存先のデータベースと保存期間も決めておきます。
商用版との境目:エージェントOSに移るのはいつか
提供元の商用の基盤であるエージェントOSは、OSSの枠組みとは性格が違います。公式の文書によると、エージェントOSはどの枠組みや言語で書いたエージェントでも、決まった形の入れ物に包んで載せれば動かせ、モデルの呼び出しを一つの窓口にまとめて実行ごとの費用を記録し、入出力の検査と接続先の制限をかけ、人の承認の列と、誰が何をしたかの改ざんできない監査記録を持ちます。
つまり、OSSの枠組みの側で使う会社が自分で埋めていた部分(監査記録、接続先の制限、承認の列、費用の記録)の多くを、基盤の側で受け持つ設計です。社内でエージェントの数が増え、「誰が何を承認したかを監査で説明できない」と困り始めたときが、商用の基盤を検討する境目になります。ただし、基盤に載せれば実行の記録や入出力が提供元の基盤を通ることになるので、データの置き場所と契約の条件を確かめる必要があります。
権限の分け方も、公式の文書から読み取れます。エージェントOSでは環境ごとに二つの役割があり、一般の利用者はエージェントを実行し、記録を読み、自分に許された承認を判断します。管理者はそれに加えて、エージェントの配置、モデルと提供元、入出力の検査、秘密の鍵、接続先の規則を変更できます。エージェントには実行1回ごとに短い期限の資格が渡され、答えを返した時点で使えなくなると説明されています。監査記録を読めるのは管理者だけで、利用者ごとの記憶を消す操作も管理画面に用意されています。誰が鍵と規則を変えられるかが、役割として最初から分かれている点は、OSSの枠組みだけで運用するときに自前で決めなければならない部分そのものです。
また、エージェントOSは Upsonic 専用ではないので、「OSSの枠組みを使っているから、商用の基盤もこの会社にする」という順番で考える必要はありません。料金は公式の文書では確認できず、問い合わせの形です。枠組みと基盤は別々に選べることを前提に、まず社内に必要な統制の機能を書き出し、それを満たす基盤を比べるのが筋です。
小さなOSSを採るときの保守の線
Upsonic のように、一つの会社が中心になって開発するOSSは、会社の方針が変わると開発の速度も変わります。先に見たとおり、本体の更新は2026年6月で止まり、提供元は枠組みを問わない商用基盤に力を入れています。これだけで開発終了とは言えませんが、社内の標準として長く使う前提を置くには、慎重になってよい状況です。
小さなOSSを採るときに見ておきたい項目を挙げます。最後の版と最後の更新の日付、未解決の課題の数とその扱われ方、脆弱性の報告窓口の有無、配布サイトに名前のある保守担当の人数、そして提供元の事業の中での位置づけです。Upsonic の場合、脆弱性の報告方法は6月に整備され、配布サイトには保守担当として2人の名前があり、未解決の課題は30件台です。リポジトリの公開は2024年5月で、2026年11月初めの時点で星は約8,000、複製の数は700を超えています。利用者の数に対して、修正を取り込める人が少ない構図だと読めます。保守担当が少数の会社員に集中している点は、会社の方針の影響を受けやすいことを意味します。
採ると決めた場合でも、使う版を固定し、更新を社内で追う担当を一人決めておきます。脆弱性の報告が出たときに、自社で修正を当てられるか、使うのをやめるかを判断する手順も先に決めます。MIT ライセンスなので、必要なら自社で手元に複製して保守を続けることも法的には可能ですが、その手間を誰が持つのかは現実的に考えておく必要があります。
乗り換えの線:枠組みの外に置いておくもの
小さな枠組みを採るときに最も効くのは、乗り換えやすい形で作っておくことです。具体的には、枠組みに固有の書き方に寄せすぎず、業務の知識と統制の設定を枠組みの外に置きます。道具の定義は MCP の形で作っておけば、別の枠組みからも同じ道具を呼べます。Upsonic には、作ったエージェントやチームを MCP の道具として外に見せる機能もあります。
ほかに枠組みの外に置いておきたいのは、エージェントへの指示文と業務の手順書、方針の一覧(何を伏せるか、何に承認が要るか)、評価に使う問いと期待する答えの組、そして実行の記録です。Upsonic は実行の記録を標準的な追跡の形式で外に出す仕組みや、Langfuse との連携を持っているので、記録は枠組みの外の仕組みに出しておくと、乗り換えた後も前後の比較ができます。
乗り換えを考え始める条件も決めておきます。たとえば、本体の更新が半年以上止まる、重大な脆弱性の報告に対応がない、使っているモデルの提供元の新しい機能に追従しない、の三つのどれかに当たったら、乗り換えの検討を始める、という具合です。条件を先に決めておけば、「なんとなく不安だが、作り直すのも面倒だ」という先送りを防げます。
運用に乗せる手順
ここまでを踏まえて、Upsonic で作った社内エージェントを試行から運用に乗せるまでの段取りを示します。各段階で、次に進む条件を人が判断します。
エージェントに任せる作業、使ってよい資料、使ってよい道具、やってはいけないことを業務の言葉で書きます。作業フォルダには、この作業に必要な資料の複製だけを置きます。
社外に出る操作、取り消せない操作、多くの人に影響する操作の道具に、人の承認の印を付けます。どの道具に付けるかは業務の責任者が決めます。
個人情報や機密を伏せる方針を設定し、匿名の利用データの送信を無効にします。記憶を使う場合は保存先と保存期間を決めます。
期待する答えが分かっている問いを20〜30件用意し、自己点検の有無で結果と費用を比べます。点検で点数が上がっても、正解かどうかは人が採点します。
一つの部署、一つの作業に絞って運用を始め、承認の件数、却下の理由、費用、失敗の件数を毎週記録します。
段取りの中で最も省かれやすいのは、評価の問いを作る段階です。評価の問いがないと、版を上げたときや枠組みを替えたときに、良くなったのか悪くなったのかを言えないので、最初の試行の段階で作っておきます。ここで作った問いは、そのまま乗り換えの比較にも使えます。
運用に乗せた後の見直し:毎月見るもの
運用に乗せた後は、月に一度、決まった項目を見直します。Upsonic には、すべてのモデル呼び出しを一つの台帳に記録し、エージェント・作業・チームの単位で使用量を読める仕組みがあり、チーム全体のトークン・費用・呼び出し回数・時間を追う機能もあります。これを使って、作業1件あたりの費用と、自己点検や書き直しで増えた分を分けて見ると、点検の機能が費用に見合っているかを判断できます。
費用のほかに見るのは、承認の件数と却下の割合、却下の理由、安全の検査で止まった件数、作業フォルダの外への操作が止められた件数です。却下が多い道具は作業の範囲の書き方を直し、承認がほぼ全件通っている道具は、承認の印を外してよいかを業務の責任者が判断します。止められた操作が急に増えたら、指示文の変更や、外から読ませた資料に紛れ込んだ指示を疑います。
見直しの場では、枠組みの側の変化も確認します。本体の版が出たか、脆弱性の報告がないか、提供元の方針に変化がないか。見直しの結果を記録に残し、乗り換えの条件に当たっていないかを毎月判定することで、小さなOSSを使い続ける判断を、惰性ではなく根拠のある判断にできます。
- 版の日付や機能は、2026年11月初めに公式の GitHub、配布サイトの記録、公式の文書で確かめたものです。導入時点で必ず最新の情報を確認してください
- 資金調達の金額と時期は二次情報の報道によるもので、提供元の公式の発表では確かめられていません
費用の増え方とやめ方
Upsonic の枠組み自体は MIT ライセンスで無料です。費用が増えるのは、モデルの呼び出しと、それを支える人の手間です。自律型のエージェントは段取りを自分で考えて何度もモデルを呼ぶので、1件あたりの呼び出し回数が定型型より多くなりがちです。そこに自己点検や方針違反の書き直しを重ねると、品質を上げる機能を足すほど、呼び出しが掛け算で増える構造になります。上限の回数を設定し、作業1件あたりの費用の上限を決めておきます。
見落とされやすいのが人の費用です。承認の列を処理する人、方針の一覧を保守する人、評価の問いを採点する人、枠組みの更新を追う人。これらは枠組みが無料でも必ずかかります。商用の基盤に移る場合は、これに基盤の利用料が加わりますが、承認の列や監査記録を自前で作る手間が減る分と比べて判断します。
やめるときは、評価の問いで新しい枠組みと結果を比べ、同等以上になってから切り替えます。作業フォルダに置いた資料の複製、記憶の保存先、実行の記録を整理し、残すものと消すものを決めます。やめる手順を最初の設計書に書いておくと、担当者が替わっても迷わずに撤退できます。
- 作業フォルダに閉じ込めたことを理由に、社外に出る道具まで承認なしで渡す
- 自己点検の点数が基準を超えたことを、内容が正しいことの証拠として扱う
- 匿名の利用データの送信を既定のまま本番で動かす
- 本体の更新が止まっていることを確かめないまま、社内の標準の枠組みに決める
まとめ
Upsonic は、自律型と定型型のエージェントを一つの枠組みで組め、作業フォルダへの閉じ込め、安全の検査、自己点検、人の承認といった統制の部品を備えたOSSです。ただし、閉じ込めが止めるのはフォルダの外と名指しした命令まで、点検役のAIは作る側と同じ見落としをしうる、という限界があります。何を危険とみなすか、どの道具に人の承認を挟むかは、使う会社が決めることです。加えて、本体の更新は2026年6月で止まり、提供元の重心は商用の基盤に移って見えます。採るなら、版を固定し、道具と記録と評価の問いを枠組みの外に置き、乗り換えの条件とやめ方を最初に決めておく。枠組みの機能に安全を任せきらず、人が止める場所を先に決めることが、小さなOSSで社内エージェントを作るときの基本です。
※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。
うちの業務、AIで何が自動化できる?
「AIで何ができるかは分かったが、自社の業務のどこに使えるのかが分からない」という段階の方へ。30業務の判定と5つの実務例から、最初に自動化する1業務を選ぶための無料ガイドです。
