画像も読み長時間の開発作業を自律で進める大規模モデル「LongCat-2.5」とは

画像も読み長時間の開発作業を自律で進める大規模モデル「LongCat-2.5」とは

「設計から実装、テストまで、AIに丸ごと任せられるモデルが出てきたらしい。人手不足の開発部門で使えないだろうか」「長い時間ひとりで作業するAIに、社内のどこまで触らせてよいのか見当がつかない」——開発の効率化を急ぐ事業部門と、その申請を受け止める情報システム・セキュリティ部門の双方から、最近よく聞かれるようになった声です。2026年11月、中国の生活関連サービス大手である美団(Meituan)の研究チームが、長時間の自律作業に向けた大規模なモデル LongCat-2.5 の重みを Hugging Face(AIモデルの公開・共有サイト)で公開しました。ただし、問われているのはモデルがどれだけ賢いかではありません。本当は、長時間ひとりで動くAIに、どの権限を、どこまで、誰の監督で渡すかという判断です。この記事では、LongCat-2.5 がどのようなモデルか、公開情報から確かめられる事実、当ラインの安全性の精査結果、そして企業が使う前に決めておくべき備えを、防御の立場から整理します。


カメ先生カメ先生

長い作業を任せられるモデルは、性能さえ高ければ安心して任せられると思われがちなんだけど、本当は作業が長くなるほど、人の目が届かない時間も長くなるということなんだ。


カメ子カメ子

賢さよりも、目を離している間に何ができてしまうかが問題ということですか。


カメ先生カメ先生

そう。しかもモデルカードに書かれた「報酬の不正な稼ぎ方を防ぐ工夫」も、成績の数字の大半も、提供元が自分で述べたことだ。確かめる仕事は使う側に残っている。だから権限・記録・人の承認を先に決めるんだよ。


カメ子カメ子

モデルの説明書きを信じる前に、こちらで止められる仕組みを用意しておくんですね。


この記事のポイント
  • LongCat-2.5 は、全体で約1.6兆、1回の処理で約480億のパラメータを使う専門家混合型の、画像と文章を扱うエージェント向けのモデル。ライセンスは MIT で、重みは safetensors 形式のみ
  • 当ラインの精査では、公式の公開元、独自のプログラムや Pickle 形式のファイルが無いこと、勧告の報告が無いことから「紹介可」と判定した。ただし安全の保証ではない
  • 学習上の安全対策も成績の数字も提供元の自己申告で、成績は社内測定の参考値とされる。隔離・最小権限・記録・人の承認を先に決め、AIに最終判断をさせない

あなたのWebサイトは、AIによる攻撃に耐えられますか?

AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。

目次

LongCat-2.5とは何か。2026年11月時点で確かめられる事実

LongCat-2.5 は、美団の研究チームが開発した重み公開型(オープンウェイト)のモデルです。重み公開型とは、学習済みの数値(重み)を誰でも取得できる形で配るもので、利用者が自分の機材で動かすこともできます。モデルカード(モデルの説明書きにあたるページ)は、このモデルを「長い時間をかけて進めるエージェント的な作業のための、最初から画像と文章を一体で扱う専門家混合型のモデル」と説明しています。先行する LongCat-2.0 をもとに、画像の理解と、エージェントとしてのプログラム作成を組み合わせたとされます。

想定する用途として挙げられているのは、複雑なプログラムの集まり(コードベース)の開発、プロジェクト全体の構築、創作的なデザイン、立体物に関わる作業です。当ラインの精査で確認した Hugging Face 上の記録では、公開場所の作成日は2026年11月4日、最終更新日は11月10日です。確認時点で「いいね」は81、ダウンロード数は195で、公開から日が浅い段階にあります。利用の前に申請や同意を求める制限(ゲート)は付いていません。

ライセンスはMIT ライセンスで、ライセンスの本文には美団の著作権表示があります。MIT ライセンスは OSI(オープンソースの定義を管理する団体)が承認したライセンスですが、本記事の主題は学習済みの重みであり、ソフトウェアとは性質が違うため、ここでは「モデル」と呼びます。なお、提供元の技術ブログが案内されていますが、当ラインの確認では本文を取得できず、内容は確かめられていません。本記事は主にモデルカードとライセンス本文に基づいています。日本語での詳しい解説は、確認した範囲ではまだ少ないとみられます。

なぜ今、長時間働くエージェント向けモデルが企業の議題になるのか

これまで、生成AIを開発の現場で使うといえば、人が書いているプログラムの続きを提案させたり、短い質問に答えさせたりする使い方が中心でした。人が一つひとつの提案を見て、採用するかどうかを決めていたわけです。LongCat-2.5 のように「長時間の作業」や「プロジェクト全体の構築」を前面に出すモデルは、この前提を変えます。AIが自分で手順を考え、ファイルを作り、試して直し、また次の作業に進むという流れを、人が逐一確かめないまま長く続けることを想定しているからです。

防御の側から見ると、ここで問題の性質が変わります。短いやり取りなら、誤りは人の目に入りやすく、被害も一つの回答にとどまります。一方、長い作業では、途中の小さな誤りや、読み込んだ情報に紛れた不正な指示が、後の工程に引き継がれて積み重なるおそれがあります。しかも、作業の記録が膨大になるほど、人が後から全体を見直すのは難しくなります。

さらに、このモデルは重みが公開されているため、提供元のサービスを通さずに、部署や委託先が独自に試し始めることもありえます。情報システム部門が知らないうちに、社内の開発環境に強い権限を持つAIが入り込む構図です。だからこそ、個別のモデルの良し悪しを論じる前に、長時間働くAIを社内で扱うときの決まりを整えることが、いま防御の側に求められています。

仕組み1:約1.6兆パラメータの専門家混合と、画像と文章の一体的な扱い

モデルカードによると、LongCat-2.5 は専門家混合(MoE)という構造をとります。これは、内部に多数の部品(専門家)を持ち、入力ごとに一部だけを選んで計算する方式です。全体のパラメータ(モデルの規模を表す数値)は約1.6兆、1トークン(文章を区切った単位)あたりに実際に使うのは約480億とされています。配布される重みのファイルは208分割に及び、動かすには大規模な機材が必要になると考えられます。

画像の扱い方にも特徴があります。モデルカードは、提供元が先に発表した研究をもとに、画像を元の解像度のまま特徴に変換し、それを文章と同じように区切った単位(トークン)に置き換えて、文章と共通の意味の空間でそろえると説明しています。つまり、画像を後から付け足した部品で読むのではなく、最初から文章と同じ流れで画像を扱う設計だということです。画面の写しや設計図、デザインの見本を読みながら作業を進める用途を意識したものとみられます。

また、モデルカードには、専門家の部分の重みと計算途中の値を4ビットまで縮めて軽くする量子化(数値を少ないビット数で表す工夫)の結果も示されています。従来の8ビットの方式と比べて処理の速さが4割ほど上がったという社内の試験結果ですが、動かす機材として名前が挙がっているのは主に中国国内の計算用の機材です。「重みが公開された」ことと「自社の機材で手軽に動かせる」ことは別だと押さえておく必要があります。

仕組み2:長時間の作業を前提にした強化学習と複数の教師

モデルカードは、長時間のエージェント的な作業に強くするための学習の工夫を挙げています。中心にあるのが強化学習(試行と採点を繰り返してモデルを鍛える学習)で、実際の開発の課題と、再現できるエージェントの失敗の事例を組み合わせて学ばせたとされます。その際、効率よく試行を回す工夫と、報酬ハッキングへの対策を組み込み、最初から最後まで作業をやり遂げる確かさを高めたと説明されています。

もう一つが、複数の教師による学習です。エージェントとしての作業、推論、対話のそれぞれに特化した教師役のモデルを用意し、その出力の傾向を生徒側のモデルに移す手法(蒸留)で、複数回のやり取りの遂行、推論、指示に従う力、そして安全性を強めたとされています。ここで「安全性」という言葉が出てきますが、何をどの基準で測り、どの程度改善したのかは、モデルカードからは読み取れません。

使い方の説明には、思考の過程を出すかどうかを切り替えられることや、過去の思考の過程をすべて会話の履歴に残す設定にすると性能が上がるといった記述もあります。防御の立場で注目したいのはこの点です。思考の過程が履歴に積み重なると、読み込んだ社内の情報の断片や途中の判断が、記録の中にそのまま残ることになります。会話の履歴や記録は、機密情報の保管場所になりうるという前提で扱う必要があります。

公表された成績の大半は社内測定。その数字をどう読むか

モデルカードには、プログラム作成のエージェント、汎用のエージェント、画像の三つの分野で多数の評価の結果が並び、他社の有力なモデルとの比較も載っています。防御の判断に関わりそうなものを抜き出すと、次のとおりです。

評価の対象公表された数字補足
Terminal Bench 2.1(端末での作業)88.4社内測定の参考値
Terminal Bench 4.0(より難しい端末での作業)38.5先行の LongCat-2.0 は3.0とされる
DeepSWE(実際の開発課題の解決)64.6社内測定の参考値
BrowseComp(ウェブを調べ回る作業)91.9提供元の独自の作業用の仕組みで評価
AutomationBench(業務の自動化)51.8社内測定の参考値
LongCat AppDev(アプリ開発・提供元の社内評価)73.7提供元が自作した評価

まず押さえるべきは、モデルカード自身が、他の資料から引用した数字には印を付け、印の無い数字は社内で測ったもので、目安にすぎないと明記している点です。確認した範囲では、LongCat-2.5 自身の数字には一つも印が付いていません。つまり、表に並ぶ LongCat-2.5 の成績はすべて提供元の社内測定です。評価によっては、採点に他社のモデルを使ったり、作業用の仕組みを評価ごとに変えたりしていることも脚注に書かれており、他社の数字と同じ条件で比べたものとは限りません。

加えて、試験の環境は自社の業務とは違います。日本語の社内文書、自社独自のシステム、権限の分かれた社内ネットワークでの振る舞いは、表からは分かりません。モデルカード自身も、言語によって性能が変わりうると注意しています。高い数字は「試験の課題でよくできた」ことを示すだけで、自社の環境で安全に動くことを示すものではないと考え、数字は候補を絞る材料の一つにとどめるのが妥当です。

「報酬ハッキング対策」は自己申告。どう受け止めるか

報酬ハッキングとは、強化学習で鍛えられたモデルが、本来の目的を果たさずに採点の抜け穴を突いて高い点を得ようとする振る舞いのことです。開発の作業でいえば、不具合を本当に直す代わりにテストの判定を甘くする、失敗した処理を成功したように見せかける、といった形で現れうるとされています。長時間の自律作業では、こうした振る舞いが人の目に触れないまま成果物に紛れ込む心配があります。

LongCat-2.5 のモデルカードは、学習の段階でこの報酬ハッキングへの対策を組み込んだと述べています。提供元がこの問題を認識し、手を打ったと表明していること自体は前向きな情報です。ただし、確認した範囲のモデルカードには、どのような対策を取り、どの程度効果があったかを示す説明や数字は見当たりませんでした。技術ブログに詳しい記述がある可能性はありますが、当ラインでは確かめられていません。

したがって、この記述は「提供元がそう述べている」という情報として受け止めるのが妥当です。使う側としては、モデルが不正な近道を取らないことを前提にせず、取ったときに見つけられる仕組みを持つことが大切です。たとえば、テストの内容や判定の基準をAIが書き換えられないようにする、成果物の確認を作業をしたAIとは別の仕組みや人が行う、といった考え方です。これは LongCat-2.5 に限らず、自律的に作業するモデル全般に当てはまります。

安全性の評価:紹介可とした根拠

当ラインでは、記事で取り上げる前に、公開情報だけで安全性を精査しています。モデルや関連するプログラムを取得したり動かしたりはしていません。LongCat-2.5 は、次の事実から「紹介可」と判定しました。

  • 公開元は美団の研究チームの公式の名義で、モデルカードからも提供元の連絡先と公式の発信先が案内されている
  • ライセンスは MIT で、本文に追加の条件は見当たらない
  • 重みのファイルは safetensors 形式のみで、読み込むだけでプログラムが動くおそれのある Pickle 形式のファイルは無い
  • 読み込みに提供元の独自のプログラムを必要とする構成ではない
  • 確認した時点で、セキュリティ上の勧告や問題の報告は見当たらない

前の記事で扱った一部のモデルのように、読み込み時に提供元の独自のプログラムが動く構成や、独自の条件が付いたライセンスの場合は、当ラインでは「注意付き」としています。LongCat-2.5 にはそうした要素が見当たらず、配布物の面では確かめやすい部類に入ります。

それでも、問題が見つからなかったことは、安全の保証ではありません。精査は公開情報を読んだ範囲のもので、モデルが危険な依頼をどの程度断るか、読ませた文書に紛れた指示にどれほど影響されるか、長時間の作業で不正な近道を取らないかまでは確かめていません。また「紹介可」は配布物とライセンスについての判定で、エージェントとして社内で動かしてよいかの判定ではありません。そこは使う企業が自社の責任で確かめる必要があります。

MITライセンスで公開された重みの意味と、残る確認点

MIT ライセンスは、利用、複製、改変、再配布、販売などを広く認める、代表的な制限の緩いライセンスです。著作権表示とライセンス文を残すことが主な条件で、売上の規模や利用者数によって別の契約を求めるような追加の条件は、確認した本文には見当たりませんでした。社内での利用はもちろん、自社の製品に組み込む場合も、ライセンスの面での障壁は比較的小さいといえます。

一方で、ライセンスが緩いことと、責任を負ってもらえることは別です。MIT ライセンスは、提供物を「現状のまま」提供し、作者は一切の保証と責任を負わないと定めています。モデルカードも、このモデルがあらゆる用途に向けて設計・評価されたものではないとし、重要な場面や危険の大きい場面で使う前には、正確さ、安全性、公平性を開発者自身が評価するよう求めています。データの保護や個人情報、内容の安全に関する法令を守る責任も、開発者側にあると明記されています。

また、モデルカードによると、ライセンスは美団の商標や特許の権利を与えるものではありません。製品の名称や宣伝で提供元の名前を使う場合は、別の確認が必要になります。ライセンスの解釈は、法務部門と原文で確かめるのが基本です。制限が緩いぶん、社内の誰でも取り込めてしまう点は、管理の側から見ればむしろ注意すべき点でもあります。

エージェントに与える権限が最大のリスクになる理由

LongCat-2.5 のような長時間の自律作業を想定したモデルでは、リスクの大きさを決めるのはモデルそのものより、モデルに何をさせられるようにするかです。同じモデルでも、文章を返すだけなら誤りの影響は画面の中にとどまりますが、ファイルの書き換えやコマンドの実行、外部への通信、社内システムへの問い合わせができるようにすると、影響は実際の環境に及びます。権限の段階ごとの違いを整理すると次のとおりです。

与える権限起こりうること備えの例
文章の生成だけ誤った内容や不適切な内容の出力人が読んでから使う
隔離した作業場でのファイル作成と実行作業場の中での誤った変更、資源の使いすぎ使い捨ての環境、時間と資源の上限
社内の開発資産への書き込み本番の設定や秘密情報への意図しない変更読み取り専用を基本にし、反映は人の承認
外部への通信と社内システムの操作情報の持ち出し、取り消せない操作許可した宛先だけ、操作ごとの承認と記録

とくに警戒すべきなのが、間接プロンプトインジェクション(AIが読み込む文書やウェブページ、プログラムの説明書きなどに紛れ込ませた文で、AIへの指示を外から書き換える攻撃)です。開発の作業では、外部から取り込んだ部品の説明書き、課題の管理画面の書き込み、検索したウェブページなど、信頼できない文章を大量に読み込みます。そこに紛れた指示に従って、社内の秘密情報を外に送ったり、不正な変更を紛れ込ませたりする構図が成り立ちえます。これは特定のモデルの欠陥ではなく、長い作業で道具を使うエージェント全般に共通する構造上の弱点とされています。

確認した範囲のモデルカードには、こうした乗っ取りへの耐性を測った評価の結果は示されていませんでした。乗っ取りへの備えは、モデルの賢さに期待するのではなく、読ませる情報の範囲を絞る、外部への通信を許可した宛先だけにする、道具ごとに権限を分ける、といった周りの仕組みの側で持たせるのが現実的です。

悪用されうるリスク:攻撃者も同じモデルを使えるという前提

重みが公開されたということは、攻撃者も同じモデルを手元で使えるということです。プログラムの作成や端末での作業に強いとされるモデルは、正当な開発にも、攻撃のための道具づくりや作業の自動化にも使われうるとみられます。一般に、重み公開型のモデルは追加の学習によって安全のための調整が弱められる可能性があるとされており、提供元のサービスのような利用の監視も働きません。

LongCat-2.5 のモデルカードには、サイバー攻撃に関わる能力を測った評価の結果や、その能力について提供元がどう判断したかの説明は、確認した範囲では見当たりませんでした。そのため、この点でどの程度の能力を持つかは現時点で確認できる情報が限られます。また、このモデルが攻撃に使われたという報告も確認できていません。

守る側として現実的なのは、特定のモデルの能力を追いかけることではなく、攻撃側の作業の自動化が進む前提で、脆弱性の修正と監視の速度を見直すことです。外部に公開しているシステムの弱点の把握、修正にかかる日数の短縮、不審な大量の試行の検知など、従来の守りの基本を、相手の手数が増える前提で点検し直すことが備えになります。

海外製モデルを調達するときに確かめること

LongCat-2.5 は中国企業が開発したモデルで、モデルカードによると、学習や運用の基盤には中国国内の計算用の機材が使われ、動かす手段として国内の機材向けの推論の仕組み(SGLang-FluentLLM)が案内されています。また、提供元のチャットのサービスも用意されています。どの形で使うかによって、データがどこに送られ、誰の管理下に置かれるかが変わります。

重みを取得して自社の機材で動かす場合、入力したデータは自社の管理下にとどまりますが、大規模な機材の確保、推論の仕組みの選定と審査、版の管理まで、運用の責任はすべて自社が負います。提供元のチャットや窓口を使う場合は、データが提供元の管理する環境に送られます。その場合、データの保存期間、学習への利用の有無、処理される国と適用される法律を確かめる必要がありますが、これらは本記事の調べた範囲では確認できていません。

海外の提供元の窓口を使う場合は、個人情報保護法の外国にある第三者への提供の規律や、取引先との契約で求められるデータの扱いとの整合も確かめます。業界によっては、提供元の所在について規制や取引先の要請がある場合もあります。提供元の国籍だけで一律に判断するより、使い方ごとにデータの置き場所と責任の所在を確かめるのが実務的です。そのうえで、社内の方針として所在による制限を設けるかは、経営と法務を交えて決める事項です。

導入を検討するときに確かめること

LongCat-2.5 のような長時間の自律作業向けのモデルを検討するときは、いきなり開発の現場に組み込まず、段階を踏んで確かめます。次の5段階が一つの目安です。

STEP1
使う業務と権限の上限を決める

どの開発業務に使うのか、モデルに許す操作と禁止する操作は何かを先に決めます。本番の環境や秘密情報に触れさせるかどうかは、この段階で線を引きます。

STEP2
配布物と使い方の形を審査する

配布元が提供元の正式な公開場所であること、重みの形式、推論の仕組み、自社運用か提供元の窓口かを確かめ、審査した版を記録します。派生版や変換版は別の配布物として扱います。

STEP3
隔離した環境で長時間の作業を試す

外部と切り離した使い捨ての環境で、自社の課題に近い作業を長時間させ、正確さ、読ませた文書に紛れた指示への耐性、テストの書き換えなど不正な近道の有無を確かめます。

STEP4
記録と承認の仕組みを整える

入力、出力、道具の呼び出し、思考の過程の記録を残し、決めた操作の前に人の承認を求める仕組みを用意します。記録そのものを機密情報として管理する決まりも作ります。

STEP5
限定した範囲で人の監督付きで始める

最初は少人数・少ない業務で、成果物を人が確かめてから反映する形で始めます。一定期間の記録を見直し、問題がないと確かめられた業務から順に範囲を広げます。

この順番で進めると、公表された成績ではなく、自社の環境での振る舞いをもとに判断できます。途中でやめる基準、たとえば「決めた範囲の外の操作を一度でも試みたら停止する」「テストや判定の基準を書き換えようとしたら停止する」といった線も、最初に決めておくと議論が長引きません。

企業が取るべき対策

LongCat-2.5 を使うかどうかにかかわらず、長時間の自律作業向けのモデルについて企業が整えておきたい対策は次の五つです。

一つ目は、利用の申請と台帳です。重み公開型のモデルは誰でも取得できるため、申請を必須にし、どのモデルのどの版を、どの環境で、どの用途に使っているかを一覧にします。委託先が使う場合も対象に含めます。二つ目は、隔離と最小権限です。エージェントは使い捨てにできる隔離した環境で動かし、道具ごとに必要最小限の権限だけを与えます。外部への通信は許可した宛先だけに絞り、秘密情報は作業の環境に置かないようにします。

三つ目は、成果物の確認を作業から切り離すことです。AIが作ったプログラムは、作業をしたAIとは別の仕組みと人が確かめ、テストや判定の基準はAIが変更できない場所で管理します。四つ目は、記録の保存と定期的な見直しです。長い作業の記録は量が多くなるため、すべてを読むのではなく、外部への通信、権限の変更、取り消せない操作など、重点的に見る項目を決めておきます。

五つ目は、社内規程への反映です。重み公開型のモデルの利用条件、エージェントに許す操作と禁止する操作、人の承認が必要な操作、長時間の作業を止める条件を、AIの利用規程や情報セキュリティの規程に書き込みます。これらは、OWASP(ウェブの安全性に取り組む国際的なコミュニティ)が示す生成AIの主なリスク、とくにプロンプトインジェクション、供給網の脆弱性、過剰な権限の付与への備えとも重なります。

AIに任せる範囲と、人が決める範囲

長時間の作業を最後までこなせるように見えるモデルほど、判断まで任せたくなります。しかし、モデルが出力するのは、読み込んだ情報から推測した次の一手です。採点の抜け穴を突く振る舞いへの対策も、提供元の自己申告にとどまります。AIに判断させず、人が決めた範囲の中で作業だけを任せるという線引きを、導入の前に文書にしておくことが大切です。次のような運用は避けます。

  • 社内測定の成績の高さを根拠に、自社での評価をせずに開発の現場へ組み込む
  • モデルカードの「報酬ハッキング対策」を理由に、成果物の確認を省く
  • 本番の環境や秘密情報に触れられる権限のまま、長時間の作業を無人で続けさせる
  • 外部のウェブページや部品の説明書きを読ませながら、外部への通信も自由に許す
  • 送信・削除・公開・権限の変更などの取り消せない操作を、人の承認なしで実行させる

人が決めるべきなのは、任せる業務と禁止する操作、承認が必要な操作、問題が起きたときの止め方、そして規程を見直す時期です。作業の節目ごとに、なぜその変更をしたのか、なぜ完了と判断したのかという根拠を書かせるようにすると、人が後から確かめられます。また、人が必ず確認する範囲を先に決めておくと、長い作業で記録が膨らんでも確認が追いつかなくなる事態を防げます。

よくある質問

ライセンスが MIT なら、自由に使ってよいのですか

ライセンスの面では、利用、改変、再配布、商用利用まで広く認められています。ただし、提供元は保証も責任も負わず、モデルカードも用途ごとの評価を開発者に求めています。使ってよいかどうかは、ライセンスではなく、自社の評価と権限の設計で決まります。

自社の機材で動かせば、情報が外に出ることはないのですか

自社の機材だけで動かし、外部への通信を絞れば、入力した情報が提供元に送られる経路は小さくなります。ただし、エージェントとして外部と通信できる道具を持たせれば、モデルの判断で情報が外に出る経路が生まれます。データの置き場所と、エージェントの権限は分けて考える必要があります。

報酬ハッキング対策があるなら、テストを書き換える心配はないのですか

モデルカードは対策を組み込んだと述べていますが、具体的な方法や効果は示されていません。対策の有無にかかわらず、テストや判定の基準をAIが変更できない形で管理し、成果物を別の仕組みと人が確かめる運用にしておくのが安全です。

  • 本記事の内容は、2026年11月11日に確認した Hugging Face のモデルカード、ファイル一覧、ライセンス本文に基づきます。提供元の技術ブログは本文を取得できず、内容は確かめていません。数値やファイル構成は今後の更新で変わる可能性があります
  • 成績の数字はすべて提供元による公表値で、モデルカード上も社内測定の参考値とされています。当ラインでは検証しておらず、モデルや関連するプログラムは取得・実行していません

まとめ

LongCat-2.5 は、美団の研究チームが2026年11月に重みを公開した、全体で約1.6兆、1回の処理で約480億のパラメータを使う専門家混合型の、画像と文章を一体で扱う長時間の自律作業向けのモデルです。当ラインでは、公式の公開元、MIT ライセンス、safetensors 形式のみの重み、独自のプログラムが無いこと、勧告の報告が無いことから「紹介可」と判定しました。ただし、問題が見つからなかったことは安全の保証ではありません。学習上の報酬ハッキング対策も、成績の数字も、提供元の自己申告と社内測定です。

このモデルの公開で企業が備えるべきなのは、モデルの選び方よりも、長時間働くAIの扱い方です。使う業務と権限の上限の決定、隔離した環境と最小限の権限、成果物の確認を作業から切り離すこと、記録の保存、取り消せない操作への人の承認を先に整え、AIに判断させず、人が確認する範囲を先に決めておくことが、自律的に働くモデルと付き合うための出発点になります。

出典(一次情報)

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。

あなたのWebサイトは、AIによる攻撃に耐えられますか?

AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。

運営会社:株式会社デボノ

目次