言語モデルの重みの中に計算機を組み込んで道具を動かすモデル「Qwenx86-4B」を解説

言語モデルの重みの中に計算機を組み込んで道具を動かすモデル「Qwenx86-4B」を解説

「言語モデルの重みの中に、本物の計算機が丸ごと入っているというのは本当なのか」「もしそうなら、配布されたモデルファイルの中に何が入っているかを、どうやって確かめればよいのか」——生成AIの社内導入を審査するセキュリティ担当者や、公開モデルの検証を任された情報システム部門の担当者から、聞こえてきそうな疑問です。2026年11月、Hugging Face(AIモデルの公開・共有サイト)で、小型の言語モデルの重みの中に64ビットの x86(パソコンで広く使われている命令の体系)の計算機を組み込んだモデル「Qwenx86-4B」が公開されました。このモデルが投げかけているのは、技術的な珍しさの話ではありません。本当は、モデルファイルには通常の学習では生じない機能を後から書き込めるという事実を、調達と管理の前提にできているかという問いです。この記事では、モデルカードで確かめられる事実、当ラインの安全性の精査結果、そして企業がこの種のモデルを扱うときに考えておくべきことを、防御の立場から整理します。


カメ先生カメ先生

言語モデルの重みは、大量のデータから学んだ「言葉の癖」の集まりだと思われがちなんだけど、本当は計算の回路のような決まった機能を、学習なしで後から書き込むこともできるんだ。このモデルはその実例なんだよ。


カメ子カメ子

モデルファイルの中に、説明を読まないと分からない機能が入っていることもありうるということですか。


カメ先生カメ先生

そう。このモデルは研究として中身を丁寧に説明しているけれど、説明が無ければ、使う側が重みを眺めて機能を見つけ出すのはとても難しい。しかも動かすには独自のプログラムも必要で、AIが自分でメモを保存したり消したりする機能まである。


カメ子カメ子

モデルを選ぶときは、成績より先に、何が入っていて何をするのかを確かめる手順が要るんですね。


この記事のポイント
  • Qwenx86-4B は、Qwen3.5-4B の前段に、学習ではなく変換の仕組み(コンパイラ)で重みを計算した13層を加え、x86 の計算機として働かせる研究公開のモデル
  • 計算機能、小さな言語の実行環境、メモの保存などを道具として呼び出し、第3版ではモデルが自分の判断でメモを保存・検索・削除する。動かすには同梱の独自コードが必要
  • 重みに後から機能を書き込めるため、企業はモデルの中身を説明と照らして確かめ、独自コードは隔離して扱い、AIに保存・削除を任せる範囲は人が先に決める

あなたのWebサイトは、AIによる攻撃に耐えられますか?

AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。

目次

Qwenx86-4Bとは何か。2026年11月時点で確かめられる事実

Qwenx86-4B は、Hugging Face で Quazim0t0 というアカウントが公開しているモデルです。本記事で扱うのは、その中の compact(小型化)版です。元になったのは、中国の Qwen チームが公開している言語モデル Qwen3.5-4B です。モデルカード(モデルの説明書きにあたるページ)によると、このモデルは Qwen3.5-4B に64ビットの x86 の計算機を「コンパイルして」組み込んだものです。

当ラインの精査で確かめた記録では、作成日は2026年11月5日、最終更新日は11月10日です。ライセンスは Apache-2.0(商用利用も認める代表的なオープンソースのライセンス)で、利用の前に申請や同意を求める制限(ゲート)は付いていません。確認した11月11日の時点で「いいね」は52、ダウンロード数は121でした。公開から1週間足らずの、まだ利用の実績が少ないモデルです。

モデルカードによると、compact 版はおよそ9ギガバイトのGPU(画像処理用の演算装置)メモリで動き、16ギガバイトのGPUに収まるように作られています。作者は、過去に実在の計算機を正確に再現する研究を複数公開してきたと説明しており、このモデルはそれを言語モデルの重みの中で行った研究と位置づけられています。作者は個人で、所属や経歴の詳しい情報はモデルカードからは確認できません。

重みの中の計算機はどう働くのか。仕組みの概要

通常の言語モデルは、学習によって決まった重みを使い、次に来る言葉を予測します。Qwenx86-4B では、Qwen3.5-4B 本来の層の前に13層の追加の層が置かれています。モデルカードによると、この13層には学習で得た重みが一つも無く、すべての重みがコンパイラ(設計図を機械が実行できる形に変換する仕組み)によって計算されています。

この追加の層が、計算機の部品の役割を果たします。命令を読み出す部分、記憶装置、計算を担う部分などが重みとして表現され、記憶はモデルが内部で持ち回す状態(Gated DeltaNet と呼ばれる仕組みの記憶領域)の中に置かれていると説明されています。モデルカードには、64キロバイトの読み書きできる記憶、256キロバイトの命令用の領域、128キロバイトの読み出し専用の領域という構成が記されています。

使うときは、Qwen が会話の中で道具の呼び出し(ツール呼び出し)を書くと、重みの中の計算機がその道具を実行し、結果を返します。つまり、外部の計算サービスに頼らず、モデル自身の中で計算を実行するという構成です。モデルカードは、Qwen 本来の重みは変更していないと説明しています。ここで書いたのは公開情報に基づく概要で、当ラインは実際の動作を確かめていません。

元になった研究「Qwenputer」との関係

Qwenx86-4B には、元になった研究があります。Divyansh Agrawal 氏が公開した Qwenputer です。その README によると、Qwenputer は Qwen3.5-4B の重みに32ビットの RISC-V(公開仕様の命令の体系)の計算機を組み込んだ実験で、Qwen 本来の層の前に11層を加え、その重みはすべてコンパイラが計算しています。コードは MIT ライセンス、重みは Apache-2.0 です。

Qwenx86-4B のモデルカードは、計算機の回路や、回路を Qwen の層に変換するコンパイラ(chipformer という名前のコード一式)、道具の呼び出しの橋渡し、会話の処理などを Qwenputer から引き継いだと明記しています。そのうえで、x86 の命令に合わせた演算や条件分岐の追加、記憶の拡張(層が11から13へ増加)、道具の組み込みなどを新たに加えたとしています。

Qwenputer は海外の技術メディアでも取り上げられ、言語モデルの重みの中で計算機を動かす試みとして話題になりました。Qwenx86-4B は、一人の研究の成果を別の個人が引き継いで発展させた派生の研究です。公開モデルの世界では、このように改造や派生が短い期間で積み重なることが珍しくありません。どの部分を誰が作ったかを、出典から追える形で示している点は評価できます。

呼び出せる道具と、公表されている検証の数字

モデルカードによると、Qwen が呼び出せる道具はすべて「ファームウェア」(計算機に組み込まれた基本のプログラム)としてモデルの保存データの中に入っており、利用者の側でプログラムを読み込む必要は無いとされています。主な道具を整理すると次のとおりです。

道具の種類モデルカードの説明公表されている数字
計算機能四則演算と括弧、小数を扱う正確な計算算数の文章題の試験の最初の28問で、使用時26問正解、元のモデルは23問正解
小さな言語の実行環境Python の小型版(MicroPython)を改造したもの9つのプログラムで確認
C 言語の簡易な変換・実行作者が用意した小さなコンパイラ10のプログラムで確認
メモの保存と検索計算機の記憶の中にメモを保存(個別の数字の記載なし)
科学の定数・単位の参照物理定数647件と周期表などを読み出し専用の領域に格納647件すべて正確に再現
Python の説明の参照1,003件の関数の説明を圧縮して格納1,003件すべて正確に再現

計算機の部分については、x86 の動作を再現する既存の道具(Unicorn)と命令ごとに突き合わせた2,000件の試験で、すべて一致したとされています。また、道具を呼び出さない普通の文章では、元の Qwen3.5-4B とほぼ同じ言葉を出すことを、48か所の比較などで確かめたと説明されています。

ただし、これらの数字は作者自身による公表値で、当ラインは再現していません。算数の試験は最初の28問だけの比較で、件数が少ない点にも注意が要ります。数字は研究の到達点を知る手がかりとして読み、業務での精度の根拠には使わないのが妥当です。

第2版・第3版で加わった記憶の機能

モデルカードによると、第2版では同じ重みのまま、名前を付けたファイル、1,000件の事実の保存、5万トークン(言葉の単位)の文書を一字一句そのまま思い出す機能、画像、検索用の索引などの「記憶」が加わりました。この記憶は、モデルの4つの層に追加した記憶の領域に置かれ、普通の文章からは書き込めない作りだと説明されています。第2版の段階では、記憶の操作はモデルの横で動くプログラムが担います。

第3版では、これが一歩進み、会話の中で Qwen 自身が、いつメモを保存・読み出し・検索・一覧・削除するかを判断するようになりました。モデルカードによると、記憶はメッセージのたびに保存され、次の会話にも引き継がれます。試験では、ひとつの会話で3回の保存と1回の削除がすべて成功し、別の処理から保存した記憶をもとに4問中4問に答えられたとされています。

技術としては興味深い成果ですが、防御の立場から見ると、AIが自分の判断で情報を残し、消せるという点は管理の対象になります。モデルカードを読んだ範囲では、削除の前に人の確認を挟む仕組みの説明は見当たりませんでした。この点は後の章で詳しく考えます。

なぜ防御の担当者が知っておくべきなのか

このモデル自体は、計算の正確さを高めることを目指した研究で、攻撃を目的としたものではありません。それでも防御の担当者が知っておく価値があるのは、モデルファイルは学習の結果だけでできている、という思い込みが通用しないことを、具体的な形で示しているからです。

これまで公開モデルの安全性の議論は、学習データの偏りや有害な出力への耐性が中心でした。しかし Qwenx86-4B のように、決まった機能を重みとして後から書き込む手法が実際に公開されると、モデルの調達では「どんなデータで学んだか」に加えて「誰が、何を、どの層に加えたか」を問う必要が出てきます。

もう一つの理由は、このモデルが、重み・同梱の独自コード・保存された記憶という三つの部品で一つの仕組みになっていることです。企業が生成AIを使うとき、モデルを一つのファイルとして管理していると、こうした構成を見落としかねません。今回の公開は、モデルの管理を「ファイル単位」から「仕組み単位」へ広げるきっかけとして読むことができます。

安全性の評価。注意付きとした根拠

当ラインでは、公開情報を読んだ範囲で次の事実を確かめ、このモデルを「注意付き」と判定しました。モデルの取得や実行はしていません。

安心材料として、ライセンスが Apache-2.0 で利用の条件が明確なこと、精査で確かめたファイル一覧に、読み込むと任意のプログラムが実行されうるピクル形式(Python の保存形式の一つ)の重みが含まれていないことが挙げられます。モデルカードによると、重みは safetensors 形式(読み込んでもプログラムが実行されない保存形式)で配布されています。また、元になった研究や使ったデータの出典とライセンスが明記されていることも、透明性の面で評価できます。

注意を付けた理由は三つです。一つ目は、作成から日が浅い個人作者による研究公開で、利用の実績や第三者による検証が乏しいこと。二つ目は、chipformer というフォルダに30を超える独自のプログラムのファイルが含まれ、動かすにはそれらを含むコードの実行が前提になること。三つ目は、AIが自分で記憶を保存・削除する機能を持つことです。そして、問題が見つからなかったことは、安全の保証ではありません。精査は公開情報を読んだ範囲のもので、コードの中身の監査や動作の確認はしていません。

同梱された独自コードと、読み込むときの注意

Hugging Face のモデルの多くは、広く使われているライブラリ(共通部品のプログラム)だけで読み込めます。一方、Qwenx86-4B のモデルカードは、計算機を動かすための専用の読み込み処理や会話の処理を、リポジトリ(ファイルの保管場所)に含まれるプログラムとして提供していると説明しています。元になった Qwenputer の README も、重み自体は標準の形で読み込めるものの、計算機を動かすには専用のコードが必要だとしています。

社外から取得したプログラムを社内の計算機で動かすことは、それ自体がソフトウェアの供給網(サプライチェーン)の問題です。今回のコードに問題があるという情報は確認できていませんが、一般論として、モデルに同梱されたプログラムは、通常のソフトウェアと同じく、読んで確かめてから動かす対象です。特に、GPU を備えた計算機は社内の重要なデータや認証情報に近い場所にあることが多く、そこで未確認のコードを動かすことは避けるべきです。

また、公開モデルは更新されることがあります。このモデルも作成から5日で最終更新を迎えています。確かめた版と、実際に動かす版が同じであることを、版の識別子やファイルの指紋(ハッシュ値)で押さえておかないと、確認した後に中身が変わっても気づけません。

悪用されうるリスク。重みに後から機能を書き込めることの意味

ここからは推測を含みます。Qwenx86-4B は、計算を正確にするための機能を重みに書き込み、その内容を丁寧に説明しています。しかし、決まった機能を重みに後から書き込めるという事実は、悪意のある機能を書き込む余地があることも意味すると考えられます。たとえば、特定の条件でだけ働く仕掛けを、普段の会話の振る舞いを変えずに組み込むといった可能性です。

このモデルでは、道具を呼び出さない普通の文章では元のモデルとほぼ同じ言葉を出すことが、作者の検証で示されています。研究としては品質の高さを示す結果ですが、裏返せば、追加された機能は普段の会話からは見えにくいということです。一般的な試験の成績だけでは、追加の機能があるかどうかを見分けられない可能性があります。

現時点で、この研究の手法が悪意のある目的に使われたという報告は確認できていません。また、ここで挙げた可能性の具体的な実現方法は、防御には不要なので扱いません。守る側にとって大切なのは、手法の細部を追うことではなく、説明されていない機能が入っていても気づける確認の仕組みを持つことです。

モデルファイルの中身を外から確かめにくいという問題

通常のソフトウェアであれば、ソースコードを読んだり、動作を観察したりして、何をするかを確かめられます。ところがモデルの重みは、数十億個の数値の集まりです。Qwenx86-4B の追加の層は、作者が「何を書き込んだか」を説明しているから理解できるのであって、説明が無いまま数値だけを渡された場合に、そこに計算機が入っていると見抜くのは容易ではありません。

この点を、管理の手段ごとに整理すると次のようになります。

確かめる手段分かること分からないこと
モデルカードを読む作者が説明している機能と構成説明されていない機能
ファイル一覧と形式を見る独自コードの有無、危険な保存形式の有無重みの中身が何をするか
ハッシュ値を照合する確かめた版と同じファイルかどうかその版自体が安全かどうか
元のモデルと層の構成を比べる層が追加・変更されているかどうか追加された層が何をするか
自社の用途で振る舞いを試す想定した入力に対する応答試していない条件で働く機能

表のとおり、どの手段にも見えない部分があります。だからこそ、一つの確認に頼らず、複数の手段を重ねることが大切です。とくに「元のモデルと比べて層の数や形が変わっていないか」は、今回のような追加の層に気づくための基本的な観点になります。

AIが自分でメモを保存・削除する機能をどう管理するか

第3版の記憶の機能は、生成AIの運用で今後よく出てくる論点を先取りしています。AIが会話の内容を自分の判断で保存すると、個人情報や社外秘の情報が、利用者の意図しない形で残る可能性があります。保存された記憶は次の会話にも引き継がれるため、別の利用者や別の用途の会話に情報が混ざる心配もあります。

削除の機能にも注意が要ります。AIが自分の判断でメモを消せるということは、後から「何を保存し、何を消したか」をたどれなくなるおそれがあるということです。監査や問題の調査の場面では、AIが記憶に対して行った操作の記録を、AIが消せない場所に残すことが求められます。これは Qwenx86-4B に限らず、記憶の機能を持つAIエージェント(自律的に作業を進めるAI)全般に当てはまる考え方です。

管理の基本は、記憶の機能を最初は止めておき、使うなら保存してよい情報の種類、保存の期間、削除の権限を人が決めることです。とくに削除は、AIに任せず人の承認を挟むか、論理的な削除(見えなくするだけで記録は残す)にとどめる設計が安全です。モデルが「うまく判断してくれる」ことを前提にしないことが大切です。

調達・検証の場面で確かめたいこと

Qwenx86-4B のように独自の機能を加えたモデルを、研究や検証の目的で社内に持ち込む場合は、次の順で確かめることをおすすめします。ここで挙げるのは確認の観点で、具体的な操作の方法は社内の技術担当者と決めてください。

STEP1
目的と責任者を決める

何のために使うのか、業務に使うのか研究の検証にとどめるのかを決め、責任者を置きます。研究目的なら、業務のデータには触れさせない前提を明文化します。

STEP2
構成の全体を書き出す

重みのファイルだけでなく、同梱のプログラム、必要なライブラリ、保存される記憶やデータの置き場所まで、仕組みを構成する部品をすべて書き出します。

STEP3
説明と実物を照らし合わせる

モデルカードの説明と、実際のファイル一覧や層の構成が食い違わないかを確かめます。元のモデルとの違いが説明の範囲に収まっているかが要点です。

STEP4
独自コードを読み、隔離して試す

同梱のプログラムは技術担当者が中身を読んでから、社内のネットワークや認証情報から切り離した検証用の環境で動かします。

STEP5
記録を残し、承認を得る

確かめた版の識別子とハッシュ値、確認の結果、判断の理由を記録し、承認を得てから利用を始めます。更新があれば同じ確認をやり直します。

この流れで進めると、話題性や成績の数字ではなく、何が入っていて、何をするのかを根拠に判断できます。研究公開のモデルは更新が速いため、一度の確認で終わらせない運用が欠かせません。

企業が取るべき対策

このモデルを使うかどうかにかかわらず、公開モデルを扱う企業が整えておきたい対策を四つ挙げます。

一つ目は、モデルを「仕組み」として台帳に載せることです。モデルの名前と版だけでなく、同梱のプログラム、必要なライブラリ、記憶やログの保存先までを一体で記録します。二つ目は、独自コードを含むモデルの扱いを規程に書くことです。独自のプログラムを必要とするモデルは、中身の確認と隔離した環境での検証を必須とし、本番の環境への持ち込みには承認を求めます。

三つ目は、層の構成の確認を調達の観点に加えることです。派生モデルについて、元のモデルと比べて層が追加・変更されていないかを確かめ、説明の無い変更があれば使用を見送ります。四つ目は、AIの記憶の機能に関する決まりです。記憶を持つAIを使う場合は、保存してよい情報、保存期間、削除の権限、操作の記録の残し方を、AIの利用規程に書き込みます。

どの対策も、特別な技術ではなく、モデルを中身の分からない便利な道具ではなく、管理すべきソフトウェアの部品として扱うという考え方から出てくるものです。情報セキュリティの既存の仕組みに、モデル特有の観点を足していく形で進めると、無理なく定着させられます。

AIに任せる範囲と、人が決める範囲

Qwenx86-4B は、AIが道具を呼び出し、記憶を操作するところまで自分で判断する方向の研究です。こうした機能を業務で使う場合も、AIに判断させない領域を先に決めることが前提になります。モデルを採用するかどうか、記憶に何を残してよいか、何を消してよいかは、人が決めるべき事柄です。

AIに任せてよいのは、あらかじめ決めた範囲の中での作業です。たとえば、計算や検索の結果を出すときは、どの道具を使い、どんな値を得たのかという根拠をAIに書かせ、人が確認できるようにします。モデルカードにも、Qwen が道具の結果を答えの中で書き換えて示すことがあると記されています。道具の結果と最終的な答えを見比べられる形にしておくことが大切です。

  • 話題の研究モデルを、構成を確かめないまま業務用の計算機に入れて試す
  • AIの記憶の機能を有効にしたまま、顧客情報を含む会話に使う
  • AIが自分で消したメモについて、何を消したかの記録を残していない
  • 作者の公表値だけを根拠に、業務の計算をモデルに任せる

こうした使い方は、機能そのものではなく、人が確認する範囲を決めないまま使い始めることから問題が生まれます。導入の前に、確認の担当と範囲を決めておきましょう。

よくある質問。研究モデルとどう付き合うか

このモデルを業務で使ってよいか。現時点では、研究の検証の対象として扱うのが妥当です。個人による研究公開で、作者自身が道具ごとの制約(扱えるプログラムの長さ、処理に時間がかかることなど)を挙げています。業務での利用は、前の章の確認を経たうえで、計算結果を人が確かめられる用途に限るのが安全です。

重みの中に機能を書き込む手法は危険なのか。手法そのものは研究として価値があり、今回の公開も悪意のあるものではありません。ただし、説明と中身が一致していることを使う側が確かめにくいという性質があるため、出どころの確かなモデルを選び、構成の確認を重ねることが備えになります。

独自コードの無いモデルなら安心か。独自コードが無いことは安心材料の一つですが、重みの中身まで保証するものではありません。このモデルの元になった研究でも、重みは標準の形で読み込めると説明されています。ファイルの形式、層の構成、振る舞いの確認を組み合わせて判断してください。

  • 本記事の内容は、2026年11月11日時点でモデルカード、元になった研究の README、当ラインの精査記録で確かめた範囲のものです。モデルは更新が続いており、構成や数字は変わることがあります。
  • 当ラインはモデルや同梱のプログラムを取得・実行しておらず、公表値の再現やコードの監査はしていません。

まとめ

Qwenx86-4B は、Qwen3.5-4B の前段に、学習ではなくコンパイラで計算した13層を加え、64ビットの x86 の計算機として働かせる研究公開のモデルです。計算や小さなプログラムの実行、メモの保存などを道具として呼び出し、第3版ではAIが自分の判断で記憶を保存・削除します。研究としての透明性は高い一方、個人作者による公開から日が浅く、動かすには独自のプログラムが必要なことから、当ラインは「注意付き」と判定しました。

防御の立場で受け取るべき教訓は、モデルファイルには通常の学習では生じない機能を後から書き込めるということです。企業は、モデルを重み・同梱のプログラム・記憶を含む仕組みとして台帳に載せ、説明と中身を照らし合わせ、独自のプログラムは隔離して確かめ、AIの記憶の操作は人が範囲を決めて記録を残す必要があります。問題が見つからないことは安全の保証ではない、という前提で、確認の仕組みを整えていきましょう。

出典(一次情報)

※本記事にはAIが活用されています。編集者が確認・編集し、可能な限り正確で最新の情報を提供するよう努めておりますが、情報の完全性、正確性、最新性、有用性等について保証するものではありません。本記事の内容に基づいて行動を取る場合は、読者ご自身の責任で行っていただくようお願いいたします。

あなたのWebサイトは、AIによる攻撃に耐えられますか?

AIを活用してWebサイト・Webサービスの脆弱性を診断し、発見した問題と推奨する修正方法をご報告します。

運営会社:株式会社デボノ

目次