モデルの使用制限と責任

AI モデルを利用・展開する際に「誰が・何に・どう責任を負うか」は、(1) 利用条件という契約層（ライセンス/AUP）、(2) 損害が生じたときの民事責任層（製造物責任・不法行為）、(3) 規制当局への義務履行層（安全・輸出規制）の三層で考えると整理しやすい。情報カットオフ ~2025-08、confidence: medium（規制・ライセンス条件は流動的。以下の事実は 2026-05 時点で外部検証済み）。

利用規約・ライセンス（契約層）

open-weight モデルのライセンス

「オープンウェイト」モデルは重みを公開しているが、OSI 定義のオープンソースとは異なるカスタム商用ライセンスが付与されることが多い。代表例が Llama 4 Community License（Meta、llama.com/llama4/license/）だ。

主要な制限事項を以下に示す。

700 万 MAU 閾値（700 million monthly active users threshold）: リリース日時点で自社および関連会社の製品・サービスの月間アクティブユーザが前暦月に 7 億超だった場合、Meta に別途ライセンスを申請しなければならず、付与は Meta の裁量による。7 億以下であれば商用利用は原則可能。大規模プラットフォームほど確認が必須となる。

EU 居住ライセンシーの視覚機能除外: 現行の Llama 4 Community License では EU 域内居住のライセンシーがマルチモーダル（画像理解）機能を利用することが条項上除外されている。これは EU AI Act の高リスク分類や GDPR への対応を反映した措置とみられる。

AUP（Acceptable Use Policy）: llama.com/llama4/use-policy/ にて違法利用・武器開発・CSAM・選挙干渉等の禁止用途が列挙される。違反はライセンス失効につながる。

プロプライエタリ API の利用規約

OpenAI Usage Policies、Anthropic Usage Policy 等のプロプライエタリサービスでは、禁止用途が利用規約とポリシーページで定義される。違法行為・CSAM・マルウェア・武器製造・大規模監視・偽情報・特定高リスク領域での無保護利用が典型的な禁止事項だ。違反検知でアクセス遮断・アカウント停止が行われる。具体的条項はプロバイダーが随時改定するため、各社ポリシーページを定期的に参照する必要がある。

open-weight vs proprietary の制限の効力差

観点	open-weight（例: Llama 4）	proprietary API（例: GPT-4o）
制限の根拠	ライセンス契約（重みDL時に同意）	ToS + ポリシー（API利用時に同意）
強制手段	法的差止・損害賠償	アクセス遮断・アカウント停止
重みのローカル実行	ライセンス条件次第で可	不可（モデル非公開）
監査可能性	高い（重みへのアクセスあり）	低い（ブラックボックス）

「open-weight = 無制限」という誤解は危険であり、特に 700M MAU 閾値・EU マルチモーダル除外は見落としやすいポイントだ。

責任分界：プロバイダー vs デプロイヤー（EU AI Act）

EU AI Act は provider（提供者）/ deployer（運用者）/ importer / distributor という役割に応じて義務を分配する。

provider は AI システムを市場に出す事業者。高リスク AI システムでは適合性評価（conformity assessment）・技術文書整備・EU 適合宣言・CE マーキングが義務。GPAI モデルプロバイダーは透明性義務（技術文書・著作権ポリシー）、systemic risk 該当時は追加の安全評価義務を負う。

deployer は AI システムをエンドユーザーへの製品・サービスに組み込む事業者。高リスク AI では利用目的の範囲内での運用・人間監督（human oversight）の確保・ログ保持・データガバナンス・リスク管理システムの整備が求められる。

importer / distributor は EU 域外 provider が EU 規制要件を満たしているか確認する義務を負う。

「AI API を利用してサービスを構築する日本企業」は典型的には EU 域内でサービス提供する限り deployer として高リスク分類の義務を負う可能性がある。

民事責任（不法行為・製造物責任）

改正製造物責任指令（PLD）— 2024-10 採択

EU 改正製造物責任指令（Directive 2024/2853/EU）が 2024-10 に採択された。これは 1985 年の旧 PLD を大幅改正し、欠陥製品の厳格責任（strict liability, 過失の有無を問わない）をソフトウェアおよび AI システムにも拡張するものだ。

重要な射程と限界:

対象: 欠陥のある製品（組み込み AI を含むデジタル製品）。
厳格責任の範囲: 欠陥に起因する人身・財産損害。AI システムが「欠陥製品」と認定されれば製造者・開発者に過失不要で賠償責任が生じる。
限界: 不法行為（tort）・過失（negligence）に基づく損害は対象外。

EU AI 責任指令（AILD）— 撤回

EU AI 責任指令（AILD）は 2025-02-11 の欧州委員会作業計画で撤回方針が示され、2025-10 に正式撤回された。AILD は AI システムによる過失ベースの民事責任に関する特別ルール（因果関係の証明負担軽減等）を設けるものだったが、加盟国間で合意が見込めないとして撤廃された。

結果として EU には 過失・不法行為ベースの AI 民事責任に規制空白が生じている。改正 PLD は「欠陥製品の厳格責任」を AI に延長したが、過失を要件とする不法行為は各国一般民法で処理されることになる。

米国

米国には統一連邦 AI 責任法は存在しない。既存の**製造物責任（products liability）・過失（negligence）・契約法（contract law）**で事案ごとに処理される。州法の動向は流動的であり、確定的なフレームワークは 2026-05 時点で確立されていない。

デュアルユース・輸出規制

AI Diffusion Rule — 制定・撤回の経緯

Biden 政権は 2025-01-15 に「Framework for AI Diffusion」（AI Diffusion Rule）を公表した。これは史上初めてAI モデルの重み（model weights）を輸出規制対象に含める試みで、10^26 FLOP を超えるコンピュートで学習した closed-weight モデルの重み輸出に EAR（輸出管理規則）ライセンスを要求するものだった。先端 AI チップと同様に国別分類（同盟国 / 条件付き / 高リスク）と処理能力キャップを設ける設計だった。

しかし 2025-05-13 に BIS（産業安全保障局, Trump 政権）が AI Diffusion Rule を正式撤回した。撤回理由は「過度に官僚的・米イノベーション阻害・同盟国関係の毀損」。同時に AI 関連取引への非規制ガイダンス（non-binding guidance）を発出し、執行リスクは維持しつつも規制の縛りを外す方針が示された。

代替となる新しい輸出規制ルールは将来発出予定とされているが、内容は 2026-05 時点で未公表。先端半導体チップへの輸出規制（tech-93 記事参照）は継続しており、重みとチップで規制の厚みに非対称が生じている。

実務上の注意点

closed-weight モデルを高リスク国に輸出・再転送する際には現行の EAR 該当性を確認する（model weights 以外の輸出規制が引き続き適用される可能性）。
代替ルールが発出された場合、再び model weights への規制が課される可能性が高い。

安全義務・レッドチーミング

EU AI Act — GPAI systemic risk 義務

EU AI Act は GPAI（General-Purpose AI）モデルのうち学習に 10^25 FLOP を超えるコンピュートを使用したものを systemic risk ありと見なし（現在 GPT-4 相当以上が目安）、追加義務を課す。

主要義務:

モデル評価: 能力・限界の体系的評価（adversarial testing を含む）。
レッドチーミング（adversarial testing）: 悪用可能性・安全リスクの探索的テスト。
重大インシデント報告: EU 域内での重大な障害・侵害を EU AI Office に報告。
サイバーセキュリティ義務: モデルとインフラへのサイバー攻撃への適切な対策。

Frontier Safety Framework（各社自主）

OpenAI、Anthropic 等の frontier AI 企業は規制義務に先んじて能力閾値・評価プロトコル・展開判断基準を定めた自主的な Safety Framework を公開している。これらは規制の先行的なコミットメントとして、将来の法的責任論点でも参照される可能性がある。

インデムニティ（著作権補償）

AI が生成したコンテンツが第三者の著作権を侵害するリスクに対して、主要ベンダーは顧客への補償（indemnification）を提供する動きが広まっている。

ベンダー	補償プログラム名	主な条件
Microsoft	Copilot Copyright Commitment	利用規約遵守・Human Review 不採用時は除外
OpenAI	Copyright Shield	有料プラン加入、指定ガードレール有効化
Google	著作権保護（Workspace/Cloud）	利用規約遵守、禁止用途除外
Adobe	Content Credentials / Firefly	商用利用での著作権侵害補償、適法データのみで学習済みと主張

補償は「顧客が第三者から著作権侵害を訴えられた場合の防御費用・賠償額の肩代わり」が基本形で、条件（利用規約の遵守・Guardrail の有効化等）を満たさない場合は適用されない。著作権の詳細は tech-98（著作権と訓練データの出所）を参照。

アンチパターン一覧

実務でよく見られる誤解・見落としをまとめる。

アンチパターン	何が問題か	正しい対処
open-weight = 無制限と誤解	Llama 4 の 700M MAU 閾値・EU vision 除外等の制限が存在する	ライセンス本文を毎リリース確認する
AUP 違反でもアクセス継続できると思う	プロプライエタリ API は違反検知でアクセス遮断・アカウント停止	禁止用途一覧を事前確認してプロダクトに反映
AILD 撤回 = AI 企業は民事免責	改正 PLD（厳格責任）は有効、各国一般不法行為法も適用	欠陥設計・不当な誤情報への法的リスクは残る
AI Diffusion Rule 撤回 = 重み輸出は自由	代替ルール発出予定。その他 EAR 規制は継続	高リスク国への重み移転前に BIS ガイダンス確認
systemic-risk 閾値未確認のまま運用	10^25 FLOP 超モデルのデプロイは EU AI Act 追加義務対象	使用モデルのトレーニング FLOP をプロバイダーに確認
インデムニティ条件を読まずに依存	利用規約違反・Guardrail 無効化等で補償対象外になる	補償条件を契約書/利用規約で確認し記録

2026 流動点（[要確認]）

以下の項目は 2026-05 時点で確定していないか今後変動が予想される。

米 AI Diffusion 代替ルール: BIS が AI Diffusion Rule の撤回後に発出するとした代替ルールの内容・施行時期は未公表。model weights への規制が再度設けられるか、別アプローチ（エンドユーザー証明等）になるかは要注視。
EU fault-based AI 責任: AILD 撤回後、EU は fault-based（過失ベース）の AI 民事責任に対する立法再提案の可能性を残している。EU AI Office の動向を要確認。
open-weight モデル規制動向: EU AI Act が open-weight GPAI モデルへのフルペーパー義務免除（軽減義務）をいつまで維持するか、および各国での open-weight 規制の立法化動向。
各社ライセンス・AUP 改定: Llama シリーズ・主要プロプライエタリ各社のライセンスは定期改定。特に Llama の MAU 閾値・EU 向け条件は次世代モデルでの変更に注意。
著作権インデムニティ拡大/縮小: 大型著作権訴訟の判決次第でベンダーの補償範囲が変更される可能性がある。

AI Usage Policy and Liability（モデルの使用制限と責任）