ニュースの概要
米トランプ政権は、AIの安全性を確保する手段として、新しい包括的な規制法をつくるのではなく、すでにある製造物責任や損害賠償の仕組みを使う方向を強めている。AIが誤作動して損害が出たとき、モデルを作った開発企業と、それを自社の業務に組み込んで使った導入企業のどちらが責任を負うのかが最大の争点になっている。ベッセント財務長官や前ホワイトハウスAI政策責任者のサックス氏は、開発者に安全性への金銭的な責任を負わせる考えを支持しているとされる。一方で、導入企業側にも利用方法に応じた責任が問われるべきだとの見方があり、双方の負担をめぐる対立が表面化しつつある。
引用元: 米政権のAI責任論、開発企業と導入企業の負担をめぐる対立に発展（Bloomberg）
分析・見解
新しい法律をつくらず、裁判で線を引く選択
今回の方針の核心は、AI専用の法律を待たずに、既存の損害賠償ルールで事故の責任を決めていく点にある。法律の整備には年単位の時間がかかる。AIの進歩はそれより速い。だから、事故が起きるたびに裁判所が個別に判断し、その積み重ねで基準をつくる道を選んだと読める。
これは自動車の歴史に似ている。初期の自動車事故は、運転者の過失か、メーカーの欠陥かが長く争われた。やがて欠陥があればメーカーが過失の有無にかかわらず責任を負うという考え方が定着し、安全装備の開発が進んだ。AIでも同じ流れを狙っているのだろう。
ただし裁判頼みには弱点がある。判決が出るまで、企業は何が許され何が危ないのかが分からない。この不確実さが、当面の投資判断に影を落とす。
開発企業に責任を寄せると何が起きるか
開発企業に安全性の財務責任を負わせる案には、筋の通った理由がある。モデルの中身を最もよく知っているのは作った側であり、欠陥を直せるのも作った側だからだ。責任を重くすれば、試験や安全対策に資金が回りやすくなる。
しかし副作用もある。責任が重すぎると、体力のある大手だけが開発を続けられ、新興企業が参入しにくくなる。結果として、市場が少数の巨大企業に偏るおそれがある。また、開発企業は自社を守るため、利用規約で用途を細かく制限したり、免責条項を厚くしたりするだろう。法律が責任を寄せても、契約書の上で導入企業へ押し返される可能性は高い。
導入企業が問われる「使い方」という責任
争いの本当の焦点は、同じモデルでも使い方次第で危険度が大きく変わる点にある。たとえば同じ文章生成モデルでも、社内の議事録要約に使うのと、患者への投薬案内に使うのでは、誤りの重みがまるで違う。開発企業からすれば、想定外の用途で使った側に責任があると言いたくなる。
製造物責任の世界には、メーカーが予見できる誤使用までは責任を負うという考え方がある。AIでは、どこまでが予見できる誤使用なのかが決まっていない。ここが今後の裁判で最も揉める部分になるだろう。
独自の視点 責任は「AIの精度」ではなく「記録の有無」で決まる
筆者が注目するのは、責任の分かれ目が精度の高さそのものではなく、誰が何を確認したかの記録になりやすい点だ。事故後の裁判では、開発側が十分な警告を出していたか、導入側がそれを読んで対策したかが問われる。つまり、完璧なAIをつくる競争と並んで、説明と確認の履歴を残す競争が始まる。この履歴を整えた企業は、事故が起きても責任を限定しやすくなる。
ビジネスへの影響
契約書で責任の範囲を先に決めておく
AIサービスを導入する企業は、まず契約書を見直したい。確認すべき点は三つある。一つ目は、モデルの誤りで損害が出たときの賠償の上限額。二つ目は、開発企業が想定している用途と禁止している用途。三つ目は、事故時に原因を調べるためのログ（利用記録）を提供してもらえるかどうかだ。
特に上限額は、月額利用料の数倍程度に設定されていることが多い。自社の業務で起こりうる損害額と比べ、足りなければ交渉の余地がある。
人の確認工程と記録を業務に組み込む
責任の分担が曖昧な間は、自社で守れる部分を固めるのが現実的だ。AIの出力を人が確認する工程を、重要度の高い業務ほど厚く設ける。確認した人、日時、修正内容を残す。これは事故を防ぐだけでなく、争いになったときに注意義務を果たした証拠になる。
加えて、AIの利用範囲を社内で文書にしておく。どの業務でAIを使い、どの業務では使わないかを決めておくだけでも、予見できる誤使用の範囲を自社で管理しやすくなる。
保険と複数社利用で衝撃をやわらげる
損害賠償に備える保険の見直しも有効だ。AI由来の事故が従来の賠償保険の対象に入るのか、約款の免責に当たらないかを、保険会社に具体例を挙げて確認しておきたい。
また、特定の一社のモデルだけに頼ると、その会社が規約を急に厳しくしたとき業務が止まる。重要な業務では、別のモデルへ切り替えられる準備をしておくと安心である。責任ルールが固まるまでの数年間は、こうした地道な備えが競争力の差になる。