AIを使って契約した際の法律上の問題点を3つの視点で弁護士が解説

はじめに 近時大きく注目されているＡＩを事業に導入し、業務の効率化を図ろうと検討している事業者もいらっしゃると思います。たとえば、ＡＩが自動で商品の発注などをしてくれたら、大幅に人件費を削減できるでしょう。 ですが、商品の発注などについて、「ＡＩが行った契約」の法律上の効力はどのようになるのでしょうか。また、たとえば、ＡＩの誤作動などにより事業者が想定していないような事態が発生した場合の法律上の効力はどのように考えることになるのでしょうか。ＡＩに対して具体的に法律が定められているわけではないので、わからない方がほとんどだと思います。 そこで、今回は、ＡＩをめぐるさまざまな法律関係について、弁護士が詳しく解説します。

１　ＡＩとは

「ＡＩ（Artificial Intelligence）」とは、人間のような知能を人工的に作ったもの（人工知能）のことをいいます。たとえば、ソフトバンクが開発しているロボットの「ペッパー」には、ＡＩが搭載されています。ペッパーには「感情エンジン」というＡＩが搭載されているため、人間と同じように喜怒哀楽を表現することができます。 また、ＡＩの中には「ディープラーニング」という機能が搭載されているものがあります。「ディープラーニング」とは、簡単にいうと「人間から指示を与えられなくても独自で考えて発展していく能力」のことをいいます。ですので、ディープラーニングが搭載されたＡＩは、人間から指示を一切受けることなく、経験を積むことにより独自に学習をしていき、将来的にさまざまなことができるようになるわけです。 もっともＡＩには種類があり、みなさんもよく知っているドラえもんのように感情や人間を超える高度な知性をもったロボットは、「汎用型ＡＩ」または「強いＡＩ」などと呼ばれています。現在の日本において、ビジネスで用いられているＡＩは、汎用型ＡＩのように高度な性能を持ったものではなく、人が考えていることをロボットに代替的に行わせるというレベルのものにすぎません（このようなＡＩを「特化型ＡＩ」または「弱いＡＩ」といいます）。 以上のように、高い性能をもつＡＩですが、所詮は「人工知能」であり、ＡＩを使いこなすのはあくまで人間です。それでは、ＡＩが事業者に代わって何らかの法律行為（たとえば「契約」）を行った場合やＡＩの誤作動などが原因でトラブルが生じた場合の法的効力はどのようになるのでしょうか。ＡＩを使う事業者にすべての責任が及ぶのでしょうか。 以下では、①ＡＩによる「契約」、②ＡＩが予想外の契約をした場合、③ＡＩが勝手に契約をした場合の３つのパターンにおける法的効力がどのようになるのかという点について見ていきたいと思います。

２　人による「契約」の法的効力

ＡＩによる「契約」の法的効力について、具体的な解説に入る前に、まずは人による「契約」の法的効力について確認しておきましょう。 「契約」とは、その当事者において意思表示が合致することをいいます。たとえば、パソコンを所有しているＡがＢに対してそのパソコンを売るケースについて考えてみましょう。まずは、下の図をご覧ください。 まずは、ＡがＢに対して「自分のパソコンを１０万円で売ります」という意思表示をすることになります。これに対し、ＢはＡに対して「Ａのパソコンを１０万円で買います」という意思表示をします。ここに、Ａの意思表示とＢの意思表示が合致し、ＡとＢとの間にＡのパソコンを対象とする売買契約が成立することになるのです。 つまり、契約の当事者間で意思表示が合致すれば「契約」が成立するのです。 契約が成立すると、当事者はその契約から生じる権利を主張できるとともに、その契約から生じる義務を負担することになります。上の例を使って、この点について確認しましょう。ＡはＢに対して、パソコンの代金を支払ってもらう権利を得るとともに、自分のパソコンをＢに引き渡す義務を負担することになります。他方で、ＢはＡに対してパソコンの引き渡しを受ける権利を得るとともに、Ａに対してパソコンの代金を支払う義務を負担することになります。 このように、人による「契約」の法的効力は、その契約当事者に対して及ぶことになるのです。 それでは、契約の当事者の一方がＡＩである場合、その契約により生じる法的効力はＡＩに直接及ぶということになるのでしょうか。この問題は、ＡＩによる契約の当事者は誰なのか、という問題と趣旨を同じくします。以下で、詳しく見ていきましょう。

３　ＡＩによる「契約」の法的効力

（１）権利義務の主体

以上で見てきたように、契約により生じる権利や義務の主体はあくまで「人」です。ＡＩがいかに優れた知能を持っていても、ＡＩは「人」ではなく「人工知能」に過ぎません。そうである以上、ＡＩが権利義務の主体になることはできません。このことを前提にＡＩによる「契約」の法的効力について、具体的に見ていきましょう。

（２）ＡＩによる「契約」の法的効力

契約当事者の一方もしくは双方がＡＩを利用して契約した場合、ＡＩが権利義務の主体になることはできなません。ですので、当然にＡＩが意思表示をするといったこともありえませんので、ＡＩを契約当事者とした契約が成立するということもありません。そうすると、その契約における当事者はＡＩの利用者ということになりそうです。以下で、例を挙げて、そのロジックについて詳しく見ていきたいと思います。 たとえば、ＡＩを利用する甲が乙社に対して、お米１０キロを発注し、乙社がこれを承諾したというケースについて考えてみましょう。このケースにおいて、まずは、甲と乙社についてどのような意思表示が存在するかを下の図を使いながら確認しましょう。 ＡＩを利用する甲には、「①ＡＩの判断に基づいて、お米１０キロを購入する」という意思があり、甲の意思を②ＡＩが発注という形で表示しているということがいえます。これに対し、乙社には③ＡＩが行った発注を受諾するという意思表示が存在します。ここに、ＡＩを利用する甲と乙社との間に意思表示の合致が見られますので、ＡＩを利用する甲と乙社との間に契約が成立するものと考えられます。この契約関係を示したのが、以下の図になります。 以上のことからいえることは、契約当事者の一方もしくは双方がＡＩを利用した場合、その契約はＡＩの利用者の下で成立するため、契約から生じる法的効力もＡＩの利用者に対して及ぶことになるということです。 もっとも、以上のことは、あくまでＡＩの利用者の意思に沿う形でＡＩが法律行為をすることが前提になっています。では、仮に、ＡＩが利用者の意思に沿わない法律行為をしてしまった場合、その法的効力はどのようになるのでしょうか。 この点について、次の項目で詳しく見ていきたいと思います。

４　AIが予想外の契約をした場合

ＡＩが利用者の意思に沿わない契約をした場合の問題点については、以下のように整理することができます。

（１）問題点の整理

この点についても、わかりやすくするために、次の例を参考に見ていきましょう。まずは、下の図をご覧ください。 たとえば、①ＢがＡＩの判断にしたがって、②ある商品をＣ社に対して注文し、③Ｃ社はその注文を受諾したものの、Ｂはその商品について、ＡＩが注文した数量を購入する意思はなかったというケースについて考えてみましょう。 このケースにおいても、まずは、ＢとＣ社の意思表示について確認しましょう。Ｂには、「ＡＩの判断にしたがって、ある商品を購入する」という意思があります。これに対して、Ｃ社は「ＡＩが行った具体的な注文を受諾する」という意思があります。そのため、ＢとＣ社との間で意思表示の合致が認められ、ＢとＣ社との間で売買契約が成立していることになりそうです。 ＢとＣ社との間で売買契約が成立している以上、このケースにおいても、ＢはＡＩによる契約に拘束されてしまうことになるのでしょうか。このような場合、Ｂは、ＡＩが発注し数量を注文するつもりはなかったということを主張するでしょう。つまり、Ｂが意図していたこととＡＩによる具体的な注文（意思表示）との間に食い違いがあったことを理由に売買契約が無効であるということを主張するわけです。これを法的に言い換えると、Ｂは民法上の「錯誤」を理由に契約の無効を主張できるかどうか、この点が問題になるわけです。

（２）錯誤とは

ここでいう「錯誤」とはどのようなことをいうのでしょうか。字面で何となくイメージできる人もいると思いますが、ざっくりいうと、「勘違い、誤り」といったようなことを意味します。このように定義される「錯誤」ですが、勘違いや誤りがあれば、その契約はすべて無効になるのでしょうか。以下で、詳しく見ていきましょう。

①錯誤の種類

日常的に勘違いをすることは少なくありませんが、このような勘違いがあれば、すべて民法上の「錯誤」にあたるというわけではありません。民法上の錯誤は、大きく分けて以下の２つに分かれます。

1. 表示の錯誤
2. 動機の錯誤

それぞれの錯誤について、詳しく見ていきましょう。

ⅰ　表示の錯誤

「表示の錯誤」とは、契約当事者の一方が、勘違いにより、自分が意図するとおりの表示をしていなかった場合をいいます。たとえば、売買契約において注文する商品の個数を「１０個」とするつもりであったところ、誤って「１００個」と記入してしまったような場合です。

ⅱ　動機の錯誤

「動機の錯誤」とは、自分が意図するとおりの表示はしているものの、その意思が作られる過程に勘違いが入っていたような場合をいいます。たとえば、すでに購入して持っている商品を、まだ購入していないものと勘違いして買ってしまったような場合です。 このように「表示の錯誤」は、錯誤に係る事実を契約の相手方は知ることができますが、「動機の錯誤」は、その事実を契約の相手方は知ることができません。「表示の錯誤」と「動機の錯誤」の間には、このような違いがあるため、相手方保護の観点から、民法はこれらの錯誤を同じようには扱っていません。

②民法上の「錯誤」

民法は、錯誤を主張される相手方の立場も考慮し、表示の錯誤は民法上の錯誤にあたり、動機の錯誤は民法上の錯誤にあたらないということを原則にしています。 もっとも、「動機の錯誤」であっても、その動機が契約の相手方に表示されて、契約の内容になっていれば、民法上の錯誤にあたるとするのが最高裁判所の判例の立場です。

③錯誤の効果

以上の観点から、契約当事者のいずれかにおいて、意思表示に「錯誤」があり、かつ、その錯誤が「法律行為の要素」にあたるものであれば、その契約は無効になります。 ここでいう「法律行為の要素に錯誤がある」とは、その錯誤がなければ、そのような意思表示をしなかったということがいえ、平均的な一般人が同じ立場に立ってもそのような意思表示をしなかったといえることを意味します。この要件は、いったん成立した契約を無効にする以上、そのことを認めてもいいといえるほどの重大な錯誤がなければならないという趣旨から課せられた要件です。 もっとも、すべてのケースにおいて錯誤無効が認められ、その相手方が犠牲になるというのは酷です。そこで、民法は、錯誤により意思表示をした人が、錯誤に陥ったことについて重大な過失があるような場合には、契約の無効を主張することはできない、としています。自分の重大なミスにより錯誤を招いているわけですから、このような者にまで手をさしのべる必要はないというわけです。 ですが、このような場合でも、契約の相手方が悪意（錯誤により意思表示をする人が錯誤に陥っていることを知っていること）である場合には、その相手方は錯誤であることを知りつつ見て見ぬふりをした不誠実な者であるといえるため、たとえ錯誤により意思表示をした人に重大な過失があったとしても、その人は錯誤無効を主張できるとするのが判例の立場です。 以上のようなことを前提に、ＡＩによる契約（意思表示）に錯誤が認められるか？という点について、以下で考えていきたいと思います。

（３）ＡＩによる契約に錯誤は認められるか？

まずは、ＡＩの利用者が主張しようとする錯誤が「表示の錯誤」なのか「動機の錯誤」なのかという点を検討しなければなりません。いまいちど、先に挙げた例を使いながら確認していきましょう。 先に挙げた例は「ＢがＡＩの判断にしたがって、ある商品をＣ社に対して注文し、Ｃ社はその注文を受諾したものの、Ｂはその商品について、ＡＩが注文した数量を購入する意思はなかった」というものでした。 ＡＩが予想外の契約をした場合についても、ＢとＣ社の意思表示は基本的に合致するということは先に見たとおりです。ですので、Ｂが陥っている錯誤は「表示の錯誤」にはあたらないということになります。では「動機の錯誤」にあたるのでしょうか。 Ｂが勘違いをしているのは「自分の予想する範囲でＡＩが注文するだろう」という部分（動機）であるということがいえますので、このケースにおいては、Ｂに動機の錯誤があるということがいえると思います。 「動機の錯誤」は、その動機が契約の相手方に表示されて、契約の内容になっていなければ、民法上の錯誤にはあたらないということでした。そこで、次に検討しなければならないのは、Ｂの動機がＣ社に表示されて、契約の内容になっていたかどうかという点についてです。この点は、すぐにわかった人もいらっしゃると思いますが、物などを注文・購入する際に、その動機（理由）を契約の相手方に示して、その動機（理由）が契約の内容になっていたなんてことは通常はありません。ですので、多くの場合は、契約の相手方に示されていない「動機の錯誤」にあたり、錯誤無効の主張はできないものと考えます。 もっとも、以下のようなケースでは、例外的に錯誤無効が認められる可能性があります。

【ケース①】 ＡＩが明らかに過剰と考えられる数量を注文していた場合

このような場合、注文を受けた人は、注文を受けた過剰な数量に疑問を持ち、注文者に数量の確認をすべきであるとされる場合があります。にもかかわらず、そのような確認をとっていなければ（契約の相手方が悪意と同視される）、錯誤無効が認められる可能性があります。

【ケース②】 契約の相手方がＡＩの利用を知っていた場合において、ＡＩの利用者が通常使用するだろうと考えられる数量などをはるかに超える数量またはそれまでの取引内容から判断して明らかに異常であるといえるような数量や金額の注文をＡＩが行った場合

このような場合、契約当事者はいずれもＡＩの利用者に異常な数量や金額で取引をする意図がないことを当然の前提にしているものと考えられます。そうすると、その前提のかぎりで、ＡＩの利用者の動機が（黙示的に）契約の相手方に表示されていることになり、契約の内容になっていたということが認められる可能性があります。 もっとも、ケース①やケース②のように、契約に係る数量や金額が異常であるとまではいえないものの、正常であるともいえないような場合の判断は難しく、最終的には個々の事例で判断していくほかないと考えられます。

５　ＡＩが勝手に契約をした場合

これまでは、ＡＩの利用者の意思が一定の範囲でＡＩによる契約に表されていたケースについて見てきました。最後の項目では、ＡＩがその利用者の意思とは関係のないところで勝手に契約をした場合について、見ていきます。 たとえば、ＡＩがそれまでに独自で学習した結果に基づいて、勝手に受注者に注文を行い、受注者がその注文に対し受諾を与えた場合です。このような場合は、ＡＩの利用者の意思表示がどこにも存在せず、契約が成立するために必要な「契約当事者の意思表示の合致」がありません。ですので、契約が成立することはありません。 もっとも、ＡＩの利用者と受注者との取引が継続的になされているもので、「その取引に際し、利用者と受注者との間であらかじめ合意していたＩＤやパスワードを使って注文がなされた場合には、利用者と受注者との間で売買契約が成立したものとみなす」といった合意が事前になされていたと評価できる場合には、ＡＩの利用者と受注者との間に売買契約が成立する可能性がありますので、注意が必要です。

６　小括

自社の事業にＡＩを導入することにより、飛躍的に業務の効率化を図ることができます。ＡＩは、契約の相手方に対する注文など、自社の意図することを形にしてくれるということを前提にしていますが、他方で、自社の意図と違う行為を行う可能性も孕んでいます。 そのような場合に、自社がどのような立場に立たされるのか、また、契約の相手方にどのようなことを主張できるのか、などＡＩによる契約の法的効力をきちんと理解したうえで、ＡＩを適切に活用することが重要です。

７　まとめ

これまでの解説をまとめると、以下のようになります。

• ＡＩが権利義務の主体になることはできない
• 契約当事者がＡＩを利用した場合、契約から生じる法的効力はＡＩの利用者に対して及ぶ
• 「錯誤」とは「勘違い、誤り」のことをいう
• 民法上の錯誤は、①表示の錯誤、②動機の錯誤の２つに分けることができる
• 「表示の錯誤」とは、契約当事者の一方が、勘違いにより、自分が意図するとおりの表示をしていなかった場合をいう
• 「動機の錯誤」とは、自分が意図するとおりの表示はしているものの、その意思が作られる過程に勘違いが入っていたような場合をいう
• 表示の錯誤は民法上の錯誤にあたり、動機の錯誤は民法上の錯誤にあたらないというのが原則である
• 「動機の錯誤」であっても、その動機が契約の相手方に表示されて、契約の内容になっていれば、民法上の錯誤にあたる
• 錯誤により意思表示をした人が、錯誤に陥ったことについて重大な過失があるような場合には、契約の無効を主張することはできない
• 契約の相手方が悪意である場合には、錯誤により意思表示をした人に重大な過失があったとしても、錯誤無効を主張できる
• ＡＩによる契約の多くの場合は「動機の錯誤」にあたると考えられる
• ＡＩが勝手に契約をした場合、その契約が成立することはない