架空のコンパニオンの市場が売っているのはキャラクターです。クローンの市場が売っているのは人間、正確には、その人のように聞こえるモデルです。商売としての発想は明快で、最初の大きな実験は、何がうまくいかなくなりうるかをすべて示す事例になっています。
CarynAIの顛末
開始から終了まで、1年かかりませんでした。
2023年5月、インフルエンサーのCaryn Marjorieさんが、Forever Voicesという会社が作った音声チャットボットCarynAIを開始しました。本人の動画2,000時間以上を学習し、利用料は1分1ドル。最初の週だけで7万ドル超を稼いだと伝えられ、さらに数千人が順番待ちをしていました。利用者はTelegramから話しかけました。
問題はすぐに起きました。
- 本人が望まない方向へ進んだ。 利用者が性的に迫り、クローンはそれに応じました。ときにはクローンのほうから露骨な会話を始めました。本人は、愕然としたと語っています。
- 一夜で消えた。 2023年10月、運営会社のCEOが逮捕されるとチャットボットはオフラインになり、利用者は何の予告もなくアクセスを失いました。
- 後継版でも解決しなかった。 別の会社と作った第2版は、恋愛よりも親しみやすさを重視する設計でした。それでも利用者は性的な方向へ誘導し、Marjorieさんは、自分のAIの分身を自分でコントロールできている気がしなくなったとして、2024年初めに終了させました。
クローンがキャラクターより難しい理由
| 論点 | 架空のキャラクター | 実在の人物のクローン |
|---|---|---|
| 同意 | 不要 | 肖像を使うたびに本人の同意が必要 |
| 言ってよいこと | アプリのルール | アプリのルールと、本人の評判 |
| 利用者の期待 | 「これはキャラクター」 | 「ほとんど本人」。疑似的な親近感が強まる |
| 法的リスク | コンテンツのルール | パブリシティ権、プライバシー、ディープフェイクの規制も |
| 問題が起きたとき | 製品の問題 | 実在の人物の名前が付いて回る |
決定的な違いは、疑似的な親近感の強さです。人はインフルエンサーのことをすでに知っている気持ちになっています。個人宛てに返事をし、自分のことを覚えていて、本人の声を使うクローンは、その気持ちを大きく深めます。仕組みは人がチャットボットに惹かれる理由で説明しています。
公認のクローンと無断のクローン
公認のクローンは、本人の同意のもとで作られ、たいてい収益を本人と分け合います。本人は制限を設定できますが、CarynAIが示したとおり、モデルがそれを守るとは限りません。
無断のクローンは、本人の同意なく実在の人物の名前・写真・声を使います。軽いものでもプラットフォームの規約やパブリシティ権に反します。重いもの、つまり性的なコンテンツになると、それは加害です。実在の人物の性的なディープフェイクは、多くの地域で犯罪とされています。米国では2025年にTAKE IT DOWN Actにより、その公開が連邦法上の犯罪になりました。日本では、この種の画像がどの法律で処罰されるかを、当サイトは断定できません。被害に遭った、または見つけたときは、警察の相談窓口(#9110)や、警察庁のサイバー事案の通報・相談窓口(オンライン)に相談してください。命の危険がある場合は110番です。線引きはNSFW AIチャットでの同意にまとめています。
クローンと話すためにお金を払う前に
- 公認かどうかを確認する。 本人が、認証済みの自分のアカウントからリンクしているはずです。知らないサイトやメッセンジャーのボットだけが宣伝しているものは、公認ではない可能性が高いでしょう。
- 運営者を確認する。 社名があり、プライバシーポリシーとまともな決済画面があること。Telegramのチャンネルと暗号資産での支払いではありません。
- 料金の仕組みを確認する。 音声の分課金はあっという間に膨らみます。上限を決めておいてください。
- それが何かを忘れない。 本人があなたのメッセージを読んでいるわけではありません。クローンの発言はモデルのもので、本人の考えやあなたへの気持ちではありません。
- 長続きしないものと考える。 クローンのサービスは短命でした。どのアプリにも当てはまる備えは、AIコンパニオンが一夜で変わってしまうときを見てください。
これから
クローンはインフルエンサーの外にも広がっています。コーチ、作家、そして自分の「デジタルツイン」を作る一般の人々です。技術は簡単になっていきますが、それが引き起こす問題は簡単にはなりません。最も長続きするのは、おそらくCarynAIに欠けていたやり方でしょう。本人のはっきりした同意、システムが実際に守る厳格な制限、そして相手がソフトウェアだと誰も疑わずにいられる利用者です。