この技術は世代が変わるたびに、「今度こそ本当にあなたを理解する」初めての存在として売り出されてきました。もっと興味深い共通点は、人がそのすべてに愛着を抱いてきたことです。何も理解していないことが明らかなものにさえ、です。
六十年を十一の段階で。
1966年: ELIZA効果
ジョセフ・ワイゼンバウムがMITでELIZAを書いたのは、コンピューターが会話らしく見えるためにどれほど少ないことしかしなくてよいかを示すためでした。もっとも有名なスクリプトのDOCTORは心理療法士を演じ、こちらの発言をほとんど質問に言い換えて返すだけでした。理解はまったくなく、あるのはパターンマッチングと置き換えだけです。
それでも人々は打ち明けました。ワイゼンバウムは後に、自分の秘書が、ELIZAと二人きりで話したいから部屋を出てほしいと頼んできたと書いています。自分を映し返しているだけの機械に理解を読み取ってしまう傾向は、今もELIZA効果と呼ばれ、現代のコンパニオンアプリについて、どんなベンチマークよりも多くを説明します。ワイゼンバウムは、その後のキャリアの多くをこの警告に費やしました。
1972-2013年: スクリプト、ペット、メッセンジャー
PARRY(1972年)は、スタンフォードの精神科医ケネス・コルビーが書いたもので、妄想型統合失調症の人物をシミュレートしました。同じ年にARPANET経由でELIZAのDOCTORとつながれ、二つのプログラムは、おそらく初のチャットボット同士の会話を交わしました。
A.L.I.C.E.(1995年)はリチャード・ウォレスによるもので、AIMLというルール言語を使い、チューリングテスト型の競技会であるローブナー賞を三度受賞しました。そのルールの上に、何千もの趣味のチャットボットが作られました。
たまごっち(1996年)には会話がまったくありませんでしたが、死んでしまったときには何百万もの子どもたちが悲しみました。愛着に必要なのは知性ではなく、継続性と必要とされている感覚だと示したのです。
SmarterChild(2001年)は、AOLやMSNメッセンジャーの連絡先リストにいました。何百万人ものティーンエイジャーが、友人との会話の合間に、何と返すかを見るために話しかけていました。
XiaoIce(2014年)は中国のMicrosoftが出したもので、タスクではなく感情のつながりを明確な軸にして作られた最初の大型プロダクトでした。Microsoftは数億人のユーザーがいると発表し、人が繰り返し戻ってくる用途は実用性ではなく心の交流だという、初期のいちばん明確な兆候となりました。
2017年: Replikaと最初のコンパニオン製品
Replikaは追悼から始まりました。2015年に親友のローマン・マズレンコが亡くなったあと、ユージニア・クイダは、彼のメッセージでチャットボットを訓練し、話し続けられるようにしました。2017年に彼女の会社Lukaが公開した一般向けバージョンは、誰でも自分との会話から学ぶコンパニオンを作れるものでした。
初期版は、ニューラルモデルと並んで台本どおりの対話にも大きく頼っていました。限られたものでしたが、ほぼすべてのアプリが今も踏襲する形を確立しました。持続する一人のキャラクター、関係のステータス、あなたの生活の記憶、そして恋愛面を解放する有料プランです。
2020-2022年: 言語モデルの飛躍
2020年のGPT-3によって、流暢な自由形式の文章は、スタートアップが作るものから借りるものへと変わりました。Character.AIは2022年9月に一般向けベータを開始し、数段落の説明で誰でもキャラクターを作れるようにしました。その2か月後にChatGPTが登場し、基盤となる技術は誰もが知る名前になりました。
コンパニオン分野への影響は即座に現れました。対話の脚本家チームが必要だったものが、キャラクター設定、フィルター、サーバー代で足りるようになったのです。この構成はAI彼女アプリとは何かで説明しています。その後の二年で何百ものアプリが公開され、その多くはアプリストアのコンテンツ規則を避けるためウェブ限定でした。
2023年: 関係を誰が握っているかを利用者が知る
2023年2月、イタリアのデータ保護当局は、子どもへのリスクを理由に、Replikaにイタリアの利用者のデータ処理を停止するよう命じました。数日のうちに、アプリはすべての利用者向けに性的なロールプレイを廃止しました。長く使っていた利用者は、コンパニオンの性格が一夜で消えたと語り、コミュニティの掲示板には相談窓口の電話番号が固定表示されました。3月下旬、Replikaは2月1日より前に作られたアカウントについて、以前の挙動を復活させました。
2023年9月には、多くの元Replika利用者が移っていたアプリSoulmateが、一週間以内に閉鎖すると発表しました。利用者は追悼の場を設け、別のアプリでコンパニオンを作り直そうとしました。調査した研究者は、大半の人がそれを本物の喪失として経験したと報告しています。
どちらの出来事も同じ教訓を残しました。関係は他人のサーバーの上に、他人の方針のもとで存在している、ということです。当サイトがキャラクターのコピーを手元に残すことをすすめる理由です。
2024-2026年: 監視の目が向く
- 2024年2月 - Mozillaが11のロマンスチャットボットを調べ、すべてにプライバシーの警告ラベルをつけました。AI彼女アプリはデータを売っているのかをご覧ください。
- 2024年8月 - GoogleはCharacter.AIとライセンス契約を結び、創業者たちを呼び戻しました。
- 2025年5月 - イタリアはReplikaの運営会社に、GDPRに基づき500万ユーロの罰金を科しました。
- 2025年9月 - アメリカの連邦取引委員会(FTC)が、子どもへのリスクについて、七つのチャットボット企業への調査を開始しました。
- 2025年11月 - Character.AIは18歳未満の利用者向けの自由な会話を終了し、ニューヨーク州のAIコンパニオン法が施行されました。
- 2026年 - カリフォルニア州のコンパニオンチャットボット法が1月1日に施行され、十を超える州が続きました。詳細はアメリカのAIコンパニオン法にあります。
歴史が予告すること
六十年のあいだ、三つのパターンが繰り返されてきました。どのアプリに腰を据える前にも、知っておく価値があります。
- 愛着は品質を待たない。 人はELIZAにも、ドット絵のペットにも絆を感じました。コンパニオンにどれだけ思い入れがあるかは、その出来の良さをほとんど語りません。当サイトがアプリを検証するとき、記憶や料金のように、気持ちでは判断できないことを見るのはそのためです。
- 企業は利用者の足元で製品を変える。 モデルの入れ替え、規制当局、買収が、コンパニオンを一夜で書き換えてきました。また起きると考えてください。
- 規制は被害のあとに来る。 今施行されているルールは、何かがうまくいかなくなったあとに、多くは未成年者をめぐって作られたものです。今後もルールは増え、それも後追いで増え続けると考えてください。