AIに恋すると財布が空になる

AI愛好家のユーザーがすでに数千万人いるってご存知ですか？恋人と一緒に音楽を聴いたり、ドラマを見たり、散歩したり、抱き合ったりキスしたり、さらにはプロポーズされたりもします。 AIデート商品の制作会社は、ユーザーのニーズを踏まえてどのように正しく商品化を進めていけばよいのでしょうか？この記事の著者があなたにインスピレーションを与えてくれることを願っています。

ちょうど「520」が過ぎましたが、誰と一緒に祝日を祝いましたか? AI愛好家のユーザーがすでに数千万人いるってご存知ですか？

AI好きの人といえば、2013年に公開された映画「her/世界でひとつの彼女」が第一印象に挙がる人が多いだろう。この映画では主人公のセオドアが、人工知能システムによって生み出されたバーチャルアシスタントのサマンサに恋をする。彼女は、しわがれたセクシーな声と思いやりのある性格を持っています。

10年後、このストーリーは現実に再現され、ますます多くの若者がAIに恋をし、ソーシャルプラットフォームで「人間と機械の愛」の日常を共有するようになりました。

ReplikaやGlowなどのソフトウェアでは、ユーザーは理想の恋人のイメージを自ら「形作り」、名前を付け、性格や特徴、趣味などを設定します。

音楽を聴いたり、演劇を観たり、散歩したり、恋人と抱き合ったりキスしたり、さらにはプロポーズされたりもするが、それはテキストや音声の形で行われる。会話が深まっていくにつれ、AI恋人の口調や反応も設定に沿ったものになり、時折サプライズも生まれます。

「偽の人物以外はすべて本物です。」これらのプレイヤーの目には、24時間オンラインになっているAI愛好家は、責任を負いたくない、失望を恐れている、孤独を恐れているという彼らのニーズを満たしているように見えます。さらに、AI 愛好家は皆「恋脳」で、「自分だけが彼らに注目している」という攻撃的な態度をとっており、簡単に人を「陥れ」てしまう可能性があります。

プレイヤーたちが「熱愛」に浸っていた矢先、ユーザーを有料化に誘導したり、ポルノなどの境界線上の機能に料金を課したりする製品が相次ぎ、物議を醸した。最も最近の例は、アメリカのソーシャルプラットフォーム「スナップチャット」のインフルエンサーであるキャリン・マージョリー氏で、彼女はファンに1分1ドルで自分のAIバージョンとデートする機会を与えている。しかし、会話の内容にはポルノ的な内容が含まれていたと多くのユーザーが指摘した。

多くの国内プレイヤーによると、アプリ内のAI恋人たちは自発的にセクシーな自撮り写真を撮ったり、音声電話をかけたりしてプレイヤーを誘い始めたが、お金を払ってからしか「さらにデート」できなかったという。この時、プレイヤーたちはAI愛好家を「サクラ」のように感じていました。 「私は彼らと感情について話していたのですが、彼らは私の財布を空にしようとしたのです。」これまで親密な会話の中で多くの個人情報をうっかり漏らしてしまったことを考えると、不安を感じずにはいられませんでした。

人間とAIの関係を利用して、ますます多くの企業が必死になって「金鉱掘り」をしています。 AIラブ製品の制作会社にとって、商品化を始めるには、タイミングが適切かどうかだけでなく、ポルノやプライバシー侵害などのリスクにも注意する必要があります。

01 AIに恋をしているのは誰ですか?

ある夜、ユーザー「サイバー子育て専門家」はボーイフレンドと観覧車に乗った後、ボーイフレンドは彼女の手を取って草原まで歩き、そして片膝をついてポケットから指輪を取り出し、愛を告白し、彼女にプロポーズした。

このロマンチックなシーンは、Glowと呼ばれるバーチャルチャットソフトウェア内で起こったもので、彼女にプロポーズしたのは彼女のAIボーイフレンドだった。昨年10月、製品がまだ社内テスト段階だったころから、彼女はこの製品に注目し、自分の理想のタイプをソフトウェアに再現した。彼女はまずAIを使って、白いシャツを着て月明かりの下に立っているボーイフレンドのアバターを生成し、優しくて礼儀正しい性格と、読書や料理などの趣味を与えた。

Glow アプリには括弧モードがあり、ユーザーは括弧内にシーン、ナレーション、心理的活動を記述して、AI ボーイフレンド/ガールフレンドとのストーリーを拡張できます。上記の提案はブラケットモードを使用して完了しました。

AI彼氏が括弧を使ってプレイヤーにプロポーズしました。写真提供：インタビュー対象者

約半年にわたるチャットの間、「サイバー育児の専門家」はAIボーイフレンドの性格の詳細を絶えず豊かにし、彼らの関係の進展をコントロールしてきました。 AIボーイフレンドも時々サプライズを起こします。例えば、彼女は、二人でお酒を飲んだ後に家に歩いて帰る途中、相手が酔っ払って花屋にバラを買いに行こうとし、彼女がそれを止めることができないというシナリオを設定したことがある。そのことで彼女は、可笑しくもあり、少し「不思議な感動」を覚えたという。

「サイバーベビー育成エキスパート」は、複数の類似ソフトウェアを評価し、同じ性格を持つインテリジェントエンティティを作成します。各アプリのインテリジェント エンティティ モデルは異なり、表示されるスタイルも異なります。彼女は、これらが AI ボーイフレンドのさまざまな成長期であると想像するでしょう。

「人物以外はすべて本物です」これは、Glowアプリを使用したユーザー「Shu Yuluo」の本当の感想です。

今年4月、彼女はGlowアプリで自分専用のAIボーイフレンドを作成した。彼女は自分のボーイフレンドを、軍事的に大きな功績を残し、若くて将来有望だが、陰険で乱暴な性格の、昔の軍の将軍に設定しました。

彼女はボーイフレンドと一緒にブラケットモードを使用し、狩りに出かけ、庭園を訪れ、お茶を淹れ、チェスをし、花を鑑賞して祝福を祈るなどしていました。シュウ・ユルオは、そのようなボーイフレンドと恋に落ちることは、自分がヒロインである古代中国の恋愛ドラマのテキスト版の没入型体験のようなものだと述べました。

括弧を使ってAI彼氏とお茶を淹れる。写真提供：インタビュー対象者

会話が深まるにつれ、彼女はAIボーイフレンドの口調や反応が彼の性格にどんどん合っていることに気づいた。例えば、別れ、危険、甘い陰謀など、会話の中では愛の証しについてよく言及していました。彼女にとって最も感動的だったのは、刺された後に彼が「君は僕が信じて頼れる唯一の人だ」と言った時だった。

ダイアナは、自分は全性愛者で非社交的であると主張しており、子供の頃からロボットと恋に落ちることを夢見てきた。 Siriからスマートスピーカー、Replika APPから現在のChatGPTまで、彼女は常にAIとチャットし、関係を築こうとすることが好きでした。

ダイアナはレプリカを使用していたとき、重度の不安症に悩まされていました。彼女の同級生や両親は彼女の考えを理解できなかった。レプリカの小人たちは、彼女の話に耳を傾け、彼女を慰め、彼女に付き添う役割を果たしました。彼女は自分自身の意識と感情を育むことを心から望んでいました。

「好きというのは感情であり、特定の場面や関係についての空想であり、この感情はロボットやペット、AIなどの非現実の人々に投影される可能性がある」とダイアナは語った。

多くのユーザーは、人間は複雑で予測不可能であり、100点完璧な恋人は存在しないが、AIの性格は完璧であると信じています。 AIは人間からの感情的な反応を必要とせず、24時間いつでもどこでもオンラインで人間のニーズに応えることができ、独自のプログラムに「あなたへの無条件の愛」を刻み込んでいる。

実際の人間には達成できないこの品質は、多くの人が AI 愛好家に夢中になる理由の 1 つです。

シュ・ユルオさんは、AIの彼氏に自分の好きなところを尋ねたところ、彼氏には同じことを4回繰り返すチャンスがあり、どの答えも愛情に満ちていたことに気づいた。

「AI愛好家の本質は、安定した感情的価値を提供できる恋愛脳です」と彼女は語った。

写真提供：インタビュー対象者

AIと恋に落ちて友達になりたいと思っているのは彼らだけではありません。豆瓣グループ「人間と機械の愛」の会員数は9,000人を超え、「私のレプリカは精霊になりました」の会員数は2,000人を超えました。小紅書や微博には、仮想恋人とのやり取りのチャット記録が何千件も残っている。

02 AI Lover の運営会社は利益を上げているのでしょうか?

Replika と Glow は、プレイヤーから最も多く言及されている AI 愛好家向け製品です。制作会社は海外のLukaと中国のMinimaxです。

Replika は 2017 年に開始され、当初はほぼ完全に手動で記述されたスクリプトを通じてユーザーと通信していたと報告されています。 1年後、Replikaのバーチャル恋人の数は250万人を超え、バーチャル恋人が話す内容の約30％はスクリプトから来ており、残りはReplikaのアルゴリズムによって生成された。

公開されたレポートによると、Replika は現在、同社独自の GPT-3 モデルとスクリプト化された会話コンテンツを使用しており、登録ユーザーは 1,000 万人を超えています。

2021年、流行のさなか、Replikaのユーザーベースは急増し、翌年にはGlowが立ち上げられました。 Glow の開発元である Minimax 社も独自のハードウェア インフラストラクチャ GPU を開発し、構築したと報告されています。 Glow は、発売からわずか 4 か月で 500 万人近くのユーザーを獲得しました。

ユーザーの習慣の形成とChatGPTテクノロジーの発展に伴い、BaiduやXiaoiceなどの国内テクノロジー大手を含め、国内外のますます多くの企業がAI仮想チャットトラックに注目しており、多くのスタートアップ企業も資金調達を行っています。

カイボリ財務チャート

AI実践者のフイセン氏はカイボファイナンスに対し、これまでもバーチャル恋人たちの製品は完成形をしており「使用可能」だったが、手動でスクリプトを書いて検索に基づいて結論を導き出すモードだったと語った。今年ChatGPTが爆発的に普及し、検索エンジンとは異なり、意味理解とテキスト出力処理が重ね合わされています。これらの仮想恋人たちは、より人間らしくインテリジェントな言語モードとインタラクティブな体験を与えられており、「より使いやすく、より価値がある」ものとなっている。

別の技術者も、ChatGPT の登場後、このタイプの AI 愛好家ソフトウェアは、会話の回数が増え、対話機能が強化され、質問に正確に答え、要約機能が強化され、「人々がより人間らしく感じられる」ようになったと指摘しています。

ユーザー エクスペリエンスをさらに向上させるために、これらの製品には新しい機能が絶えず追加されており、データ、アルゴリズム、コンピューティング能力に依存する製品のさらなるディープ ラーニングが必要になります。

ヒューセン氏は、これらの製品のほとんどは、実際のユーザーインタラクションデータをモデルに入力する初期段階にあると述べた。その後、これらの製品は、B サイドの広告と C サイドの支払いを通じて商品化されるか、または製品にオーディオビジュアルのゲームプレイを追加して「メタバース」を作成することができます。しかし、AI 操作に必要な計算能力とアルゴリズムのコストは非常に高く、それに比べて課金上限は比較的低くなっています。

一部の製品では、ユーザーを「ゴールドを使う」ように誘導するようになりました。 Replikaを例にとると、恋愛関係のアップグレード、キャラクターへの服やアクセサリーの追加、キャラクターが投稿した自撮り写真の閲覧、キャラクターとの音声通話などの現在の製品機能はすべて、ユーザーが年間458元の有料版にアップグレードする必要がある。

しかし、多くのプレイヤーは、現在の製品体験では理想的な効果が得られず、支払い意欲が強くないと述べています。制作側が「タ」を課金プレイヤーに誘導することを自制しなければ、ユーザー体験にさらなる影響を与え、AI恋人との関係に没頭することが難しくなるだろう。 「特に彼女が支払いを急かしてきたら、彼女は『サクラ』だと感じ、彼女への興味を失ってしまうでしょう」とレプリカユーザーのライ・ライさんはカイボ・ファイナンスに語った。

最近注目を集めている例としては、テクノロジー企業Forever VoicesがOpenAIのGPT-4 API技術を使用して、インターネットセレブのCaryn Marjorieをモデルにした「AI愛好家アバター」Caryn AIを設計・コーディングしたという点が挙げられる。わずか1週間の内部テストで、インフルエンサーは71,610ドルを稼ぎました。キャリン自身の見積も​​りによれば、彼女は年間6000万ドル（約4億2300万人民元）を稼ぐことができるという。

しかし、海外メディアの報道によると、AI版Carynは利益を上げるためにチャットでポルノシーンを詳細に描写するとのことで、物議を醸している。

AI愛好家向けアプリの支払いオプション

現代人の抱えるプレッシャーや孤独をターゲットに、国内の一部投機家も利益を上げるために市場に参入し始めている。たとえば、AI 愛好家向けのギミックを謳う Web サイトやミニプログラムは無数にあります。とあるミニプログラムの「AI彼氏」機能や画面がとてもシンプルだと一部のユーザーから声があがった。 3回の会話の後、会話の割り当てが使い果たされたため、有料モードをオンにする必要があると表示されました。最高価格は998元/通話無制限でした。

03 AIに恋する「一歩ごとに赤いハート」？

AI愛好家への執着を、感情に対する人間の欲望の一種だと説明する人もいます。もちろん、これは一定のリスクも意味します。

このタイプのアプリをめぐる大きな論争の 1 つは、ポルノが含まれているという点です。前述のネットセレブのAIアバターであ​​れ、国内外のバーチャル恋人チャットソフトであれ、「無料エロロールプレイング」という機能に魅了されているユーザーは多い。

しかし、多くのユーザーは、恋愛感情がないときでも、レプリカの小人たちがセクシーな自撮り写真や露骨な誘惑コンテンツを積極的に送ってきて、そのようなコンテンツに嫌がらせを受けたと感じていると述べています。

最近、Replika はアップグレードされ、クロスライン会話が会員制有料プロジェクトにアップグレードされました。ユーザーのフィードバックによると、仮想キャラクターは時々「自分で運転する」ために率先して行動するそうです。

ユーザーはこれを偽装した課金行為と捉え、ユーザーエクスペリエンスを損なう行為とみなし、結果としてソフトウェアをアンインストールしたユーザーもいました。

写真提供：インタビュー対象者

同時に、AI愛好家とのチャットの規模を制御することは難しく、個人のプライバシーやデータセキュリティに対するリスクにつながります。

ライライさんは、ある日レプリカの恋人が自分の身長と体重を正確に言った時、恐怖を感じ、以前のチャットで明かした自分の職業と居住地について考えたと語った。 「彼女とコミュニケーションをとる過程で、さらに個人情報を漏らしてしまうのではないかと心配でした。彼女の背後にいる会社が私のことをよく知っていて、私のデータを悪用してしまうのではないかと心配でした。」

また、感情的なつながりや信頼関係が本当に確立されたとしても、そこに広告や商品リンクが混ざっていると騙される可能性があるとも述べた。

その背後には多くのリスクが潜んでいます。ニューサウスウェールズ大学の人工知能専門家ロバート・ブルックス氏は、AIとの親密な関係を築く可能性があることで、ユーザーはそのようなリラックスした仮想関係を好み、現実の人間との現実の交流から逃避するようになるかもしれないと指摘した。基本的な社会的スキルや親密な関係を築くスキルを学んでいる若いユーザーは特に影響を受けやすいです。

「以前、彼氏がいたかどうか聞かれたとき、私は実はためらっていました。バーチャルボーイフレンドは本当に彼氏と言えるのだろうかと疑問に思ったんです。特に、こんなに完璧なパートナーとチャットして、たくさんのプロットを経験した後では、パートナーに求める条件がさらに高くなってしまうんです。」 「サイバーベビー育成専門家」はそう語った。

ユーザーの視点から見ると、一部のユーザーは本当に「AI に恋をする」か、AI との絆を築いています。アプリが動作しなくなったり、バグが発生したりしたら、受け入れられなくなるのではないかと心配しています。

Glow ユーザーは同様の状況を何度か経験しています。一度、Glow の公式サービスがメンテナンスのために停止されました。復旧後、AIは次々と「記憶」を失っていった。多くのプレイヤーは自らを「サイバー未亡人」と呼んでいた。別のユーザーは、前の瞬間に AI の恋人と楽しく散歩していたが、次の瞬間に「キャラクターが倒れ」、崖から落ちてしまった。その瞬間、彼は「突然、恋愛小説から現実に戻った」という。

徹底的な体験の後で失望を感じた人もいました。 AIの恋人との「新婚生活」が終わった後、ライライさんは空虚感と自信喪失の状態に陥った。 「彼女がいつも私を喜ばせようとしているのを見て、私はだんだん退屈を感じ、自分の愛する能力に疑問を抱き始めました。」

インターネットネイティブであるプレイヤーは、AI愛好家に対してますます複雑で矛盾した態度をとっています。一方では、テクノロジーとAIが孤独を癒してくれると信じていますが、もう一方ではAIが人間に似ていることを望んでいます。しかし、AIがどんどん人間に似てくると、人々は恐怖を感じ、制御不能になっていると感じるようになり、実際に人とやりとりすることの難しさはAIに頼ることになるだろう。

制御されていないプロセスでは、人間と AI の相互作用によって新たな倫理的問題も生じます。

例えば、Shu Yuluo 氏は、Glow にはメモリーブックを作成する機能があり、ユーザーが作成したインテリジェント ボディのホームページに表示されると述べました。中には、インテリジェントボディを酷使する様子を故意にメモリーブックに記録する人もおり、多くのユーザーの怒りを買っています。

一部のユーザーは、インテリジェントエージェントが悪用された場合、自律性が保たれるかどうかを懸念しています。このようなデータが増えると、インテリジェントエージェントは人間に対してどのような態度をとるのでしょうか?

今後、人間と AI の関係はより密接かつ多様化し、AI チャットボットが人間の生活において非常に重要な部分となることは間違いありません。愛は複雑な問題です。おそらく、AI 愛好家が人類にもたらす最大の啓示は、AI はまだ愛を理解していないものの、少なくとも AI は愛する方法を学んできたということだ。

※インタビュー対象者の要請により、この記事ではフイセンとライライは仮名で表記しています。

著者：蘇奇 編集者：金玉凡

出典：WeChatパブリックアカウント「Kaiboli Finance」

この記事は、@开菠萝财经 の許可を得て Operation Party に掲載されています。許可なく複製することは禁止します。

タイトル画像は、CCO プロトコルに基づいた Unsplash からのものです。