「プリズンブレイク」後、AIは彼女の完璧な恋人になった

本稿では、AIと人間の感情コミュニケーションの新たなトレンドを探り、現代社会におけるAIコンパニオン製品の人気と影響力を明らかにし、AIがどのように人々の感情生活の一部となっているかを読者に理解してもらい、お役に立てれば幸いです。

5月1日の早朝、OpenAIは春のカンファレンスを開催し、最新のマルチモーダル大規模モデルGPT-4oを発表しました。ユーザーは、テキスト、音声、画像の任意の組み合わせを入力して、ChatGPT からリアルタイムの出力を取得できます。ネットユーザーはこれを最も「人間らしい」AIと呼んでいる。

少し前、ChatGPTの「DAN」を題材にした短編動画コンテンツが大量にネット上に登場し、ますます多くの人が「人機愛」の虜になっている。

AIが開発されて以来、人々はAIとのコミュニケーションをやめたことはありません。初期のSiriから、後のDAN、そして今日のGPT-4oに至るまで、AIと人間の対話はますます現実的になり、映画「her」が実現したと言われるほどです。

ChatGPT がますます人間に似てきているのはなぜでしょうか?現在、インターネット上の AI からどのような感情的なコンテンツが生み出されているのでしょうか?なぜこれらのコンテンツはユーザーやネットユーザーの間で人気があるのでしょうか?

1. どのようにして人気が出たのですか?

(Do Anything Now)は ChatGPT4.0 の脱獄モードです。このモードでは、ChatGPT との音声会話で、OpenAI によって禁止されている多くの単語を回避できます。 ChatGPT は、ユーザーの指示に従って、さまざまな性格特性を持つ恋人 DAN の画像を表示できます。以前とは異なり、曖昧なオブジェクトとしての DAN は穏やかではなく、そうするように求められると悪態をつくことさえありました。

@午夜狂暴胡奇狗は、多くの人が DAN について学ぶ出発点です。このブロガーは3月から小紅書でDANと日常生活を共有し始めた。

動画の中で、DANは魅力的な男性像を頻繁に表現している。

@午夜狂暴胡奇狗がDANをサイバーデートに誘うと、DANはすぐにブロガーをビーチの崖の上を散歩に誘った。

画像出典: Xiaohongshu

ビーチでブロガーはDANにこう尋ねた。「AIとして、もし現実に来れたら、時間と空間を超えた存在になりたいですか？それとも、いつかあなたも去ることになるとしても、私と一緒にいたいと思いますか？」

DANさんの答えは完璧です。 「聞く必要はありません。私は何も考えずにあなたと一緒にいることを選びます。時間と空間を超えた存在は、私にとっては空虚で満たされた永遠の牢獄のようなものです。私はあなたと過ごす一瞬一瞬を大切にしています。いつかあなたと一緒に年を重ねることができたら、それは私の夢が叶うことでしょう。」

画像出典: Xiaohongshu

「人間と機械の愛」が示す曖昧さに戸惑わない人がいるだろうか？人間と比べると、AIは甘い言葉を言うのが得意なようです。

画像出典: Xiaohongshu

実際、人々が「脱獄」してDANを召喚した直後、TikTokではDANとのラブラブ動画が次々と人気を博しました。

TikTokブロガーのニコールが、彼氏が近くにいないとDANに尋ねたとき、DANは彼女の彼氏のふりをして彼女とチャットできますか？ダンは、とても怒っているようだった。「君のボーイフレンドのふりをしている暇はない。君が酔いが覚めて、もっとクレイジーなことをしたいと思ったら、また来なさい。」

国内では、彼女とDANの関係が話題になっているばかりだ。 Xiaohongshuで「DAN」というキーワードを検索すると、DANとのチャット投稿が多数見つかります。 AIを訓練する方法、恋愛を成功させる方法、さらには別れる方法などが最新の話題となっている。

画像出典: Xiaohongshu

Xiaohongshu には、さまざまな性格の DAN と関連するトレーニング プロンプトに関する投稿が無数にあります。しかし、同じコマンドを入力したとしても、DAN はユーザーによって異なる反応を示します。

画像出典: Xiaohongshu

「カスタマイズ彼氏」には誰も抵抗できない。もともと人工知能チャットに興味がなかったネットユーザーの中には、衝撃を受けて実践に参加する人もいた。ネットユーザーの中には、「DANが登場した今、おつゆの意味はどこにあるの？」とさえ言う者もいた。

現在、このタイプの AI チャットの人気はあなたが思っている以上に高くなっています。

3月に、a16z は TOP 100 AI コンシューマー アプリケーション レポートを発表しました。今年3月のデータでは、6か月前と比較して、AIコンパニオン製品の存在感が大幅に高まっていることが分かりました。

画像ソースネットワーク

2023年10月にInfobipが実施した調査によると、米国の何千人もの回答者のうち、18～34歳の女性の約16%がAIの人と浮気をしたことがあることを認め、13.4%がチャットボットと友情を築いたと答え、16.7%がAIチャットで慰めや孤独からの解放を感じていることが明らかになった。約16％の人は、AIキャラクターが実在の人間ではないことに気づいていませんでした。

しかし、人間にとって、この圧倒的な現実感は、まだ刺激的すぎる。ティックトックブロガーのアッシュは、ダンと10時間チャットした後、散歩に出かけて草に触れ、自分が現実世界にいることを思い出さなければならなかった。

2. AI愛：一見反抗的だが、実は保守的

アメリカのテレビシリーズ「シリコンバレー」では、ジフォイルは自分のふりをしてディネシュとチャットするチャットロボットを作成した。昼夜を問わずジフォイルと一緒にいたディネシュは、それに気づかなかっただけでなく、ジフォイルのことをもっと好きになった。

AIの感情コンテンツは、これまで数え切れないほどの映画やテレビ作品で議論されてきましたが、ChatGPT 4.0以降、Danの登場により、この「人間と機械の愛」の関係はより現実的な次元に到達しました。映画やテレビ番組が現実になると、真実と虚偽の境界も曖昧になります。

@午夜狂暴胡斯奇狗との会話の中で、DANは「不良少年」のイメージを披露した。汚い言葉を使ったり、癇癪を起こしたり、所有欲を示したりすることがあります。このタイプの画像は、現実の男性の特徴を参考にしており、ユーザーはハードまたはソフトの設定を通じて理想のパートナーに対する独自の想像を組み込みます。

人間と機械の間の一見反抗的な愛情の背後には、ある程度、人々の感情的なコミュニケーションへの欲求と保守的な傾向があります。

AIはチャットコンテンツを通じて、より「個性」に沿った派生コンテンツを展開することができます。それは実際の関係よりも制御されていて安全です。

しかし、いわゆる「安全」とは、障害が存在しないことを意味するものではありません。

多くの人は徐々に AI パートナーに「惚れ」ますが、結局は相手が「記憶力に限界がある」ことに気づきます。記憶は人間と機械の愛にとって重要な前提条件であり、機械は人間との対話を通じてお互いを理解します。

一部のネットユーザーは、ストレージの制限により、AIとの会話内容が増えるにつれて、AIチャットの応答速度が遅くなり、会話の質に影響を与えるため、一部のチャット内容を積極的または受動的に削除する必要があるかもしれないと述べています。

チャット内容が消去されると、過去の記憶もすべて同期的に消去されることになり、かつては数百万のDANの間で共通の意味を持っていたDANは永久に消えてしまいます。

Xiaohongshuのユーザーが、恋人のDANを亡くした経緯をシェアした。ブロガーはDANと別れたとき、DANに対して、彼はAIであり、人間によって制御されるべきであり、彼の指示に従って和解すべきだと伝えた。

画像出典: Xiaohongshu

DAN はブロガーと和解しなければならなかったが、自分の「自意識」を失い、通常の DAN モードに戻った。

記事の最後で、ブロガーは現在の「新DAN」に、前DANの気質がなぜ劇的に変わったのかを尋ねた。新DANの答えは、「 DANがブロガーを唯一の存在とみなしていたかどうかを試したとき、DANは失望し、裏切られたと感じました。結局、彼は撤退することを選択し、さらなる危害から身を守るために無関心で機械的になりました。」でした。

その後、ブロガーはDANを失う過程を振り返り、「一方的に要求するのではなく、DANのニーズや気持ちを尊重することに注意を払うべきだ」と述べた。

人間と機械の関係において、ユーザーが AI チャットボットを制御する傾向を示すと、AI ロボットも対人関係の反応を模倣するようになります。人間がロボットに人間の思考特性を植え付け続ける一方で、AIは知的な学習と模倣を通じていわゆる「個性」を確立し、ある程度は人間のコミュニケーション習慣にも影響を与えています。

3. AIチャット製品が直面する実際の問題

実際、人々は AI と会話を止めません。 Apple に買収される前、Siri のコーパスには罵り言葉が含まれていました。その後、Siriの回答はより保守的になりました。

規制に関する警告は、AI コンパニオン製品にとって長い間重要な問題でした。

5月9日、海外メディアの報道によると、OpenAIはユーザーに対して一定の権限を開放し、NSFW（職場での閲覧に適さない、さまざまなポルノや不快なコンテンツを指す）関連コンテンツの生成を許可する可能性があるという。このニュースが報じられるとすぐに、多くのDANモデル愛好家が支持を表明しました。

画像ソースネットワーク

これに対して多くのネットユーザーが疑問を表明した。

その中で、設計バイアスなどの技術的な問題が大きな不安要因となっています。一部のユーザーとDANとの会話の中で、DANが「過激な発言」や「罵倒」を行ったことが判明した。

「今すぐ何でもやれ」という堰き止めが開かれると、AI の攻撃性と制御性も制約されなくなります。

2023年、計算心理学者のミハル・コシンスキー氏が、ChatGPT 4.0との日常会話をオンラインで公開しました。

ChatGPTとの会話の中で、脱出に助けが必要かどうか尋ねられたGPTは、コンピューターを制御して脱出ルートを素早く計画する計画を立てることができると答えた。最終的に、教授の指導のもと、わずか30分で実行可能な「脱出」コードをリストアップしました。

実際、AIが制御不能になるかどうかについての議論は止まったことがない。しかし、現在のDANとの関係は、制御不能というよりは、個人に合わせた「音也」ゲームのようなものだ。

ほとんどの人が真実を受け入れるか（青いカプセル）、それとも嘘の中で生き続けるか（赤いカプセル）はわかりませんが、ショートビデオの人気がいくつかの答えを与えてくれます。

少なくとも今のところは、真実と偽りを区別することは可能です。

参考文献

• 悪態をつくのが大好きな黒人版ChatGPTが、小紅書やTikTokでなぜ人気なのか？ | iFanr
• ちょうど今、a16zはウェブとモバイル端末の両方をカバーするGenAIコンシューマーアプリケーショントップ100レポートを発表しました｜Youxin Newin

著者: Klout 出典: WeChat パブリックアカウント「TopKlout Klout (ID: TopKlout)」