創造性か空想か？ AIイリュージョンプランナーに直面しても慌てない

最近、シャオアイは検索エンジンの情報から生成された答えを検索することで推測に対する答えを獲得し、大きな注目を集めました。人工知能は意図的か否かに関わらず物語を作り上げますが、業界ではこれを AI 幻覚と呼んでいます。マーケティングプランナーとして、この状況にどのように対処すべきでしょうか?

暴露が頻繁に覆されるこの時代では、噂を覆すことはもはや驚くべきことではありませんが、Xiaomiの価格設定事件の覆りは依然として大きな注目を集めています。最近、Xiaomiの車種の価格に関するスクリーンショットがインターネット上で出回った。流出した写真によると、Xiaomiモデルの価格は149,900元からで、最大航続距離は800キロメートルとなっている。しかし、それから間もなく、Xiaomiの広報部長がWeiboに投稿し、噂を否定した。

これは、Xiao Ai が検索エンジンの情報を取得して生成した回答であることがわかりました。実はこの情報は2022年5月に自メディアが報じた推測情報です。誰かがシャオアイに質問したとき、シャオアイは単純にこの推測情報を捉えました。

Xiaomiの人工知能アシスタントとして、Xiao Aiの回答が注目を集めているのは当然のことです。実際、シャオ・アイは情報の真偽を見分けることはできず、意図せずにそうしてしまった。しかし、この事件は、業界ではAI錯覚と呼ばれている、人工知能による意図的な捏造という現象を思い起こさせた。

AIも幻覚を起こすことができるのか？人工知能の時代を迎え、生産性解放のカーニバルが巻き起こっているが、その裏では人工知能への過度の依存の危機も浮上しているようだ！

1. AI幻覚とは何ですか?

真面目な態度でナンセンスを言う AI ツールに出会ったことがありますか?

人工知能の分野では、AI の「幻覚」は一般に、「提供されたソース コンテンツに比べて意味をなさない、または信頼できない生成されたコンテンツ」と定義されます。つまり、モデルに「幻覚」がある場合、出力されるコンテンツやデータは誤解を招く可能性があり、使用するトレーニング データでは出力結果の合理性を証明できません。

簡単に言えば、AI は架空の人物や物を生成し、一貫した自信を維持することがあります。この虚偽の情報は、非常に誤解を招きやすく、欺瞞的です。

OpenAIのCEOでさえ、Twitterで「ChatGPTは多くのことを知っていますが、危険なのは、ChatGPTがかなりの割合で自信を持って間違っていることです」と公に述べています。

しかし、「幻覚」という言葉は、AIが生命力や思考力を持っているかのような印象を人々に与えます。このため、この現象に注目する人が増えるにつれて、このラベルはますます物議を醸すようになりました。 AIの「幻覚」は実は一種の情報フィクションであり、AIの主観的な思考能力や創造力ではなく、AIモデルに基づくものだと私は考えています。

それが何と呼ばれようとも、人工知能における自己欺瞞と捏造の現象はもはや孤立した事例ではない。 AIGCの波を受けて、AIツールの利用は新時代の新たな常態となったようだ。

2. AIが簡単に発見できる病気

AI が間違いや逸脱を起こし、不正確、誤り、さらには不合理な結果につながるというこの現象は、テキストの捏造、事実の虚偽の捏造、役に立たないコードの生成、さらには捏造された参照の提供など、複数のレベルで発生する可能性があります。

ワシントンポスト紙は、ChatGPTが性的嫌がらせを行った法学者のリストに自分を含めていたことを発見した法学教授について報じた。 ChatGPT が、賄賂の罪で有罪判決を受け懲役刑を宣告されたオーストラリアの市長を捏造したという報告もあります。怖くないですか？ AIGC の台頭により、この AI 幻想に効果的に対処しなければ、私たちはあらゆる種類の捏造された情報に流されてしまう可能性があります。

3. AI はなぜこのような錯覚を生み出すのでしょうか?

上で述べたように、大規模言語モデル (LLM) の性質を理解することで、答えを見つけることができます。大規模言語モデルの設計は言語の「統計的確率」に基づいているため、AI には「現実世界での経験」がまったくなく、事実の真偽に基づいて判断することができません。そのため、AI は何が正しくて何が間違っているかを認識できず、プロンプトの単語との統計的な一貫性を維持することしかできません。

「最も先進的なAIモデルでさえ嘘をつく傾向があり、不確実な瞬間に事実を捏造する傾向がしばしば見られる」とOpenAIの研究者らは報告書に記している。 「こうした幻覚は、多段階の推論を必要とする分野では特に深刻で、単一の論理的誤りがより大きな解決を台無しにしてしまう可能性がある。」

しかし、別の観点から見ると、この錯覚はまさに AI の創造性の現れです。なぜなら、この創造的に反応する能力こそが、AI を新しいアイデアを生み出したり、思考のボトルネックを解消したりするための強力なツールにしているからです。ブレインストーミングやインスピレーションの喚起に使用する場合は便利ですが、事実の参照として使用する場合は注意が必要です。

マーケティング担当者として、私たちはこれらのツールを使用する際に、慎重ながらも楽観的な姿勢を保つ必要があります。私たちが行う仕事の多くは創造的または革新的なものであるため、AI の幻覚はより多くのインスピレーションと啓蒙をもたらす可能性がありますが、客観的な事実に基づく仕事はまだ多くあり、完全に偶然に任せるのではなく、相互検証や検証が必要です。

このことから、AI ツールは確かに効率性の面で生産性を解放しましたが、コンテンツの信憑性という点では、使用時に基本的な認識と判断能力がまだ必要であることがわかります。結局のところ、ツールは人間に完全に取って代わるものではなく、常に人間によって使用されるものです。あなたのキャリアは安定していると感じますか?

上記があなたにインスピレーションを与えることを願っています。

著者: 小僧クンクン、WeChat公式アカウント: マーケティング禅瞑想センター