ネットには「目を引く」「AI写真」が溢れている

露出度の高いAI美女から挑発的なAIイケメンまで、これらの「目を引く」コンテンツは、ソーシャルプラットフォームが持つべき価値観に違反しているだけでなく、プラットフォームの監督に対する世間の疑念も呼び起こしています。この記事では、この現象の背後にある理由を詳しく検討しますので、ご参考ください。

「AIは優れていて強力ですが、使用中に変化する場合は検討する価値があります。」

最近、AI写真撮影に夢中なポスト90年代ガールのリンさんは、ソーシャルプラットフォーム上のさまざまなAI写真撮影が「目を引く」と嘆いた。 「今では、ソーシャルプラットフォームを開くたびに、居心地の悪さを感じます。」

「この種の不快感は直接的な視覚的影響です。」リン姉さんは率直にこう語った。「直接飛び出してきたのは、さまざまなAI美女、あるいは『エッジ』を歩くAIイケメンたちです。これは私たちが想像し、日常生活で目にするAI写真とはかけ離れています。まったく普通ではなく、まさに『目を引く』ものです。」

さらによくあるのは、小紅書や抖音などのソーシャルプラットフォームを開くと、そのようなアカウントを運営するブロガーが「職業服装レディシリーズ」や「水着シリーズ」などを投稿しているのが見られることです。中には、そのコンテンツに「有害コンテンツなし」というラベルを貼っている人もいます。

多くのユーザーの目には、これは単に「馬をシマウマと呼ぶ」ことと同じに映ります。あるネットユーザーは「ソーシャルプラットフォームが厳しい監視を求め、積極的に質の高いコンテンツのエコシステムを構築している今日、アダルトサイトを閲覧していた頃に戻ったような気がする」とさえ言った。

一部のネットユーザーからは、「プラットフォームは成人向けコンテンツを許可する際に未成年者への危害について考えたことがあるのか​​？」という強い疑問も表明された。

さらに多くのネットユーザーが、このプラットフォームに何度も失望したことがある。

小紅書のヘビーユーザーであるシャオ・ランさんは、「コンテンツが拡大されるたびに、小紅書は『境界線』と関連づけられるようだ。旅行での出会い系事件から社交界の養成クラス、AIアプリケーションまで、あらゆる種類の悪いコンテンツは決してクリーンではない」と語った。

明らかに、企業の目標とコンテンツの運用の間には矛盾があり、ユーザーには理解しにくいものです。

プラットフォームの審査基準が詳細であるかどうか、クリエイターがプラットフォームの仕組みのグレーゾーンを利用しているかどうか、あるいは監督全体に抜け穴があるかどうかに関係なく、「AI for Everything」の時代にユーザーが必要とするのは、クリーンで高品質なコンテンツエコシステムだけです。

実際、規制当局はこれを非常に重視しています。 2025年3月5日、第14期全国人民代表大会第3回会議の第一回「大臣チャンネル」において、国家市場監督管理総局は、今年は「ビッグデータによる既存顧客殺傷」や「キャスターによる悪質な誇大宣伝」などのコンテンツの是正に重点を置くと発表した。

おそらく、プラットフォームは、AI を使用して悪意を持って作成された悪質なコンテンツに真剣に注意を払うべき時期に来ているのでしょう。

01 「目を引く」AIコンテンツ

リン姉さんは90年代以降の世代です。彼女の日常業務は新規メディアの運営であり、ソーシャルプラットフォーム上で関連コンテンツの運営も行っています。プラットフォーム上で多くの人がAIを使って写真を撮り、「古い写真を蘇らせ」たり、ハワイ諸島を旅行したふりをしたり、複数のスタイルやヘアスタイルを組み込んだり、さまざまなスタイルの写真を撮ったりしているのを見て、リン姉妹もAIで遊んでみたいと思った。

経験によると、リン姉妹はソーシャルプラットフォームを開いて、AI写真撮影のチュートリアルを検索しました。意外にも、「AI 写真」というキーワードを入力すると、表示されたページのほとんどは「AI 美女」と「AI イケメン」でした。

しかし、リン姉妹を驚かせたのは、左下隅に「AIによって生成」と記されたこれらの写真が、従来の意味での写真ではなかったということだ。これらのコンテンツはAIによって合成されているが、男女ともに露出度の高い服を着たり、体を露出させたり、卑猥な行為をしたりしており、全体的に「目を引く」印象を与える。

リン姉さんが特に理解できなかったのは、ソーシャルプラットフォームで「AI写真」を検索するのはこれが初めてであり、このタイプの写真にはまったく興味がなかったということです。では、なぜ彼女はビッグデータによってこのコンテンツに導かれたのでしょうか?

サイバーネイティブであるリン姉妹は、初期のインターネットコンテンツの野蛮な時代を経験しました。リン姉妹が初めてインターネットにアクセスしたとき、ウェブサイトのいたるところにアダルトコンテンツのページがありましたが、「2025年になっても、これらの境界線上のコンテンツがまだ公衆の前でアクティブに活動しています。短いビデオを見るのは、アダルトサイトを見るのと同じです。」とは予想していませんでした。

小紅書を訪れることに慣れている小蘭も、これを嫌う。

小蘭は美容と旅行が好きな00年代以降の女の子で、小紅書の常連客になっています。 Xiaoran さんは、流行の新しいテクノロジー アプリケーションのファンでもあります。 「AI Photo」について知った彼女は、最初に小紅書でブロガーの「AI Photo」の使い方や撮影体験を閲覧しました。

図：ソーシャルプラットフォーム上の「AI写真」に関するコンテンツ

出典: Xiaohongshu (左)、Douyin (右) 「HandsetTech」のスクリーンショット

「実際に見るまで分からないし、見たらショックを受けるよ。」 「AI 写真」を検索すると、小然の小紅書のページは瞬く間に、体を披露する「美女」や「イケメン」で占められた。

「これらは、典型的なフォトアルバムではありません。一部の写真には、「バスローブ」、「フィットネスのOOTD」、「馬を走らせる男性」などのシリーズなど、「AIが作成した情報が含まれている疑い」がありますが、内容は明らかに「境界線」です。」小然はため息をついて言った。「これは小紅書ですか、それとも小黄書ですか？」

かつて「旅のパートナー」が流行していた頃、小紅書は「指導が悪い」と報じられた。小蘭さんも小紅書で旅行仲間を探していたときに同じようなケースを見つけました。

小然が予想していなかったのは、常に高品質のコンテンツをプラットフォームのラベルとして使用してきた小紅書が、同じままだったことだ。特に、TikTokの禁止により、小紅書は一時アメリカでダウンロード数トップとなり、海外の著名人も多数小紅書に加わった。小然さんも「中国のソーシャルアプリは海外でも進歩していると言わざるを得ない」と胸を張った。

しかし今、小さな経験が再びシャオランを失望させました。 「言葉を失い、少し軽蔑の気持ちです。コンテンツエコシステムがこのレベルを維持し続けるなら、私はこのプラットフォームからゆっくりと抜け出すかもしれません。」

小然によると、実は小紅書だけでなく、Douyin、Kuaishou、WeChatビデオアカウントなどの他のソーシャルプラットフォームにも同様のコンテンツがたくさんあるそうです。

シャオランさんは、Douyinで「AI写真」を検索して以来、おすすめのコンテンツが「劇的に変わった」と語った。現在、シャオランは自身のDouyinアカウントが全く見るのが耐えられない状態だと語り、「Douyinを売春宿に変えてしまった」と語る。

02 すぐにアカウントを作成し、お金を引き寄せる

「AI は狂ったように力を発揮している」や「本物の人間はますます偽物になり、AI はますます本物になっている」といった表現が、徐々に最も適切なものになりつつあるようだ。

こうした「AI美容」アカウントを運営するブロガーたちは、そのわずかな魅力を利用して、すぐにアカウントを作成し、お金を稼いでいる。

Douyinでは、一部の「AI美女」が露出度の高い服を着て、ダンス動画を頻繁にプラットフォームに投稿し、わずか半年で100万人以上のフォロワーを獲得した。

メディアの報道によると、昨年、Douyinに「肖一美」というブロガーがいた。各ビデオでは異なる商品が紹介されており、価格は概ね10元未満でした。しかし、表紙の写真は商品紹介とともにAIが生成した美人写真だった。彼女はかつて110万人以上のファンを獲得した。

これを次の金採掘トラックと見ているブロガーもいる。 Douyinでは多くのブロガーが「AIエッジブロガーになる方法」を真剣に解説しています。

図: 「AIブロガーになる方法」に関するソーシャルプラットフォーム上のコンテンツ

出典: Douyin「HandsetTech」のスクリーンショット

実際、小紅書では2024年以降、プラットフォーム上で精巧なメイクとセクシーなボディを持つAI写真美女が急速に増加している。これらのブロガーは、ビーチで休暇中に水着を着た美しい女性の写真や、おしゃれな街で写真を撮った写真を頻繁に投稿し、何千もの「いいね！」を獲得しています。

浙江省のブロガーを例に挙げてみましょう。彼は認定された「デザインサービス会社」であり、彼のサービスには「デジタルビデオとデジタル写真」が含まれます。彼は2024年3月に最初のノートを公開しました。その内容のほとんどは「純粋な欲望スタイル」と「クィアレディスタイル」を含む境界線上のものでした。現在、ファンは36,000人を超え、いいねやコレクションは200,000を超えています。

実際、プラットフォームの初期の頃は、単に「写真を撮って何かを書く」だけで、多くの人が良いトラフィックを獲得できました。しかし、プラットフォームのコンテンツ エコシステムが徐々に成熟するにつれて、コンテンツ配信のメカニズムは純粋な運ではなくアルゴリズム ロジックにますます依存するようになります。

小紅書のスポーツブロガーも、彼女のコンテンツが「少し的外れ」であれば、通常のコンテンツよりもアクセス数が多くなると明かした。

このスポーツブロガーの意見では、プラットフォームは「境界線上のコンテンツがトラフィックを引き付ける可能性がある」とは認めていないものの、何度も試した結果、少なくとも彼女の意見では「境界線上のコンテンツは通常のコンテンツよりもはるかに多くのトラフィックを獲得している」とのことだ。

スポーツブロガーは、小紅書だけでなく、Douyin、Kuaishou、WeChat Video Accountなどのショート動画プラットフォームでも同様の問題が存在すると述べた。 「私はこれらのショートビデオプラットフォームに水着AIショートビデオを投稿してみましたが、トラフィックは非常に良好です。」しかし、彼女のスポーツIPイメージを考慮すると、最終的にはこのスタイルには従いませんでした。

ソーシャルプラットフォームの運営に携わる内部関係者も、一般的に言えば、内部エコシステムが特定のコンテンツにトラフィックサポートを提供し、プラットフォームのサポートによってそのコンテンツが急速に人気を博すようになると語った。

前述の関係者は、「トラフィックサポートの参照基準には、キーワードマッチング、興味の推奨、インタラクションや滞在時間などのさまざまな参照ディメンションが含まれます。たとえば、ユーザーのいいね、コレクション、コメント、ノートの滞在時間は、コンテンツがより多くの人に推奨されるかどうかを直接決定します。」と述べました。

これにより、多くの人が人気コンテンツは「ランダム」であると考えるという誤解も生じますが、実際には、人気コンテンツの背後には明確なトラフィック ロジックが存在します。もちろん、前述の関係者も「交通ブラッシング」も交通促進の重要な手段だと語った。 ‍‍

「AIによる写真撮影の急増は、ある意味支持されているのか」という質問に対して、前述の関係者は「何とも言えないが、プラットフォーム上のアルゴリズムに問題があるのは間違いない」と答えた。

03 細心の注意を払う時が来た

限界ギリギリの大量のAI写真コンテンツの存在にしろ、AI限界ビジネスを売り込む講座の販売にしろ、これらすべては、プラットフォームの監視に抜け穴があるという1つの問題を直接的に指摘している。

そして、これが初めて起こったことではありません。

Xiaohongshu を例に挙げましょう。ここ数年、このプラットフォームのポルノや違法取引への関与が世論の注目を集めている。

2020年11月、小紅書は露骨で挑発的な内容の美女のヌード写真や動画を大量に公開していたことが摘発された。 2021年9月、CCTVは、小紅書に未成年者の身体的プライバシーを漏洩するビデオが多数含まれていることを暴露した。

さらに広く知られているのは、2023年8月に「小紅書の『オールインクルーシブ旅行ヒッチハイク』はポルノ」と題する記事がインターネット上で騒動を引き起こし、小紅書の「出会い探し」という看板の旅行出会い系メモには、実は性的な取引が含まれていたと主張したことだ。

小紅書は毎回、この問題を調査して対処すると表明しているが、実際の結果は理想的とは言えない。

2025年にTikTokが禁止に直面したときでさえ、多くのアメリカ人ユーザーが小紅書に目を向けた。ほぼ一夜にして、小紅書プラットフォームには海外ブロガーのサイド情報や写真が大量に登場した。

これにより、小紅書のコンテンツエコシステム監視の弱点が再び露呈した。当時、業界関係者の中には、異なる法的環境下でのコンテンツ監視要件に適応し、コンテンツ違反による法的リスクを回避するために、小紅書は審査基準をさらに改善する必要があると指摘する者もいた。

小紅書は行動を起こさないわけではない。今年2月13日、小紅書の公式アカウント「書官家」は、昨年12月から現在までに、ガバナンスチームが違法なマーケティング行為を行った美容・パーソナルケア、食品、3Cデジタル、生活サービスなど15業界の1,695のブランドを処罰したという発表を行った。

しかし、現状から判断すると、小紅書は「善意はあるが力が足りない」ようだ。

Douyinに関しては、これまで何度も「ポルノ」などの関連コンテンツに対する監督を実施してきたが、これまでのところプラットフォームの生態系を効果的に改善することができていない。

実際、この問題が繰り返されると、プラットフォームのイメージや評判が損なわれるだけでなく、ユーザーの信頼も大幅に低下します。特に、今日では監視がますます厳しくなっているため、プラットフォームがいかにして悪質なコンテンツの拡散を効果的に抑制できるかは、依然として取り組むべき緊急の課題です。

しかし、アルゴリズムエンジニアは次のように語った。「実は、主要な主流アプリもすべてAI識別機能を導入しており、AI写真や動画の審査も強化している。しかし、現状では、その効果は平均的だ。特にAIツールがますます高度化する中で、プラットフォームでさえも実際には区別できないこともある」

もちろん、国もこの点に関して一定の措置を講じてきました。 2024年9月、中国サイバースペース管理局は「人工知能によって生成された合成コンテンツの表示に関する措置（意見募集草案）」に関する意見募集通知を発行し、プラットフォームやサービスプロバイダーに透かしを追加するなど、AIによって生成されたコンテンツを明確に表示することを要求しました。

しかし、これには依然としてプラットフォームからの強力なサポートが必要です。

これに先立ち、中国社会科学院大学法学院准教授でインターネット法治研究センター所長の劉暁春氏は、「プラットフォームがAIを使って暴力的、侮辱的なコンテンツを出力するのを防ぐには、さまざまな技術的手段を採用できる。出力側では、サービス提供者が再度審査、レビューする必要がある」と述べた。

しかし、ユーザーからのさまざまな質問に直面して、プラットフォームの規制努力は明らかにまだ不十分です。少なくとも現時点では、これによってプラットフォームとエコシステム全体に対するユーザーの不信感を変えることはできません。

「あなたはAIと同じくらい美しい」というのは、女の子にとって魅力的な褒め言葉です。 AI技術の進歩は不可逆的であり、その関連アプリケーションは確かに人々の生活をより良くしてきました。

「しかし、境界線上の写真という観点から言えば、私たちや私たちの次の世代が、あらゆるポルノコンテンツや、どこにでもある低俗な趣味にまだ浸っているとしたら、それはおそらく、人類が技術の進歩とプラットフォームの利益追求行動に対して払う痛い代償なのでしょう。」小然は率直に言った。

「我々は依然として、AIが悪意を持って使われるのではなく、善のために使われることを望んでいます。」小然さんと林姉さんは、「私たちはプラットフォームを批判しているわけではありません。プラットフォームが監視を強化し、ネットユーザーに真に純粋な空間を提供できることを願っています」と語る。

これらすべては、プラットフォーム、テクノロジー、規制当局、そして社会全体がコンテンツ制作に対して基本的な敬意と畏敬の念を抱いているという事実に基づいています。

テキスト |シャオ・ティン 編集者 |ラオ・ヤン