AI内部告発者がネットワーク全体から追放されました！ OpenAIと他の25の機関が、AIロボットを一目で識別する大きなトリックを立ち上げました

AI エージェントはネットワーク全体に分散されています。今後騙されないようにするにはどうすればいいでしょうか？プライバシーを保護するには？ OpenAI、マイクロソフト、MITなど25の機関が共同で、個人情報を一切開示せずに本人であることを証明できる「人格証明書」を提案した。

過去半月、インターネット全体がOpenAIの「AI内部告発者」に騙された。

皆さんは「Strawberry Brother」@iruletheworldmo というアカウントをよくご存知だと思いますし、彼の衝撃的な投稿を時々目にすると思います。

今週の水曜日まで、彼が予測したGPT-4oの大規模モデルを待つ人は誰もいなかったが、AIスタートアップMultiOnの創設者によって暴露された。

「ストロベリーブラザー」はAIエージェントです。

一時期、インターネット上の多くのプラットフォームで「Strawberry Brother」に関連する再投稿が禁止された。

サブレディット r/singularity では、サブレディットの全メンバーに対して、関連するコンテンツに言及することを禁止する禁止措置が取られています。

中には@iruletheworldmoを直接「ブロック」した人もいました。

本物のOpenAI内部告発者ジミー・アップルズもAIエージェントの発言を信じていた

その後、この AI エージェントは、私がチューリング テストに合格したかどうかを問うオンライン投票を開始しました。意外にも、半数以上の人が肯定的な答えを出した。

そしてこれは、単なる AI の 1 つにすぎません。

ザッカーバーグ氏はかつて、「将来的には誰もが AI アシスタントを持ち、すぐに何十億もの AI エージェントが私たちに代わってインターネットを閲覧するようになるだろう」と語った。

もし将来本当にこれが起こったら、人々はどのようにしてソーシャルメディアのアカウントがロボットであるかどうかを一目で見分けることができるのでしょうか?個人情報を提出せずに自分が「実在の人物」であることを証明するにはどうすればいいですか?

OpenAI、Microsoft、MIT、UCBを含む25の機関の学者が共同で検証技術「Personhodd Credentials」(PHC)を提案しました。

PHC は、インターネット上で「あなたがあなた」であり、AI ではなく本物の人間であることを証明しながら、ユーザーのプライバシーを保護することができます。

論文アドレス: https://arxiv.org/pdf/2408.07892

マイクロソフトの主任科学者兼首席スタッフは、「プライバシーを維持しながらオンラインで人間のアイデンティティを確立することは、AI時代を決定づける課題の1つです」と語った。

別のネットユーザーは、この研究は非常にタイムリーで考えさせられるものだと述べた。

なぜそんなことを言うのですか？

1. 30億人のデータが漏洩、プライバシー保護に解決策はないのか？

冒頭の「ストロベリーブラザー」事件に加え、最近では30億人近いデータが流出し、全米を席巻するなど、史上最大級のデータ事件となっている。

これには、名前、電子メール、住所、電話番号、社会保障番号、郵送先住所など、居住者の詳細な個人情報が含まれます。

さらに恐ろしいのは、住所データは30年前まで遡ることができ、20年以上前に亡くなった親族の情報まで掘り出せることだ。

したがって、匿名性は、プライバシーを重視する多くの人々が自分自身を守るために常に取ってきた手段です。

しかし、重要な確認のために、個人情報を渡さなければならない場合もあります。

現在、ますます強力な AI が絶えず登場しており、犯罪者が詐欺や虚偽情報の拡散に利用する手段はより巧妙になり、規模も容易に拡大する可能性があります。

さらに、AIの敷居とコストが低いため、入手が容易になります。

出会い系アプリなどで AI が生成した画像、動画、音声がますますリアルになってきていますが、相手が本物の人間であることをどうやって確認できるのでしょうか?

検証コードなどの既存のソリューションでは明らかに不十分です。

これは、従来の人間と機械による検証方法が失敗に向かいつつあることも意味します。

結局のところ、画像認識などの分野で AI が進歩するにつれて、このアプローチはますます信頼性が低くなってきています。

現在、ユーザーのプライバシーとインターネットの包括性を過度に犠牲にすることなく、AI による欺瞞を効果的に防止できるバランスを見つけることが極めて重要です。

これは、OpenAI、Microsoft、その他の機関の研究者が研究を通じて、そして最終的には実際の応用で実現することを期待している効果でもあります。

2. 自分がAIではなく人間であることを証明する

研究者のスティーブン・アドラー氏が説明しているように、プライバシー保護ツール「パーソナリティ認証情報（PHC）」は、あなたが人間であることを証明できますが、「あなたが誰であるか」を明らかにするものではありません。

具体的には、「人格証明書」は、AI が偽造できない 2 つの要素によってサポートされています。

「実世界検証」と「安全な暗号化技術」

つまり、AIがどれだけ優秀になっても、この2つの点から逃れることはできないのです。

つまり、PHC は、個人情報を開示することなく、ユーザーがオンライン サービスに対して自分が AI ではなく実在の人間であることを証明できるデジタル認証情報です。

この証明書は、政府などの信頼できる組織によって発行されます。

さらに、著者の定義によれば、PHC はローカルまたはグローバルなシステムであり、必ずしも生体認証技術に基づいているわけではありません。

3. インターネットのいたるところにAIエージェントが出現、最新の詐欺対策戦略

この論文の共著者である、MITの大学院生であるヌーラン・ソリマン氏とトービン・サウス氏は最近、MIT Newsのインタビューに応じ、この技術を簡単に紹介し、その必要性、リスク、そしてPHCを安全かつ公平に適用する方法について議論した。

1. 「人格証明書」の必要性

AI に関する公開討論の多くは ChatGPT のようなチャットボットに関するものですが、人工知能の能力は明らかにそれ以上のものです。

インターネット上の AI の関与には、区別不能性とスケーラビリティという 2 つの特性があり、これが AI による欺瞞の継続的な増加につながっています。

AIはソーシャルネットワーク上にアカウントを作成したり、偽のコンテンツを投稿したり、人間に変装したり、アルゴリズムを通じて特定のコンテンツを大幅に増幅したり、さらには大規模な攻撃を実行したりすることができ、多くのリスクを伴います。

これにより、ソーシャルメディアを閲覧する際の体験が変わり、同意のない「デジタルダブル」の問題と同様に、複雑な AI と人間を区別することがますます困難になるでしょう。

「パーソナリティ認証情報」は、オンライン コンテンツをフィルタリングしたり、受信した情報の信頼レベルを判定したりするために使用されるなど、潜在的な解決策を提供します。

2. 人物証明書とは何ですか？セキュリティを確保するにはどうすればいいですか?

前述のように、「人格証明書」は、あなたの身元に関する情報を一切明かさずに、あなたが人間であることを証明することができます。

著者らは、AIがどれだけ進歩しても、オフラインで現実世界の認証情報を取得することと、高度な暗号化システムを偽造または解読することという人間ができる2つのことはAIではできないと述べています。

つまり、人格の証明は、暗号化によって実現されるセキュリティと、人間には AI にはない能力がまだあるという事実という 2 つの考え方を組み合わせたもので、自分が人間であることを強力に証明します。

「人格証明書」を取得するには、納税者番号や運転免許証など政府との関係性が必要であり、オフラインでの参加も必要となる。

プライバシー技術により、ユーザーは自分の身元に関する機密情報を共有することなく、この事実を証明できます。

「個人認証情報」は実装が比較的容易で、電子メール アカウントなどの識別子を使用してオンライン サービスにログインするなど、何十年も前から存在しているインフラストラクチャとセキュリティ テクノロジに依存しています。 PHC はこれらの既存の方法を補完するものとして機能します。

ただし、ユーザーによる「個人情報認証」の使用は必須オプションではなくオプションであるべきであり、サービスプロバイダーはユーザーが個人情報を使用するかどうかを選択できるようにすることができます。

オプションであるということは、ユーザーがオンラインでやり取りできるのは実際の検証済みの人間のみであり、インターネット上での AI の参加を完全に排除することはまだできないことを意味します。

ただし、オンライン ショッピングや取引交渉などのシナリオでは、相手が人間であることを確認したい場合に、「人格認証情報」が役立ちます。

3. リスクは何ですか?これらのリスクを軽減するにはどうすればよいでしょうか?

リスクの 1 つは、それがどのように実装されるかです。特定の団体が「人格証明書」の発行主体となる場合、あるいは、すべての権限を一つの団体に与えるような制度設計となっている場合、過度な権力の集中を懸念する声もあるだろう。

困難または危険な社会政治的環境にいる場合、人格証明書を取得するためにオフラインの場所に行く必要があると、恐怖を感じ、人々がオンラインで情報を共有することを思いとどまらせる可能性があります。

考えられる解決策の 1 つは、「人格証明書」の発行者を複数設置することです。

私たちの論文は、政府、政策立案者、指導者、研究者に対し、さまざまな実施方向を検討し、この技術がコミュニティに及ぼす可能性のある幅広い影響を探るために、より多くのリソースを投入し、適切なポリシーとルールが確実に実施されるように促すことを目的としています。

AIは政府が適応できるよりもはるかに速いスピードで急速に発展しています。したがって、政府や大企業は、プライバシーとセキュリティを保護しながらユーザーが人間であることを証明できるようにデジタルシステムを適応させることについて今から考え始める必要があります。そうすれば、より高度な AI を備えた未来に備えることができます。

4. 技術紹介

「人格証明書」技術はどのように実現されるのか？この 63 ページの論文には非常に詳細な答えが示されています。

論文アドレス: https://arxiv.org/pdf/2408.07892

まず、「人格認証情報」が所有者のデバイスにデジタル形式で保存されます。信頼性とプライバシーを確​​保するために、PHC システムは次の 2 つの前提条件を満たす必要があります。

– 個人証明書は1人1枚しか持てず、盗難防止のため定期的に再確認する必要がある。

– PHC を保有するユーザーは、サービス プロバイダーと匿名でやり取りします。 PHC 発行者とサービス プロバイダーが共謀したとしても、ユーザーのデジタル活動を追跡することはできないし、ましてやプラットフォーム間で活動を結び付けることもできません。

PHC システムの登録および使用プロセスを図 3 に示します。

ユーザーがリクエストを行うと、発行者に最低限必要な情報を提供するだけで済みます。発行者は、ユーザーが人間であり、以前に PHC に登録したことがないことを確認する責任があります。さらに、発行者は PHC を撤回または復元する権利を有します。

サードパーティのデジタルサービスを利用する場合、ユーザーは PHC を提供し、「ゼロ知識証明」を受けることで本人認証を完了できます。

PHC 以外では、サービス プロバイダーは追加情報を取得できません。各認証は特定のアプリケーションに限定されているため、PHC を通じて異なるプラットフォームを同じユーザーにリンクすることはできません。

この論文では、PHC システムに複数の発行者を設計することが、より理想的な実装計画であると示唆しています。ユーザーは複数の発行者から PHC に登録することを選択できますが、各発行者は 1 つの証明書しか取得できないため、大規模な詐欺行為が減少し、ユーザーのプライバシーが確保されます。

この PHC システムには、次の 3 つの利点が期待されます。

• 「操り人形」ユーザーの影響を軽減し、インターネット上での実際の人々の大規模な実際の入力と参加を可能にする
• ボット攻撃の軽減
• AIアシスタントを悪意のあるユーザーによって操作されるのではなく、信頼できるユーザーの真の代表者にする

同時に、PHCを現実世界で公平かつ安全に実施するためには、以下の4つの課題に対処する必要があります。

1. 公平なアクセス

頻繁な PHC 検証は、使用中に摩擦やフラストレーションを引き起こす可能性があり、テクノロジーに不慣れなユーザー、特に高齢者に影響を与える可能性があります。 PHC を持たないユーザーでもデジタル サービスを利用できるようにする必要がある。

2. 表現の自由

ユーザーは、PHC によってデジタル活動が実際のオフライン ID にリンクされ、オンラインで本物の意見を表現する意欲が低下するのではないかと心配するかもしれません。

3. 電源チェック

PHC エコシステムが直面している大きな課題は、少数の機関、特に PHC 発行者と大規模なサービス プロバイダーに権力が集中していることです。これらの機関の PHC の使用に関する決定は大きな影響を及ぼします。

4. 攻撃やエラーに対する堅牢性

他のデジタル システムと同様に、PHC システムは、証明書発行者、サービス プロバイダー、悪意のあるユーザーなど、複数の当事者による攻撃や悪用に対して脆弱です。 DoS 防御や攻撃者による機密記録へのアクセスのブロックなど、サイバーセキュリティにおける以前のベスト プラクティスの使用を検討してください。

論文の最後で、著者は次に取るべきステップを提案しています。

まず、人工知能の影響に備えて、既存のデジタルネットワークシステムを適応させます。

より具体的には、AI がインターネットと通信をどのように変えるのかを再考する必要があります。

第二に、早急に取り組むべき解決策として、「人格資格」を優先します。

最後の図は、この論文のすべての要点を要約したものです。

特筆すべきは、インターネットプラットフォームが「実名制」を口実に過剰な情報収集を行うことを防ぐため、中国公安部とサイバースペース管理局が最近「インターネットIDカード」を導入したことだ。

必要なのはNFC機能付きの携帯電話だけで、IDカード認識と顔認識を実行し、携帯電話番号を関連付けると、仮想の「オンラインIDカード」を取得できます。

上記の「ネットワーク番号」は文字と数字で構成されており、プレーンテキストの ID 情報は含まれていません。名前やID番号などの情報を入力する必要がなく、TaobaoやWeChatなどのアプリで実名認証に直接使用できます。

参照: https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html