なぜ人類全体が汎用人工知能の「規制」を求めているのでしょうか?

この記事は、なぜ人工知能を規制する必要があるのか​​という疑問を提起し、マスク氏が署名した公開書簡を分析し、客観的かつ科学的な視点から、規制、規制の方法、規制の理由といったテーマについて考え、議論を促します。人工知能分野に興味のある学生におすすめです。

3月末、マスク氏を含む多くの著名人が共同で公開書簡に署名し、OpenAIを含む機関がより強力なAGIの研究開発を少なくとも6か月間停止し、人類社会がAGI（汎用人工知能）の脅威に基づいて何らかの合意に達することができるよう期待した。

この手紙の本文は長くはありませんが、内容は非常に広範囲にわたり、豊富な問題を含んでいます。

たとえば、人間はこの勘定をどう清算すべきでしょうか - AGI は情報チャネルをプロパガンダや嘘で満たします。人間がすでに好きで満足している仕事であれば、AI に置き換えられるべきでしょうか?こうした効率性の向上は、「文明の制御を失う」リスクを冒す価値があるのでしょうか?人間はどのようにして AGI の規制システムを確立すべきでしょうか?

この手紙の最終的な結果は、シリコンバレーで意見が分かれる前例のない規模の議論を引き起こしたことだ。結局のところ、GPT3.5が人類社会のビジョンに入ることを出発点とすれば、人類にはAGIの開発に関して解決すべき盲点が多すぎ、合意が得られていない論争が多すぎます。しかし、人類がまだ議論している間に、AGI はすでに、巨大で不穏なブラックボックスのように、誤った情報や情報漏洩によって世界中で問題を引き起こし始めています。

そのため、最近では、欧米、日本、韓国など情報先進国を中心に大規模モデルの規制に関する議論が始まっています。 4月11日、中国サイバースペース管理局も「生成型人工知能サービスの管理に関する規則（意見募集稿）」（以下、「規則」という）を発行した。この「措置」の重要性は、AGI を規制する上で人類社会が直面した最も初期の公式文書の 1 つとみなすことができる点にあります。

規制の観点は、人々が AGI を理解する上で非常にユニークな視点となることがよくあります。科学者の観点とは異なり、パラメータに関する複雑な説明システムや複雑なモデル フレームワークが多数存在します。規制当局は社会の利益を代弁する存在であり、社会全体の観点から考えることが多い。したがって、規制当局の考え方は、大多数の人々の単純な直感に近いものになることが多いのです。しかし、それは中核となる専門家グループの考えも表しているため、新しいことに関する多くの議論にも部分的に対応できます。

したがって、この「対策」は、実際には多くの一般の人々が AGI を理解するための窓口となる可能性があります。 AGI に関する議論をよりよく理解し、参加するのに役立ちます。 AGI は天使でも悪魔でもないからです。そして、幻滅した AGI も私たちの公共生活の重要な一部となるでしょう。

1. 「私は誰か」：生成型人工知能

シリコンバレーの観点から見ると、AGI はほぼ大規模モデルに相当します。これは、最適化されたモデル、構造化されたコーパス、および膨大な計算能力を組み合わせたコンピューター プログラムであり、インテリジェントな思考のいくつかの特性を備えています。 「文書」では、この「新種」を「生成型人工知能」産業に分類しており、これは「アルゴリズム、モデル、ルールに基づいてテキスト、画像、音声、ビデオ、コード、その他のコンテンツを生成する技術」である。これは明らかに、AIと社会の関係の観点からのものです。

結局のところ、AGI の将来の技術的特徴は変化し、モデルのサイズは変動しますが、社会との相互作用という究極の核心の追求は変わりません。モデルがどれだけ長い間閉鎖的な環境で開発されていたとしても、その最終的な目標は社会にコンテンツを出力することです。これは、意思決定、検索、セキュリティ、支払いのサポートなど、垂直 AI と AGI の根本的な違いです。

技術的な観点から見ると、幅広いユーザーベースを持つ「生成 AI」は、AGI の基礎機能を備えた製品である可能性が高くなります。しかし、一般の人々にとって、AGI（人工汎用知能）という用語は確かに少し「魅力的」すぎる。多くの人は、あたかも「サイバーソウル」を見ているかのように、AGI を人間の知能と比較しますが、AGI は知能のほんの一端に過ぎず、その将来の発展には実はまだ大きな不確実性が残っていることを完全に忘れています。

したがって、私たちの未来は「ウエストワールド」のような「AGI 社会」であると言うよりも、私たちの世代の技術的現実に近いかもしれない「生成型人工知能」の世界の到来を告げると言ったほうがよいでしょう。

2. 「私は誰に属しているか」：サービスプロバイダー

AGI 倫理の議論には、古典的な疑問があります。それは、大規模モデルによって生成されたコンテンツの著作権は、大規模モデル会社に属するのか、それともプロンプトの作成に尽力したユーザーに属するのか、ということです。

本弁法は著作権の帰属について明確に規定していないものの、監督上の責任と義務を定義しており、より多くの人にとって参考となる可能性がある。措置によれば、「生成AI製品を使用してチャットやテキスト、画像、音声生成などのサービスを提供する組織や個人（以下、「プロバイダー」という）は、プログラム可能なインターフェースを提供することで他者がテキスト、画像、音声などを生成することをサポートすることを含め、製品によって生成されたコンテンツのプロデューサーとしての責任を負うものとする。」

この考え方に従えば、実際に責​​任者となるのはビッグモデルの研究開発担当者でもユーザーでもなく、ビッグモデルとユーザーをつなぐサービス提供者になります。もちろん、ほとんどの場合、AGI 開発者と API プロバイダーは同じエンティティである必要があります。しかし、テクノロジー エコシステムが進化するにつれて、さまざまなレベルのエンティティが多様化する可能性があります。

中間サービスプロバイダーの責任を明確にすることは、実際には「生成型人工知能」の公式定義と一致しています。同時に、このような権限と責任の分割は、実際には上流の産業チェーンに、将来的にコンテンツに関する十分な相互信頼を達成することを強制します。

3. AGIの「コンテンツ権利」：識別が必要

著作権の問題と似た議論として、AGI コンテンツは人間が享受するコンテンツと「同じ権利」を持つことができるのか、というものがあります。

この措置では、AGI コンテンツに対する制限が明確に設定されており、次の 2 か所で示されています。「インターネット情報サービスの深層合成管理規則に従って、生成された画像、ビデオ、およびその他のコンテンツにはマークが付けられるものとします。」 「プロバイダーは、国家サイバースペース管理局および関連する管轄当局の要件に従って、事前トレーニング済みおよび最適化されたトレーニングデータのソース、規模、タイプ、品質などの説明、手動ラベル付けルール、手動でラベル付けされたデータの規模とタイプ、基本的なアルゴリズムと技術システムなど、ユーザーの信頼と選択に影響を与える可能性のある必要な情報を提供するものとします。」

AGI の内容については常に論争がありました。特に GPT の内部ベータ版では、システムが村の入り口で携帯電話をいじっている老人のように動作することがありました。時には、十分な説得力のある情報なしに、価値判断を含む意見をユーザーに直接提示することもあります。これらの対策が実装されれば、AGI は「言語的」および非言語的コンテンツ出力に完全に別れを告げ、代わりに検索のようなツール属性を導き出すことになります。そして、AIで合成した作品を使って美術コンクールで賞を取るといったことは、完全に「黒歴史」となるでしょう。

これは実際に法律の精神に沿ったものです。 AIはコンテンツ生成において絶対的に優れているため、当然ながらより多くの立証責任を負わなければなりません。ただし、マルチモーダル コンテンツ形式には大きなコンテンツ リスクが伴う可能性があり、当然、対応する制御メカニズムが必要になります。逆に、AGI コンテンツに人間のコンテンツとまったく同じ権利が与えられると、人間のコンテンツのエコロジーに評価が難しい影響を与える可能性があります。

IV. 「規制生態学」：アシロマ原則

OpenAI への公開書簡の冒頭には、システムではなく監査エコシステムが必要であると提案する小さな詳細があります。公開書簡では、アシロマAI原則についても言及されている。同原則では、高度なAIが人類に与える影響は文明レベルに及ぶため、その計画と管理に必要なリソースはAI自体が消費するリソースと一致する必要があるとしている。

言い換えれば、生成 AI が巨大なシステムになる場合、1 つのリンクまたは 1 つのエンティティだけで完全に制御することはできません。現行法の規制上の地位を引き続き重視することに加え、本措置では生成AIの全プロセス監視も重視しています。

たとえば、コーパス (「事前トレーニング データ」) は合法かつ準拠している必要があり、データのラベル付けは「明確で具体的かつ運用可能なラベル付けルール」でトレーニングする必要があり、使用シナリオは規制に準拠し、対応する責任を負う必要があり、コンテンツ自体にラベルを付ける必要があり、ユーザーの使用中に明確なレポートおよびフィードバック チャネルが存在する必要があります。

AGI は巨大なエコロジカル基盤となるため、規制当局は実際にはより多様な方法を使用して規制タスクを実行する必要があります。したがって、ビッグモデルには一定のブラックボックス属性がありますが、一連の複合パンチを通じて、技術的なブラックボックスの背後にあるコンプライアンス機能を逆に推測するだけで、「アンボックス化」の目的を達成できます。

開発者の責任をさらに明確にするため、本弁法に以下の条項が追加されました。「運用中に発見された、またはユーザーから報告された、本弁法の要件に準拠していない生成されたコンテンツについては、コンテンツフィルタリングなどの措置を講じるほか、モデル最適化トレーニングなどの手段を通じて、3か月以内に再度生成されないようにする必要があります。」言い換えれば、規制当局が単に「コンテンツ フィルタリング」を使用してさらなるモデル最適化の責任を回避したいだけであれば、それは対策違反です。AGI には、準拠した API だけでなく、準拠した魂が必要です。

5. 火を鎮める

多くの人が AGI の発明を「火」に例えます。人類は火を起こすことを学び、火から文明の恩恵を享受してきましたが、同時に「火を飼いならす」にはより長い時間がかかります。

上記の公開書簡では、優れた AGI は、正確性、安全性、解釈可能性、透明性、堅牢性、整合性、信頼性、忠実性など、少なくともいくつかの基準を満たす必要があると提案されています。

言い換えれば、AGI は現在のように形而上学的な錬金術のブラックボックスになってはならないということです。人類に利益をもたらすことはより確実であるべきです。そのため、公開書簡では、大規模なコンピューティング能力を備えた専門的な垂直規制システムを確立したり、何らかの基礎となるコード規約に到達したりするなど、より長期的な技術規制のアイデアが提案されました。これらの提案を実施する価値があるかどうかについては、業界でのさらなる議論が必要です。

しかし、比較的確実なことが 1 つあります。それは、人間が「火を調教する」過程で「火」をより深く理解するのと同じように、人間社会は AGI との継続的な相互作用と競争を通じてのみ、AGI をより深く理解できる可能性があるということです。

著者: 郭海偉

出典：WeChatパブリックアカウント：「Pinwan（ID：pinwancool）」