現在、汎用人工知能（AGI）は科学界と産業界の両方で注目のキーワードとなっています。ほんの数年前までは、AGIの実現には少なくとも10年から50年かかる、あるいは不可能だとさえ考えられていた人もいました。現在では、そのような悲観的な見方は稀です。しかし、この技術革新の波に対する世間の興奮に比べると、AI分野の第一線の学者や業界リーダーの多くは、現在のAIがAGIに発展するにはまだ長い道のりがあると考えています。
復旦大学の名誉教授であり、上海人工知能研究所（SAIRI）所長、信頼できる大規模モデル企業「Infinite Lightyear」の創設者でもある Qi Yuan 氏は、次のように述べています。「AGI の最も高度な表現の 1 つは、複雑な世界における未知の法則の発見です。簡単に言えば、それは「AI アインシュタイン」になるはずです。これには、「ブラック ボックス」の確率的予測と「ホワイト ボックス」の論理的推論を組み合わせた「グレー ボックス」の信頼できる大規模モデルを作成し、テクノロジーと産業の深い統合を通じて基礎研究、人材育成、実用化を促進し、科学的知能の革新的なエコシステムを構築する必要があります。」
最近の2024年世界人工知能会議（WAIC）と人工知能のグローバルガバナンスハイレベル会議で、SAIRIは「人工知能：科学研究と産業発展のパラダイムシフト」と題するテーマフォーラムを成功裏に主催しました。これは、この新しい研究機関がWAICに初めて登場した例です。SAIRIは、上海のイノベーション主導の「1+1+N」科学インテリジェンスエコシステムの模範と見ることができます。このモデルでは、SAIRIが全体的な戦略計画、リソース統合、主要な技術研究とイノベーションを担当する中心ハブとして、別の「1」復旦大学、およびいくつかの「N」大学、研究機関、ハイテク企業、イノベーションチーム、投資機関と連携し、科学研究、人材育成、技術移転、産業のイノベーションとアップグレードを共同で推進します。
AGI の標準は、「AI アインシュタイン」を作成することであるはずです。
技術的な観点から、パラメータが増えてモデルがどんどん大きくなると、AGI につながるのでしょうか? 今のところ、AI 技術自体の観点からも、エネルギー消費の観点からも、Transformer 自己回帰アーキテクチャに基づく大規模モデルは AGI につながるのに十分ではありません。AI は、信頼できる新しい「グレー ボックス」の大規模モデルを開発する必要があります。この結論は、Qi Yuan の学界と産業界における長年の実践経験に基づいています。
10年前、「AIを役立てる」という理念を掲げ、斉元はチームを率いてアリババのコア機械学習システムを初めて200万パラメータから数億パラメータに増やし、ビジネスパフォーマンスの大幅な向上を達成し、データ、アルゴリズム、エンジニアリング能力の統合的な変革を実証しました。これはまさに、今日のAIコミュニティで広く議論されているスケーリング法則の現れです。
Qi Yuan 氏は、チームがスケーリング法則の甘さを実際に味わったことを思い出します。モデルのパラメータを 100 倍に増やした後、全体的な効果が劇的に向上しました。「しかし、今思うのは、なぜ当時 AI モデルをさらに大きくしなかったのか、なぜさらに一歩進めることができたときに止めてしまったのかということです」と同氏は言います。「大規模モデルのパラメータが数十億であっても十分ではありません。数千億、数兆、あるいはそれ以上に拡大する必要があります。当時は、学界も産業界も計算能力が不足しており、産業界でさえ、そのような高い計算能力を実現するには、学界は言うまでもなく、非常に高いコストが必要でした。」
AGI の基準が「AI アインシュタイン」の作成であるべき理由は、効率的かつインテリジェントである必要があるためだと Qi Yuan 氏は説明します。まず、アインシュタインはいくつかの重要なデータ ポイントを通じて「20 世紀初頭の物理学の雲」を発見しました。AGI は複雑な世界の未知の法則を発見して理解することもできなければなりません。しかし、現在の大規模モデルではこれを達成できません。たとえば、視覚的な大規模モデル SORA は、前例のないレベルで物理世界をシミュレートしますが、それでも 2 次元世界のシミュレーションに基づいて 3 次元世界を構築しており、物理世界を完全に理解するにはほど遠い状態です。次に、消費電力の問題があります。人間の脳は約 15 ワットで動作しますが、1 つの GPU はピーク時に数百ワットに達することがあります。一般的な大規模モデルのトレーニングには、数千または数万の GPU クラスターが必要です。現時点では、既存のアーキテクチャを使用し続けると、必要な電力消費は天文学的になり、効率的かつインテリジェントであるという目標を達成することは困難です。
「AIアインシュタイン」は、AI for Science（AI4S）の重要な目標でもあります。科学的知能は、既知の物理方程式の解決を加速する上で重要な役割を果たしてきましたが、既知のルールとデータを組み合わせて、データと計算能力への過度の依存を減らし、推論と予測の精度を向上させ、データで調整された知識ルールに基づいて新しい科学理論を提案する必要もあります。これは、人工知能を使用して複雑な世界を理解し、未知の法則を発見するという、復旦大学とSAIRIでのQi Yuanの長期目標と一致しています。
「グレーボックス」の信頼できる垂直ドメインの大規模モデルは、さまざまな業界に力を与えます。
大型モデルが AI ツールから新たな生産力を獲得するには、どのような問題を解決する必要がありますか? Qi Yuan 氏によると、大型モデル業界は多くの共通の課題に直面しており、技術、製品、市場のニーズを一致させることが困難になっています。
「今日の大規模モデル実装の最大の問題は、一見便利そうに見えても、実用には適さないことです」とQi Yuan氏は説明する。今日の大規模言語モデルは、主に複数の先行単語に基づいて次の単語を予測しますが、このアプローチは厳密な多段階推論には適していません。「言語はコミュニケーションのためのツールであり、考えるためのものではありません。」最近、MITを含む機関がトップの学術誌に発表した論文で、自然言語は文化的知識を伝達する強力なツールであり、人間の認知の複雑さを反映して、思考力や推論力と共に進化してきた可能性があると指摘した。しかし、言語は推論の複雑さを生み出すわけではない。
既存の大規模モデルの信頼性の低さ、解釈可能性の低さ、コストの高さに対処するための効果的な解決策は、確率的ニューラルネットワーク推論と論理的記号計算を組み合わせることです。これは、ノーベル賞受賞者のダニエル・カーネマンの著書で説明されている、本能に基づく高速思考と論理的推論に基づく低速思考の組み合わせに似ています。考える、速く、ゆっくり「これは『グレーボックス』の大型モデルと呼べる」とQi Yuan氏は考えている。記号計算とニューラルネットワークを『グレーボックス』の信頼できる大型モデルに組み合わせることで、AIの「幻覚」を減らし、垂直分野の専門的な問題を解決し、さまざまな業界に力を与え、大型モデルの生産性を解き放つことができる。
「グレー ボックス」の信頼できる大規模モデルとは何でしょうか? 「元々、ディープラーニングは「ブラック ボックス」と考えられていました。現在では、論理的推論とディープラーニングを組み合わせることで、「グレー ボックス」が実現しています」と Qi Yuan 氏は説明します。「元の「ブラック ボックス」では、データが結果を生み出すプロセスが人々にはわかりませんでしたが、「グレー ボックス」の大規模モデルでは、論理的推論によって、人々は「結果とその背後にある理由の両方を知る」ことができます。別の観点から見ると、「グレー ボックス」の大規模モデルは、ディープラーニングを使用して、現実世界で観測されたデータに適合しないルールを減らすことができます。」
Qi Yuan 氏は、金融や保険、風力発電やエネルギー、海運や製薬など、さまざまな業界の複雑なシナリオで AI が中核的な役割を果たすには、体系的な業界知識、推論ロジック、意思決定メカニズムを大規模モデルと組み合わせる必要があると述べています。「グレーボックス」の大規模モデルは、AGI の方向性であるだけでなく、垂直分野に深く浸透し、現実の問題を真に解決するための強力なツールでもあります。「業界の観点から見ると、この理解は非常に直感的です」と Qi Yuan 氏は説明します。医師が弁護士になる必要はありませんし、弁護士が投資の専門家になる必要もありません。各専門職は自分の分野に集中し、生産性ツールを強化すべきです。技術的な観点から見ると、大規模モデルが無関係なタスクを過剰に学習すると、「壊滅的な忘却」が発生する可能性があります。たとえば、李白が詩を書く代わりに会計にすべての時間を費やした場合、詩のインスピレーションは徐々に薄れていく可能性があります。 「垂直ドメインの大規模モデルをトレーニングする場合、モデルが関連のない機能を多く学習すると、元の機能に支障をきたす可能性があることを私たちはすでに観察しています。したがって、垂直ドメイン向けの効果的な「グレーボックス」大規模モデルを開発することは、産業実装において大きな価値があります。」
「『グレーボックス』の大規模モデルは、AGI への道と垂直ドメイン産業の実装において、ますます重要な役割を果たすようになると思います。ベイズの方法論的観点から見ると、既知の知識とデータ内の隠れた情報を組み合わせて新しい法則を発見し、科学的および産業的な問題を解決します」と Qi Yuan 氏は述べています。将来、「AI アインシュタイン」は「AI バフェット」になる可能性もあります。
イノベーションチェーンを結び付け、科学的インテリジェンスイノベーションエコシステムを構築します。
今年の世界人工知能会議で、Qi Yuan 氏のチームは、数千億のパラメータを持つ信頼性の高い金融および医療の大規模モデルを発表しました。これらの垂直ドメインの大規模モデルは、テストで OpenAI の 1 兆パラメータモデル GPT-4 Turbo を上回り、大規模モデルの実装に再び業界の注目を集めました。
「今日の AI のブレークスルーは、基礎原理の革新だけでなく、社会のニーズに対応する製品主導のアプローチによっても推進されています。社会は、理論論文やビジネス モデルの革新の発表だけでなく、第一原理に基づく技術革新と産業革新の深い統合も必要としています。この 2 つの要素が組み合わされば、より広い世界に到達できます」と Qi Yuan 氏は言います。
学術界と産業界の使命は異なります。学術界は新しい現象を探求し、産業界は主に実用的な問題を解決します。世界共通の問題は、研究機関が多くの技術革新の問題に対処する必要があることですが、製品化と社会的ニーズを無視すると、2 つの欠点に直面します。革新的な技術の改良を妨げる真の競争圧力の欠如と、技術研究を導く効果的な市場フィードバックの欠如です。
このため、斉元は長年にわたり「大学-研究機関-新興企業」のイノベーションチェーンを結び付け、基礎技術と市場ニーズの両方を考慮した優れたイノベーションエコシステムの構築を目指してきました。製品の方向性は市場の需要とシナリオによって導かれ、基礎的なイノベーションを通じて製品のコア競争力を構築する必要があります。
SAIRIは2023年に設立され、知識とデータを融合させた独自のAI for Scienceイノベーションに取り組んでいます。最近、SAIRIは新エネルギー、保険、都市管理などの分野に応用されるFuxiシリーズの気象大型モデル2.0を発売し、スマート気象イノベーションエコシステムアライアンスを開始しました。このアライアンスは、Fuxiシリーズ気象大型モデル2.0の産業応用を徐々に促進することを目指しています。「グレーボックス」の信頼できる大型モデルも製品実装が進んでおり、Qi Yuanが設立した信頼できる大型モデル会社Infinite Lightyearがすでに設立されています。
科学情報イノベーションエコシステムをさらに促進するため、上海科学技術委員会、上海発展改革委員会、上海経済情報化委員会、上海教育委員会など複数の部門の指導の下、SAIRIと復旦大学が共同で主催する第2回世界科学情報コンテストが開始されました。このコンテストでは、科学情報の最先端分野を探求する世界中の参加者を募集するために、数百万ドルの賞金が用意されています。さらに、SAIRIは、マルチモーダル科学データをカバーする科学データプラットフォームを開発しました。このプラットフォームは、データ収集と処理から管理とモデリングまでのフルチェーンをサポートし、効率的なデータ処理、信頼性、安全な通信を保証します。このプラットフォームに基づいて、SAIRIとそのパートナーは、生命科学、材料科学、大気科学などの分野でいくつかの高品質の科学データセットを構築し、科学情報研究に貴重なリソースを提供しています。さらに、SAIRIは、中国電信、COSCO海運保険キャプティブ、上海臨港新区越境データテクノロジーなど、10を超える他の組織を含む初期メンバーとともに、グローバル科学データエコシステムアライアンスを開始しました。この連合は、政府、企業、大学、研究機関の協力を通じて、グローバルなマルチドメイン研究ビッグデータリソースのオープン共有プラットフォームを構築することを目指しています。
「科学研究であれ産業界であれ、革新のために革新すべきではありません。私たちは、現実世界の問題を解決する将来のAGIとアプリケーションを構築したいと考えています」とQi Yuan氏は語る。