チャットGPTの父」、サム・アルトマンがGPT-4とAGIについて語る。
2023/04/20 | 4分
-
ヘイリー (コンテンツコミュニケーション)
-
ChatGPT、GPT-4、AGIが気になる方
未来のAIに対するサム・アルトマンの見解が気になる方
-
OpenAIのCEOであるサム・アルトマンがレックス・フリードマンのポッドキャストに出演し、AIについて対談しました。GPT-4やChatGPT、そして人間の一般的な知能を持つAGIに至るまで、AIの発展がもたらす未来の姿を想像させるサム・アルトマンの見解をまとめてみました。
-
✔️ GPT-4とChatGPTで見るAIの未来
✔️ ChatGPTとRLHF
✔️ GPT-4とAGI
OpenAIのCEOであり、チャットGPTの父であるSam Altmanが、人工知能研究者のLex Fridmanのポッドキャストに出演し、GPT-4とAGI(Artificial General Intelligence)について語りました。 今回のコンテンツでは、AIの発展がもたらす未来の姿を想像させるSam Altmanの対談をまとめてみました。
GPT-4とChatGPTで見るAIの未来
サム・アルトマンは、近い将来、人々がGPT-4を非常に初期の人工知能と考える日が来るだろうと言います。GPT-4はまだ多くの作業を完璧に実行するには限界がありますが、今後徐々に発展すれば、私たちの生活に重要な役割を果たすものとして定着するでしょう。 これは、コンピュータが初めて世に出た時もそうでした。 過去に比べて今日のコンピュータの性能は飛躍的に発展し、今ではコンピュータのない日常を想像することが難しくなったように。
では、50年後、人工知能の歴史を扱うウィキペディアのページに現在の時点でのAI発展の転換点を挙げるなら、どのようなGPTモデルが歴史に記録されるのでしょうか？ この質問にサム・アルトマンは「ChatGPT」を挙げました。 彼は、AIの発展はまるで指数関数のようなもので、ある特定の出来事を転換点とするよりも、連続的な曲線の形で発展すると見るのが適切だと言います。ただ、現在までにリリースされたモデルの中でChatGPTを挙げることができる理由は、「使いやすさ」が重要だと考えたからだと付け加えました。 もちろん、基本モデルも重要ですが、RLHF(Reinforcement Learning with Human Feedback)とインターフェースも重要な要素だからです。
ChatGPTとRLHF
ChatGPTは大規模なテキストデータを利用して事前学習されたモデルで、対話型インターフェースが適用され、様々な自然言語処理タスクに活用することができます。ChatGPTはユーザーが入力した文章を理解・分析し、これに基づいて次の単語を予測します。このように次の単語を予測する過程が集まると、文章が完成され、これがユーザーに回答として送信されます。 したがって、言語を表現し、駆使することに特化しています。
このような原理で動作するChatGPTは、「RLHF(Reinforcement Learning from Human Feedback)」を活用して性能を高度化しました。
RLHFは人間フィードバックベースの強化学習で、人間のフィードバックを通じて言語GPT-4のような大規模言語モデルの精度と関連性、公平性を高めることです。 例えば、ディープラーニングモデルが大規模なテキストデータセットで学習を行い、これに基づいてモデルが二つの結果物を見せると、どの結果物がより良いか人間がフィードバックをする形式です。Open AIは、より良いモデルを作るために、様々なソースから事前トレーニングデータを集めることに力を入れているそうです。
ChatGPTがユーザーの質問を理解し、自然な会話ができるようになったのも、RLHFがポジティブな役割を果たしました。サム・アルトマン氏は、ChatGPTのようなRLHFモデルを作ることはまだ始まったばかりですが、このような強化学習を通じて、以前よりも少ないデータでモデルをはるかに強力に作ることができるのが特徴だと述べました。 また、この過程を経ることで、ディープラーニングモデルを少しだけ訓練させた状態でも、後で完全に訓練されたときの特徴を事前に把握することができ、これはまるで一歳の赤ちゃんが将来SAT試験でどのような成績を収めるかを知ることができるようなものです。 それだけモデルの様々な側面を詳細に調査し、分析することで可能なことでもあります。
GPT-4とAGI
「GPT-4は人類が生み出した最も複雑なソフトウェアである」という言葉があります。実際、GPT-3とGPT-3.5は1,750億個のパラメータ(パラメーター)を通じて運営されており、GPT-4のパラメータ数は公開されていませんが、これよりはるかに多くの量をベースにしていると思われます。
言語モデルのサイズ (出典：Dr Alan D. Thompson, LifeArchitect.ai (Apr/2023))
しかし、サム・アルトマンは数十年後には、このような数千億個のパラメータを持つモデルが、誰もが日常で簡単に作れるサイズになると言います。もちろん、これはGPTが学習を通じてインターネット上にある人類のすべてを圧縮したのと同じなので、まだこのパラメータのサイズを調整することは非常に複雑なことです。 このように膨大な量のオンラインデータを通じてAIを学習させれば、どの程度まで人間に近づけることができるのでしょうか？人間ができるあらゆる知的な業務を成功させることができる、人間の一般的な知能を持つ人工知能を「AGI(Artificial general intelligence)」と呼びます。
サム・アルトマンは、今後AGIを作るには様々なものが必要ですが、「LLM(Large Language Model)」が一部役割を担うことになると述べています。GPTのパラダイムを拡張しなければ、科学的に新しい発見が可能だということです。 今後、GPTがさらに発展し、私たちの社会に深く浸透したらどうなるでしょうか。 すでにGPTを活用してプログラミングするなど、私たちの日常のあちこちにAIが入っていますが、今後AIは私たちの能力をさらに増幅させることができる最も有用なツールとなり、多くのタスクの自動化を実現するでしょう。
これにより私たちの生活の質は驚くほど向上するでしょうが、一方でAGIに対する懸念の視線も存在します。アメリカの人工知能研究者であるEliezer Yudkowsky(Eliezer Yudkowsky)は、AIが超知性を持つようになれば、AIを設計者の目的や好みに合わせて調整するAI alignmentがほぼ不可能になると言います。これに対し、サム・アルトマンは、このような懸念状況が発生する可能性を認めることは重要であり、潜在的な脅威を解決するために新しい技術を研究・開発しなければならないと述べました。
AIの急速な発展速度から「AI takeoff」という言葉も登場しましたが、現在のAI Safetyはまだ十分に更新されていないため、人々の技術に対する理解を深め、改善し、試行錯誤し、AI alignmentに備えることの重要性を強調しました。
ChatGPTやその他のオンラインサービスが100万人のユーザーを集めるまでにかかった時間 (出典:https://www.statista.com/chart/29174/time-to-one-million-users/)
全世界にAIブームをもたらしたChatGPTは、100万人のユーザーを集めるまでわずか5日しかかかりませんでした。 これは史上最速で成長したオンラインサービスという大記録です。 日々発展するAIによって、私たちの日常は今後どのように変化するのでしょうか。私たちは今、AGIの具体的な定義が重要になる段階に入っています。サム・アルトマンが今回の対談で言及したように、より良いAIモデルを作りながら、急速な発展によって起こりうる状況に備えることができるように、安全なAIモデルの開発方式とガイドラインを構築することを一緒に考える必要がありそうです。
-
-
2020年10月に設立したアップステージは、画像から目的の情報を抽出して利用できるOCR技術をはじめ、顧客情報と製品・サービスの特徴を考慮した推薦技術、意味ベースの検索を可能にする自然言語処理検索技術など、最新のAI技術を様々な業種にカスタマイズして簡単に適用できるノーコード・ロックコードソリューション「Upstage AI Pack」を発売し、顧客企業のAI革新を支援している。Upstage AI Packを利用すれば、データ加工、AIモデリング、指標管理を簡単に活用できるだけでなく、継続的なアップデートをサポートし、常時最新化されたAI技術を便利に使用することができる。また、AIビジネス経験を溶け込ませた実習中心の教育と堅実なAI基礎教育を通じて、AIビジネスに即座に投入できる差別化された専門人材を育成する教育コンテンツ事業にも積極的に取り組んでいる。
アップステージはGoogle、Apple、Amazon、NVIDIA、Meta、Naverなどのグローバルビッグテック出身のメンバーを中心に、NeurPSをはじめ、ICLR、CVPR、ECCV、WWW、CHI、WSDMなど世界的権威のあるAI学会に多数の優秀論文を発表し、オンラインAI競進大会Kaggleで国内企業の中で唯一2桁の金メダルを獲得するなど、独自のAI技術リーダーシップを確立している。アップステージのキム・ソンフン代表は、香港科学技術大学教授として在職しながら、ソフトウェア工学と機械学習を融合したバグ予測、ソースコード自動生成などの研究で最高の論文賞であるACM Sigsoft Distinguished Paper Awardを4回受賞し、International Conference on Software Maintenanceで10年間最も影響力のある論文賞を受賞した世界的なAIの教祖と言われ、合計700万ビュー以上を記録した「みんなのためのディープラーニング」講師としても広く知られている。また、アップステージの共同創業者には、Naver Visual AI / OCRをリードし、世界的な成果を出したイ・ヒョルソクCTOと世界最高の翻訳機パパゴのモデルチームをリードしたパク・ウンジョンCSOが参加している。
