Zhihu で、ChatGPT の変革の最初の光を見た

変更があれば、Zhihu が対応します。

「ChatGPT」を検索すると、トランペットの音が聞こえる最前線に瞬時に移動したかのようになります:

イノベーション ワークス チェアマンKai-fu Lee 氏は、ChatGPT 以降の時代における救いを要約します 自分の職業に対する普遍的なルール;

DeepLearning.AI 創設者 Andrew Ng 氏は、狂信よりも倫理的および法的な疑問を優先するよう人々に思い出させます。

一流のテクノロジーの創設者である Yuan Jinhui 氏は、研究する必要がある緊急の課題は、人間が生成したテキストと ChatGPT が生成したテキストをどのように区別するかであると感じています。

『デジタルサバイバル』の著者で北京大学ジャーナリズム・コミュニケーション学部の胡永沢氏は、座談会生放送「知超8時30分」で、人工知能の発展方向について次のように提案した。必ずしも「人間らしく」ある必要はありませんが、人の能力を高めるためのものでなければなりません;

...

スルー中国インターネット上の質の高い Q&A コミュニティには、質疑応答、トピック、ラウンドテーブル、アイデア、ホットトピックのライブブロードキャストなど、業界のリーダーが次々と登場し、投資家、研究者、起業家、実務家が互いにつながりを持っています。 ChatGPT のフロンティアのあらゆる側面を探索し、その発見が将来に及ぼす影響について考えるためです。

Zhihu 上の「ChatGPT」トピックの人気は、わずか 4 か月で、2015 年以来「AlphaGo」トピックが樹立した記録を破りました。現在のディスカッション量は 220,000 に達し、総再生回数は3億8000万回に達しました。

#このトピックは非常に人気があり、プレゼンテーション方法も万能かつ多面的です。

1. 開始の力

2023 年 1 月 2 日、プリンストン大学のコンピューター サイエンスの学生が GPTZero をリリースしました。迅速かつ効率的に」は、記事の著者が人間であるか ChatGPT であるかを解読します。

ニュースを見た後、Zhihuの回答者「Kaspital」は攻撃されているように感じました。 ChatGPTの立ち上げから10日後、上海財経大学情報管理工学部AI研究室博士課程3年生の「グラスポッド」郭碧陽氏はすでにこの取り組みを開始している。 「実際、ChatGPT 検出器を最初に作り始めたのは私たちです。チームです」と彼は言いました。

リリースから 1 週間以内に 30,000 人以上が GPTZero を試しましたが、アプリは一時的にクラッシュしました。郭碧陽は緊張した。当初の計画では、検出器に加えて、8 人からなるチームが手動評価と言語統計分析も行う予定でした。明らかに、もうこれ以上待つことはできません。

既存のデータセットを使用していくつかの検出器をトレーニングした後、1 月 11 日に中国初の ChatGPT 検出器である Zhihu のデモをリリースしました。春節が近づいていたが、家族とおしゃべりをしたり昔を思い出したりするはずだった郭碧洋さんは、誰にも注意を払わず画面を見つめ続けた。 「家族は、私たちが何か大きなことをやろうとしているのではないかと感じています。」

私たちはテクノロジーの反復がますます速くなっている業界にいます。最も恐ろしいのは、テクノロジーが漏洩したことではなく、ChatGPT の革命的な進歩はおろか、あなたのテクノロジーとあなたを理解する人が十分にいないことです。

「AI サークルの人々は自分の仕事を宣伝したいと考えており、多くの人が Zhihu に行くことを選択します。仕事は全員に回覧され、より多くの人が参加しやすくなります。ディープラーニングのテーマに関して優れた回答者であり、10 年間にわたって「年齢に精通している」Xie Lingxi 氏は言いました。

Guo Biyang と彼のパートナーがデモを開始するために時間と競っていたとき、ChatGPT に関連する一連の作業も Zhihu に掲載されました。

PENG Bo、人工知能のトピックに関する優れた回答者、ChatGPT をオープンにベンチマークするオープン ソース プロジェクト ChatRWKV著者は Zhihu におり、より多くの人々がエコシステムの共同構築に参加するよう呼びかけています。

# 2 月末、自然言語を使用して Excel の作業を指示する最初の作品である ChatExcel が Zhihu で独占的に公開されました。

しかし、その後のコミュニティからのフィードバックに Guo Biyang は驚きました。

公開前に 2 つの検出器を比較しましたが、これらはデータセットでトレーニングされていたため、検出器の実際の効果は GPTZero よりもはるかに優れていました。 First-Class Technology の創設者である Yuan Jinhui 氏も、Zhihu 上で人間が生成したテキストと ChatGPT が生成したテキストを区別する方法について「これは緊急の問題です」と語った。 ＃当初は、この作業は無意味であるという議論が続きました。

「私たちは、ChatGPT によって生成されたフェイク ニュースではなく、フェイク ニュースの検出に重点を置いています。分類器が ChatGPT によって生成されたフェイク ニュースのみを処理できる場合は、変更します。

「磨きをかければ ChatGPT として検出されるのを回避できる」と考える人もいます。

Guo Biyang 氏は個人的に対応することにしました。 「私たちの探知機は効果がないと言えますが、探知機が無意味だと言うなら、私には意見があります。法律には抜け穴があり、無法者は法の抜け穴を利用することができます。これは本当ですか？」法律が無意味ということですか?」

人々が検出を避けるために ChatGPT コンテンツを磨き、変更すると、検出器の役割が果たされます。さまざまな規制を回避する方法は一万通りあり、私たちにできることは「無責任のコスト」を増やすことだけです。

時間が経つにつれて、サポートと励ましの声が増えます。

「検出器の価値は人によって異なりますが、個人的には、このデータセットの方が価値があり、興味深いことができると思います。」 誰かが言いました。

中国情報通信技術院クラウド研究所コンテンツ技術部の研究員であるフー・ナイイン氏は、『知報8:30』で次のように述べている。 「現時点でのアンチチート技術に関する座談会の生放送。この技術が ChatGPT ほど強力ではないのは事実であり、「いたちごっこ」が起こるのは避けられません。しかし、最終的には悪魔が常に優れています。作品を出版するということは、複雑なシステムに入るという選択をすることです。いわゆる複雑さは、それが線形ではなく、期待どおりに動作しないことを意味します。多くの次元と変数があり、予測するのが困難です。したがって、「不意を突かれる」部分もあるでしょうが、利点や利点もあります。予期せぬ驚きさえも。

現在、Guo Biyang チームの検出器には Github 上に 6,700 個のスターが付いています。データセットとモデルは数万回ダウンロードされた可能性があり、記事は 2 か月足らずで 20 件引用されました。 「これまでは考えもしなかったことです。」と彼は感慨深げに言いました。「（記事の引用数の増加率は）私のこれまでのどの記事よりも速いです。」 Zhihu での独占的な最初のリリース WPS が ChatExcel の背後にあるチームと連絡を取るまでに時間はかかりませんでした。オープンソース プロジェクト ChatRWKV は、大手テクノロジー メディアでも報道されています。

Zhihu システムの複雑さは、予測が難しいことに加えて、ある種の適応性も備えています。作品を公開するとシステムが変更され、その結果、システムが製品を調整します。または研究。

2022 年 11 月、Xie Lingxi のチームが重要な論文を arXiv プレプリント Web サイトに掲載した後、その論文はすぐに Zhihu にも掲載されました。そのタイトルには大きな気象モデルが示されていました。「中国のために」初めて、長期天気予報の精度が従来の数値的手法の精度を上回りました。」

「タイトルを見てすぐに元の記事を読みました。」読んだ後、あるネチズンは記事の功績に感謝の意を表しました。コメント エリアでチーム メンバーと議論した後、彼女は自分の意見を共有しました:

「AI モデルの入力は ERA5 (観察とモデルから同化された分析フィールド) から来ています」モデル予測も使用します。モデルが予測しない場合、ERA5 (つまり AI の入力) が存在しないため、モデルは引き続き実行する必要があり、モデル予測に代わる独立した代替手段はありません。現在は、（従来のモデルがAI予測を同化）>（従来のモデルが従来のモデルを同化）予測）となっています。

AI 大規模モデルは ERA5 データでトレーニングされています。 ERA5データは、さまざまなソース（地上、船舶、無線測深、風船、航空機、人工衛星など）からの観測データの品質管理と同化を通じて得られた完全な再解析データセットである再解析データセットです。

ここでの同化プロセスは、一部の観測データを標準的なグリッド気象データに変換することです。これらの技術をカバーせずに、従来の数値気象予測手法 (NWP) を超えると主張するべきではありません。

「はい、これにはかなり時間がかかります。最初の問題は、データの入手が難しいようです (そのため、国内外で関連する作業がほとんどありません)。」チームメンバーも同意する。

実は、「AIにはまだできない、つまりAIはまだ正式にこれをできるようにしていない。主な理由はデータがないことだ」 」 謝玲西さんは後で私たちに説明してくれました。そのためには、AI の入力側で衛星や気象観測所などのデータを取得する必要がありますが、これらのデータはどこの国であっても機密性が高くなります。

「欧州気象センターが数十年分の同化データを公開したおかげで、私たちはこの作業を完了しました。」

すぐに、Xie Lingxi が更新しました。 「私たちはこの意見を受け入れます。これは「数値天気予報の分野」全体を指しているわけではありません。Pangu は初めてデータを取り込む点で従来の方法を超えました。公平性を確保するために、NVIDIA FourCastNet とまったく同じテスト環境を使用しました。」

この研究が発表された後、Xie Lingxi のチームは、中国気象局からの報告書を含む多くの交流の招待状を受け取りました。欧州気象センターからも連絡を受けた。欧州気象センター内では、既存技術の多くがAIに置き換わるという議論が盛んに行われていると言われている。

いくつかの企業は、テキスト プラットフォーム上で関連機能を開始する可能性を探るために、Guo Biyang に連絡を取りました。 『私たちのアルゴリズムは、主にモデルの堅牢性を高め、より多様なデータを収集することによってまだ改善されており、次世代モデルがより効果的になることを期待しています。

』

Zhihu ネチズンからのフィードバックを受け入れます最後に、これが郭碧陽の次の目標です。 2.「52ヘルツのクジラ」との遭遇 研究者たちはまず研究を立ち上げようと急いでおり、資本もAI大型モデルの人材を集中的に「殺し」ている。

3 月 27 日午後 11 時、WeChat を通じて静かにメッセージが届きました。一流テクノロジー企業である王輝文と袁金輝が、中国版 OpenAI を作成するという合併の意向に達しました。 。

大規模言語モデル (LLM) の分野では、かつては多くの人が最も重要ではないと考えられていたフレームワークですが、その価値は軍事戦略家が競争しなければならないところまで高まっています。 「今や、これは基礎技術に真に集中している国産モデルのようだ。」 Zhihuの関連トピックをフォローしていたテンセントのAIアルゴリズム専門家はため息をついた。

6 年前、Yuan Jinhui はマイクロソフト リサーチ アジアを退職し、ディープ ラーニング フレームワークを作成するビジネスを始めました。当時の状況は、有名な「52ヘルツのクジラ」の状況と何ら変わりませんでした。

アルゴリズム アプリケーションと基盤となるハードウェアを継承するディープ ラーニング フレームワークは「人工知能オペレーティング システム」と呼ばれ、スタートアップにとっては想像もつかないほどのケーキです。 Google のディープ ラーニング フレームワーク TensorFlow は、その大きな影響力と強力なプロモーション力により、当時すでに最も多くのユーザーを抱えるディープ ラーニング フレームワークでした (Pytorch はまだ初期段階でした)。

Google は非常に大きな会社で、何百人もの従業員が同じことをやっているのに、どうやって他社と競争できるのでしょうか?低レベルのソフトウェアを実行し、非常に強力な競争相手が存在し、オープンソースである...当時袁金輝が最も聞いたのは、「卵で岩を叩く」と「カマキリの腕を荷車として使用しようとする」というものでした。

52 Hz の周波数は既知のクジラ種の周波数よりもはるかに高いため、科学者たちはクジラが米国の軍事機器によって検出されたと考えています。他のクジラはその鳴き声を拾うことはできません。

#システム ソフトウェアの開発サイクルは非常に長いです。深層学習フレームワーク OneFlow がオープンソース化されるまで、2016 年の発表から 2020 年 7 月まで 4 年かかりました。完成したシステム ソフトウェアがリリースされるまでは、不確実性が高く、フィードバックが不可能であるというプレッシャーに耐えられず、優秀な同僚の何人かが辞任しました。

実際、テクノロジーがシステムのこれほど深いレベルに到達すると、それに共鳴する「クジラ」の数は自然と少なくなります。袁晋輝は志湖で、自分と同じように根本的な問題に関心を持つ人々を今でも見つけた。

Zhihu ネチズンの多くは、Weibo 時代の「Teacher Mu」（袁晋輝の Weibo 名）を知っています。 「Jinhui は Weibo に特に興味深いニュースを書いていましたが、誰もがこの男が誰なのかについての噂を広めていました。」と Nvidia の AI コンピューティング アーキテクチャのテクニカル ディレクターである Yang Jun 氏は思い出します。袁晋輝が起業して間もなく、楊俊も転職を考えており、二人は志胡を通じて知り合った。

Yuan Jinhui の頭の中では、Yang Jun は機械学習と深層学習 (ディープ ラーニング) のトピックに関する優れた回答者であり、2022 年の新しい知識の回答者の友人です。彼はすべての内容を着実にアウトプットしてきました。質の高いコンテンツであり、私は彼の考え方から多くの恩恵を受けてきました。

ヤン・ジュンさんにとって、袁金輝さんは比較的話しやすい友人でもあります。 Yang Jun 自身も、2 つの主流の深層学習フレームワークを比較分析し、なぜ現段階で AI フレームワークの開発に莫大なリソースを投資する意欲のある企業が存在するのかを分析しました。

Google が 2019 年に MLIR をリリースしたとき、深層学習コンパイラーのトピックは大きな注目を集めました。すぐに2人は「GoogleがMLIRプロジェクトに注目していることについてどう思いますか？」という質問に登場し、次々と意見を交わした。

Yuan Jinhui は当時 MLIR をあまり高く評価しておらず、コンパイラとコンパイラの概念は少し冗長だと感じていました。 MLIR は、深層学習コンパイラを作成するための足場を提供するだけであり、深層学習コンパイラの特定の問題は解決しません。

Yang Jun は MLIR は良いことだと考える傾向があります。 「MLIRの貢献、価値、欠点に関する彼の分析は、今でも私に感銘を与えています。」と袁金輝氏は語った。

思考と議論が深まるにつれ、Yang Jun は新しいアイデアや成果を盛り込んで最初の回答を更新し続けました。 Yuan Jinhui は認知的な柔軟性も維持しています。 2022 年に、Yuan Jinhui は元の回答を再び更新し、「過去 2 年間の開発は、MLIR が『足場』を提供していることを示しています。これは非常に意味があります。」

人々には同じような趣味を持つ人々とコミュニケーションし、衝突する環境が必要ですが、Zhihu の特性はそれを実現します。ヤン・ジュンはこの素晴らしい運命を説明しようとした。たとえば、自分の質問や興味、記事をたどっていくと、「もっと話してもいいかな」と自然に判断できます。

OneFlow がオープンソース化された後、一部のネチズンは「突然悟りを開き、これまで苦労していた問題のいくつかにそのような解決策があることを発見しました。」と称賛する人もいます。フレームワークのデザインが「新鮮」です。デザインの美しさがサードパーティの開発者や学生にも理解されたとき、Yuan Jinhui 氏は「小説を書いて読者がそれを評価してくれたようなものです。」と感じました。 ChatGPTのせいで不安に陥った彼を救ったのは、この「人と人のつながり」だった。

彼は Zhihu を通じて「孤独な AI 研究者」のグループを結成しましたが、彼の仲間の多くも ChatGPT の「Sophon」の影で生きていることに気づきました。彼が探知機プロジェクトの協力者を見つけたのもそこでした。 40 日以上の懸命な作業の後、8 人は最初から粘り強く取り組み、感染症の混乱の最中でも誰も諦めませんでした。

彼らは自分たちを取るに足らない研究者だと呼んでいますが、自分たちの行っている研究が重要な仕事であることを望んでいます。

Zhihu の別のコーナーでは、Xie Lingxi が共有した情熱的な時代が 32,000 件の「いいね」を獲得しました。

「中国が MATLAB や SolidWorks のようなソフトウェアを再開発するにはどれくらい時間がかかりますか?」 3 年前の質問により、彼は長い間忘れられていた過去の出来事を思い出しました。

10 年以上前、清華大学数学学部の数人の学生が、Mathematica に匹敵する科学計算ソフトウェアを作成したいと考えていました。最も広く使用されている数学ソフトウェア。情報工学科の寮の建物に募集広告が貼られていましたが、誰も見向きもしませんでした。そんなとき、Javaを学んだばかりで数学科からコンピュータ学科に転校したばかりの後輩、Xie Lingxiさんが入社を志願してきた。 4か月以上にわたって数え切れないほどのドキュメントを書き、ついにプロトタイプが完成しました。次々と栄誉が続き、最終的には「チャレンジカップ」全国特別賞を受賞した。

「おそらく、情熱を持って大規模システムに取り組むだけで、私たちのプロジェクトは最高の結果をもたらすことができます。成熟したビジネス モデルや健全な生態系がなければ、プロジェクトは長期的に発展することはできません」数年後、謝玲西さんは答えの中でプロジェクトの商業化について語った。

「私たちの経験には前向きな意義があります。少なくとも、いつの時代でも、夢を追い求める勇気のある若者が不足していないことを証明しています。」

3. 「何百万もの宝物」を探して

袁金輝とファーストクラステクノロジーは、AI 大型モデルという新しいトラックに分類されます。求人サイトで ChatGPT 関連のポジションに提示される最低月給は 20,000 元、最高月給は 100,000 元です。 levels.fyi は、OpenAI が AI/ML ポジション (L5) に 90 万米ドルという高額の給与を提供していることを示しています。

一夜にして、数学、コンピュータサイエンス、統計学の博士号取得者が次々と輩出され、資本が追いつけなくなった6年前の時代に戻ってしまった。当時、Zhang Yiming 氏は、機械学習のトップ人材を採用するために Weibo で 100 万米ドルの報酬を提供しました。シリコンバレーでは、技術的な専門知識を持つ一部の上級管理者は、大手上場企業で働けば、数百万ドルの年収 (株式インセンティブを含む) を得ることができました。米ドル ("Millions of Baby")

当時、会社のアルゴリズム チームを構築するために、卒業してチーフになったばかりの Zhihu 回答者が、 TuSimple の科学者Naiyan Wang (王 Naiyan) もその人材戦争に参加しました。しかし、彼は別のアプローチをとり、「あなたが面接官だったら、面接官の深層学習レベルをどのように判断しますか?」と答える際に Zhihu にヒーロー投稿を残し、これら 3 つの質問で対象者の「8 つの成功」をテストできると主張しました。

##CNN の応用で最も成功しているのは CV ですが、なぜ NLP や音声の多くの問題が CNN を使用して解決できるのでしょうか? AlphaGo でも CNN が使用されるのはなぜですか?これらの無関係な質問の間にはどのような類似点があるのでしょうか? CNN はこの共通点をどのように捉えたのでしょうか?

#もう 1 つの質問ですが、多くのフェイス ペーパーが最後にローカル接続コンバージョンを追加するのはなぜですか。

これら 3 つの質問は典型的な教科書の質問ではありません。TuSimple の自動運転が「新種」であるのと同じように、先駆的な探査には多くの場合ブレークスルーが必要です。参考資料であり、既製の答えはありません。一見無関係に見えるものの間のより深いつながりについての洞察を得ることによってのみ、アルゴリズムエンジニアは虚偽を除去して真実を保持することができ、アルゴリズムツールをより効果的に使用して現実のビジネス問題を解決できるようになります。

「これは優れたスクリーニング質問であると言うべきです。」 当時まだ Facebook の人工知能科学者だった Jia Yangqing 氏は、次のように明らかにしました。彼の答えの美しさは、「これには非常に本質的な質問が含まれています。問題は、なぜ畳み込みが機能するのかということです。」この質問に答えるには、正則化、統計、プログラミング、さらには神経科学など、多くの角度があります。さまざまな角度からの回答が反映されます。被験者の深い学習体験をさまざまな側面から観察します。

3 つの質問に対する誰かの答えが基本的に正しい場合、その人は CNN オンラインを理解しており、Wang Naiyan が探している人物であることを意味します。

回答が次々と返され、進行状況バーが長くなり続けました。 「近いですが、正確ではありません」、「基本的に信頼できます！後ほど人事がご連絡します」、「ご興味がございましたら、**まで履歴書をお送りください」など、基本的に関係ない回答にも王内燕は対応しますが、その他の回答は以下にあります沈黙。予想通り、80% の人は畳み込みニューラル ネットワークがなぜ機能するのかを知らず、オープン ソース コードを実行するためのツールとしてしか考えていません。

日本の名門大学で修士号を取得したことが、Wang Naiyan さんの目に留まりました。 「私は清華大学で学士号を取得し、日本で修士号を取得した後、仕事を探していました。彼の答えは私が考えていたことと非常に近かったです」と王内燕さんは語った。その後の面接もとても良かったので、すぐにオファーを送りました。これは、TuSimple に採用された最初のアルゴリズム エンジニアの従業員です。現在、彼は同社の日本事業の責任者です。

インターネットは、「近く」という地理的な意味を、「近く」というデジタル的な意味に変えました。一歩離れた隣人のことを知らないかもしれませんが、Zhihu のような複雑なテクノロジーで構築された抽象システムに対しては高い信頼を寄せています。多くの本物の AI 起業家チームにとって、人材を獲得するために個人チャネルにさらに依存する必要がある場合、これは多くの場合良い選択です。

Wang Naiyan 氏がアルゴリズム エンジニアを探していた一方で、Yuan Jinhui 氏も深層学習フレームワークを開発する人材を熱望していました。 Zhihu に登録した後、Yuan Jinhui が最初にしたことは、自分たちの作品を「宣伝」することでした。 Yuan Jinhui の記事ややり取りを見て、大手インターネット企業だけでなく、スタートアップ企業も基礎となるアーキテクチャを実行できることに気づいた人もいます。この方法で、インターンを含む一流テクノロジーのフルタイム同僚数名が Zhihu から採用されました。

#袁晋輝が主導権を握ることが多くなります。興味深く洞察力に富んだ回答を見つけた場合、彼は他の人の Github をチェックして、より包括的な理解を試みます。お気に入りの人たちを「掘り出す」のに失敗した人もいましたが、みんなは徐々に友達になり、会って意見を交換するようになりました。

#自分の分野で長く取り組むほど、より多くの記事を書き、より多くの質問に答え、コミュニティからのフィードバックもより良くなります。複数の企業のインターンシップ職の面接を受けた学部生は、「中国の学部生に適したシステムまたはコンパイラのインターンシップ職はありますか?」と答えました:

「彼ら、私はあなたがテクノロジー/コーディングを究極に追求しているのを見ました。ユアン氏のワンフローは非常に奥深い会社だと思います。面接中、私はワンフローの面接官と午後にCと並列コンピューティングについて直接話しました。さまざまな最適化、sso、スタック/動的メモリ、さまざまなテンプレート、関数型スタイル プログラミング、および最近の ml システム論文などの技術。

Wang Naiyan は常に控えめですが、Zhihu では特に積極的に記事を執筆し、テクノロジーを共有しており、ディープラーニングの分野でも優れた回答者です。 、機械学習と人工知能。彼をフォローしているファンの多くはコンピューター サイエンスの学生であり、その多くが「フォロー」を通じて最終的に TuSimple のメンバーになりました。 TuSimple では現在、 アルゴリズムのポジションに多くの学部生を配置していますが、これは多くの企業では不可能です。

#実際、とても良いです。王内燕氏の見解では、大手インターネット企業の採用モデルに従えば、華やかな学歴や輝くような論文を持たない一部の「原石」は、厳しい基準によって直接ふるい落とされてしまうだろう。

# 「多くの場合、その人が何を持っているかはそれほど重要ではありません。私たちはその人の基本的な能力や可能性、自己思考や熱意を持っているかどうかをより重視します。

現在、Wang Naiyan は今でも Zhihu から人材を探しています。しかし、起業の初期段階と異なるのは、人々がより受動的に起業を探すようになるということです。 「フォローしている人であれ、情報ストリームであれ、推奨事項であれ、多くの無効な情報をフィルタリングするのに役立ちました。」 Wang Naiyan 氏は次のように述べています。「本当に役立つ情報は、情報ストリームに繰り返し表示されます。」

通常、彼は注目のトピックを閲覧し、興味深い回答をクリックして詳細を確認します。会社のニーズに合致する場合は、人事部に異動する予定だ。

テクノロジーがどんなに発展しても、上位 1% の人々は変わりません。彼らの熱意とテクノロジーに対する確固たる信念は、依然として彼らが最も大切にしているものです。

4. Echoes of Time

ChatGPTのリリース後、突然現れたZhihuアンサー「トリンクル」「OpenAIのスーパーダイアログをどう評価するか」モデル「ChatGPT?」という質問の下で、彼は「ChatGPT トレーニングの全プロセスに参加できて幸運だった」と明かし、将来の世界についての考えを述べました。 ##「AGI の後に何が起こるか想像し始めることができます。世界、私は数か月間それについて考えてきました....」

回答は一番下の OpenAI の公式 Web サイトの謝辞で、「Jiayi Weng」が貢献者のリストに表示され、強調表示されていました。人々は徐々に「Trinkle」が呼ばれることを知りましたウェン・ジャーイー。彼は、過去 2 年間で修士号を取得した OpenAI 初の新卒社員であり、チーム内で最年少の研究開発エンジニアの 1 人でもあります。

#現在、この回答には 3,000 件以上の「いいね！」が付いています。彼がかつて OpenAI に近づけないと感じていたことを知る人はほとんどいないが、「卒業後に履歴書を提出したときも、私には近づけないと思った」と語った。

#Weng Jiayi がプログラミングを始めたのは中学 1 年生のときで、当時は数学オリンピックに重点を置いていて、プログラミングを学ぶこと自体が目的でした。彼の数学的アイデアを拡張するために。プログラミングの魅力を実感したのは、高校で福州第一中学校に入学してからです。

#当時、彼は Card Constant をとても気に入っていました。 「修正された問題が与えられた場合、大量のコードを書き、同じアルゴリズムを書き、同じ時間計算量にすることができます。しかし、私はいくつかのものを調整して、同じアルゴリズムを他のものよりも速く実行することができます。」 この種の PK は、彼を非常に興味深くします。いいですね、達成感。

当時、福州第一中学校の情報グループには内部判定システム (OJ) によるオンライン評価があり、そこにはさまざまな歴史的記録が含まれていました。 Jiayi は 3 番目の Will 停止に一度到達することがよくありました。

#高校 2 年生のとき、Weng Jiayi は数学からプログラミングに完全に焦点を変えました。 「清朝と華北の国交回復」に参加するため、情報オリンピックへの参加を決意した。当時、情報グループの多くの学生がZhihuをプレイしており、彼もアカウントを登録しました。その時は、数年後に自分が「高校3年生から志胡を始めた天才少年」として多くのネットユーザーの目に触れることになるとは想像もしていなかったでしょう。

#AlphaGo が李石施を破った年、ウェン・ジャーイーも希望通り清華大学に入学しました。情報オリンピックでの成績が悪かったため、1年生の時に学科全体のGPAトップ10を達成してコンピュータサイエンス学科に転校した。私は2年生の時に強化学習に取り組みました。

#Zhu Jun 教授と 1 対 1 のチャットで会ったとき、Zhu Jun 教授は彼に「自分は何をしたいのですか?」と尋ねました。このグループには、ベイジアン、敵対的トレーニング、強化学習という 3 つの方向性があります。彼は強化学習を選択しましたが、当時は強化学習が何なのか知りませんでした。

「最初は GAN (敵対的トレーニング) に似ていると思いました。」それを選んだ後、ゲームをプレイしたいと思いました。まず手始めに、彼はその後たくさんのゲームをプレイしました。

# 高校時代は汪嘉儀が主にダイビングして知湖に関する情報を収集していたとすれば、清華大学入学後はもっと共有したいという欲求が高まった。おそらくこれは、彼が高校時代に設定した人生の目標、つまりより多くの影響力を持ち、より多くの人を助けることに関連しているのかもしれません。これらはすべて、機械や人とのつながりを必要とします。

#彼が Zhihu でリリースした最も重要な作品は、彼の上級卒業プロジェクトである強化学習アルゴリズム ライブラリ Tianshou (天寿) です。それはこれまで彼に最も大きな影響を与えました。その後、私は Open AI で働くことができ、この「最初の仕事」の経験からも恩恵を受けました。

Tianshou のオリジナル バージョンは、2 年前に Tensorflow を使用して研究室の 4 人によって作成されましたが、非常に遅く、多くの人に使用されていませんでした。彼は内部のコードの一部をリファクタリングしようとしましたが、うまくいきませんでした。その後、すべてを廃棄して最初からやり直しました。フレームワークの合理化によってもたらされる利点は、コード レベルだけでなく、パフォーマンス レベルにもあることがわかりました。

この仕事が公開された後、目の鋭いネチズンがこれを発見しました:

##" dqn などの同じアルゴリズムも pytorch ですが、あなたのコードはなぜそんなに速いのですか? これら 2 つの部分を除けば、他のコードのロジックも似ているように感じます。」

「コードにも魂があります (逃げてください、それは実装の詳細です...」と彼は言いました。

##あの時は「もし私が影響力を持つためには、研究面で成果を上げるよりも、基礎的なことを書いたり、エンジニアリングで成果を上げたりする必要がある」と彼は言いました。 ##AI 分野では、研究者のエンジニアリング能力が不十分なためか、低品質な実装が多くありますが、エンジニアリングの知見を研究に持ち込めば、また違った成果が得られるでしょう。

自分の仕事の影響力を拡大することに加えて、Weng Jiayi は清華大学の学部生活に関連するトピックにも積極的に参加したいと考えています。清華大学のコンピューターサイエンスとテクノロジーは最高です。どのような経験ですか？」という質問は彼の痕跡を残しています。混乱から抜け出し、徐々に方向性を強化した過去が、彼の答えは今でも人気があります。

「この種の精神がまさに私に必要なものだと感じています。私はあなたの空飛ぶ雌犬に狂ったように拷問されそうです。」 清華大学の卒業生は自分の声を表明しました。

# 「自分が他人より劣っていることを認め、自分自身と和解することを学びましょう。」 ウェン・ジャーイーは高校時代、どんなに一生懸命勉強しても、 「情報オリンピックでも、文化の授業でも、いつも高いところから彼を見守っている人たちがいました。大学の最初の 2 年間も同じでした。私の英語はルームメイトほど上手ではありません。常に何人かの人がいます。」

「評価指標の定義を学び、群衆に従うのをやめるべきです。」これが彼の提案でした。 3 年生になると、Weng Jiayi は評価指標を完全に変更し、当初の意図に戻りました。 「個人的なプロジェクトを書くとき、自分が芸術作品を作っているような気がします。」コードを書くことについては、オープンソース プロジェクトに対する私の愛も影響を与えました。

新しい現場に移動するたびに - 春採用、秋採用、博士課程申請、中国でのインターンシップのポジションを探しています- 彼は自分の経験を共有することを恥ずかしがりません。複数のオファーを手に入れた喜びや、博士号を申請する際に「全聚徳」に拒否された悲観的な理由であっても、答えるたびに、彼は高い人気を獲得します。

#現在、Weng Jiayi は 33 件の回答を提供し、3 件の記事を公開し、20,000 人以上のフォロワーを獲得し、合計 28,966 件の「いいね！」を獲得しました。これらの数字は、「自分の力でより多くの人を助ける」ということを多かれ少なかれ数値化したものです。 Q&A で、彼は何百もの企業に投資した自身の経験を共有し、この回答の最後に「選択は努力よりも重要です」と書き、1,000 近くの「いいね！」を獲得しました。

もし私が現在の環境に基づいて最適な決定を下さなかったら、情報学コンテストに参加せず、集中学習を選択し、留学に応募し、または博士課程の勉強を粘り強く続けていなかったら、可能でしたか？今日はここまでですか？

意思決定の間違いは、一生懸命働いても埋め合わせることができません。なぜ Google は AI 分野で OpenAI に大きく遅れをとっているのでしょうか?インタビュー中、彼は修辞的に質問し、「彼らは別の方向、つまり OpenAI とは異なる方向を選択したからです。」と直接答えました。 「OpenAI に参加して研究を行う方法はありますか?...社内で研究を行う方がより効果的だと思います。いくつか提案をいただけますか。」

彼は高評価の回答のリンクを相手に転送しました。

見事なサンゴ礁は、サンゴポリプたちが長年にわたって努力してきた一大プロジェクトです。サンゴ礁は世界の海底と海底のわずか 0.5% を占めていますが、海洋生物の 4 分の 1 以上が生息しています。

Zhihu では、すべてのテクノロジー「Zhihuer」は、小さくて魔法のようなサンゴのポリプと褐虫藻のようなものです。質問、回答、注意を通じて、相互作用します。エネルギー情報が交換され、何度も何度も、より高度なシステムが出現し、一流の科学者を含む、より最先端のテクノロジーの「種」がそこに生息するよう引き寄せられます。

Zhihu 戦略担当副社長およびコミュニティ ビジネス リーダーの Zhang Ning 氏は、かつて科学調査、研究、現場での作業に従事している人の総数は次のとおりであると述べました。数学、物理学、天文学、人工知能などの分野では、グラフィックスやテキストの毎日の平均出力は 20,000 件を超え、数学に関する解答、記事、ビデオの数は 544 万件にも上ります。 、物理学、天文学、人工知能などの分野は100万件を超えています。

ChatGPT の後、Baidu の「Wen Xin Yi Yan」のリリース、GPT-4 のリリース、Microsoft の統合などの最前線のイベントが行われると、 AI対話機能が発生、業界の有名人が全員ここに集まってできるだけ早く議論します。

3 月 28 日、中国の数学者、張一棠氏は Zhihu に招待状を発行しました。「私はハーバード大学といくつかのヨーロッパの大学から生放送を行うよう招待されます。テーマは: 解析的整数論における非正数列とランダウ・シーゲル零点 (解析的数論における非正数列とランダウ・シーゲル零点。)

#今回、志湖では再び角笛の音が聞こえます。

以上がZhihu で、ChatGPT の変革の最初の光を見たの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。