年末総括: 2022 年のコンピューター サイエンスにおける 6 つの大きな進歩!量子暗号の解読、最速の行列乗算などがリストに載っています

2022年、コンピューター分野では多くの画期的な出来事が起こるでしょう。

今年、コンピュータ科学者は完璧な伝送の秘密を学び、Transformer は急速に進歩し、AI の助けにより数十年前のアルゴリズムが大幅に改善されました...

2022 年の大きなコンピューター イベント

現在、コンピューター科学者が解決できる問題の範囲はますます広くなっており、彼らの仕事は学際的なものも増えています。

今年、コンピューター サイエンスの分野における多くの成果は、他の科学者や数学者にも役立ちました。

たとえば、暗号化の問題はインターネット全体のセキュリティに関係します。

暗号化の背後には、複雑な数学的問題が存在することがよくあります。かつて、量子コンピュータからの攻撃に十分耐えられると考えられた、非常に有望な新しい暗号方式がありましたが、この方式は「2つの楕円曲線の積とアーベル曲面との関係」という数学的問題によって覆されました。

一方向性関数の形式での別の数学的関係のセットにより、暗号作成者は本当に安全なコードを持っているかどうかがわかります。

コンピュータ科学、特に量子コンピューティングは、物理学と大きく重なる部分もあります。

今年の理論コンピューターサイエンスにおける大きな出来事の 1 つは、科学者たちが NLTS 予想を証明したことです。

この予想は、粒子間の幽霊のような量子のもつれは、かつて物理学者が想像していたほど微妙なものではないことを示しています。

これは、物理世界の理解に影響を与えるだけでなく、もつれによってもたらされる無数の暗号の可能性にも影響を与えます。

また、人工知能は常に生物学を補完するものでした。実際、生物学の分野は人間の脳からインスピレーションを得ています。究極のコンピューター。

コンピューター科学者や神経科学者は、長い間、脳がどのように機能するかを理解し、脳に似た人工知能を作成することを望んできましたが、これらは常に夢物語のように思われてきました。

しかし、驚くべきことに、Transformer ニューラル ネットワークは脳のように情報を処理できるようです。トランスフォーマーの仕組みを理解すればするほど、脳についてもより理解できるようになり、その逆も同様です。

おそらくこれが、Transformer が言語処理と画像分類に優れている理由です。

AI は、より優れた AI の作成にも役立ちます。新しいハイパーネットワークは、研究者が低コストかつ高速でニューラル ネットワークをトレーニングするのに役立ちます。また、他の分野の科学者にも役立ちます。

トップ 1: 量子もつれの答え

量子もつれは、遠く離れた粒子を密接に結び付ける性質です。つまり、完全に絡み合ったシステムを完全に説明することはできません。

しかし、物理学者は、完全なもつれに近い系は記述しやすいと信じています。しかし、コンピュータ科学者は、これらのシステムも計算不可能であると信じており、これが量子 PCP (確率的検証可能証明) 予想です。

量子 PCP 理論の証明を助けるために、科学者たちは「非低エネルギー自明状態」(NLTS) 予想と呼ばれるより単純な仮説を提案しました。

今年 6 月、ハーバード大学、ユニバーシティ カレッジ ロンドン、カリフォルニア大学バークレー校の 3 人のコンピューター科学者が、論文で NLTS 予想の最初の証明に成功しました。

文書アドレス: https://arxiv.org/abs/2206.13228

これは、より高温でももつれ状態を維持できる量子系が存在することを意味し、また、低温などの極端な条件を離れても、もつれ粒子系の解析と基底状態エネルギーの計算が依然として難しいことも示しています。

物理学者は、もつれが必ずしも思ったほど脆弱ではないことを意味するため驚きましたが、コンピューター科学者は、量子 PCP (確率論的に可能) と呼ばれるものの証明に近づいたことを喜んでいます。の定理にまた一歩近づきました。

今年 10 月、研究者らは 3 つの粒子をかなりの距離にわたって絡み合わせることに成功し、量子暗号化の可能性を高めました。

トップ 2: AI の理解方法の変化

#過去 5 年間にわたり、Transformer は AI による情報の処理方法に革命をもたらしました。

2017 年に、Transformer が初めて論文に登場しました。

人々は言語を理解して生成するためにトランスフォーマーを開発します。入力データのすべての要素をリアルタイムで処理し、「全体像」を把握できます。

断片化されたアプローチを採用する他の言語ネットワークと比較して、この「全体像」ビューにより、Transformer の速度と精度が大幅に向上します。

他の AI 研究者も、Transformer を自分の分野に適用しています。

彼らは、同じ原理を適用することで、画像分類および複数種類のデータの同時処理のためのツールをアップグレードできることを発見しました。

文書アドレス: https://arxiv.org/abs/2010.11929

Transformers は、テキストの分析と予測に重点を置いた単語認識などのアプリケーションで急速にリーダーになりました。これは、OpenAI の GPT-3 などのツールの波を引き起こしました。このツールは、数千億の単語をトレーニングし、驚くほど一貫した新しいテキストを生成します。

ただし、Transformer 以外のモデルと比較すると、これらの利点は Transformer のトレーニング量の増加を犠牲にして得られます。

#これらの顔は、200,000 人以上の有名人の顔のデータセットでトレーニングされた Transformer ベースのネットワークによって作成されました

3 月、Transformer の仕組みを研究している研究者らは、Transformer が非常に強力である理由の 1 つは、単純な記憶モデルではなく、単語により大きな意味を付加する能力であることを発見しました。

実際、Transformer は非常に適応性が高いため、神経科学者は人間の脳機能をモデル化するために Transformer ベースのネットワークを使用し始めています。

これは、人工知能と人間の知能が同じものである可能性があることを示しています。

トップ 3: クラックされた量子暗号化アルゴリズム

量子コンピューティングの出現により、当初は膨大な量の計算が必要だった多くの問題が発生しました不可能だった問題は解決され、古典的な暗号化アルゴリズムの安全性も脅かされました。その結果、学界は量子コンピューターによるクラッキングを防ぐためのポスト量子暗号の概念を提案しました。

期待されている暗号アルゴリズムとして、SIKE (Supersingular Isogeny Key Encapsulation) は楕円曲線を定理とする暗号アルゴリズムです。

しかし、今年 7 月、ベルギーのルーヴェン大学の 2 人の研究者が、このアルゴリズムが 10 年前のマシンをわずか 1 時間で使用できることを発見しました。ハッキングに成功しました。

研究者らが純粋に数学的な観点から問題にアプローチし、コードの潜在的な脆弱性ではなく、アルゴリズム設計の中核を攻撃したことは注目に値します。

論文アドレス: https://eprint.iacr.org/2022/975

これに関しては、研究者らは、「一方向性関数」の存在を証明できた場合にのみ、証明可能な安全なコード、つまり絶対に失敗しないコードを作成できると述べています。

それらが存在するかどうかはまだ不明ですが、研究者らは、この問題はコルモゴロフ複雑性と呼ばれる別の問題と同等であると考えています。一方向関数と真の暗号は、コルモゴロフの複雑さのバージョンによっては計算が難しい場合にのみ可能です。

トップ 4: AI を使用した AI のトレーニング

近年、人工ニューラル ネットワークのパターン認識スキルによって新しいアイデアが注入されています。人工知能の分野への活力。

しかし、ネットワークが機能し始める前に、研究者はまずネットワークをトレーニングする必要があります。

このトレーニング プロセスは数か月続く場合があり、大量のデータが必要となり、その間に数十億のパラメーターを微調整する必要がある可能性があります。

研究者たちは、機械にそれをやらせるという新しいアイデアを思いつきました。

この新しい「ハイパーネットワーク」は GHN-2 と呼ばれ、他のネットワークを処理して吐き出すことができます。

紙のリンク: https://arxiv.org/abs/2110.13100

これは高速で、任意のネットワークを分析し、従来の方法でトレーニングされたネットワーク内のパラメーターと同じくらい有効な一連のパラメーター値を迅速に提供できます。

GHN-2 によって提供されるパラメーターは最適ではない可能性がありますが、それでもより理想的な開始点を提供し、完全なトレーニングに必要な時間とデータを削減します。

指定された画像データセットと DEEPNETS-1M アーキテクチャ データセットで予測されたパラメーターを使用したバックプロパゲーション トレーニング

この夏、Quanta 誌は機械学習を支援する別の新しい方法、具体化された人工知能にも注目しました。

これにより、アルゴリズムは静的な画像や抽象データではなく、応答性の高い 3 次元環境から学習できるようになります。

シミュレーションされた世界を探索するエージェントであれ、現実世界のロボットであれ、これらのシステムは根本的に異なる学習方法を備えており、多くの場合、従来の方法を使用するよりも高速です。システムの方が良いです。

トップ 5: アルゴリズムの改善

基本的なコンピューティング アルゴリズムの効率の改善は、大規模なコンピュータの全体的な速度に影響を与えるため、学術コミュニティでは常にホットな話題です。計算量が増加し、インテリジェント コンピューティングの分野に影響を及ぼし、ドミノ効果を生み出します。

今年 10 月、Nature に掲載された論文で、DeepMind チームは、行列の乗算などの基本的なコンピューティング タスクのための、新しく効率的で正しいアルゴリズムを発見するための最初の AI を提案しました。 - アルファテンソル。

その出現により、50 年来の未解決の数学的問題に対する新たな答えが見つかりました。それは、2 つの行列を乗算する最速の方法を見つけることです。

行列乗算は、行列変換の基本演算の 1 つであり、多くのコンピューティング タスクの中核コンポーネントです。これはコンピュータ グラフィックス、デジタル通信、ニューラル ネットワーク トレーニング、科学計算などをカバーしており、AlphaTensor によって発見されたアルゴリズムはこれらの分野の計算効率を大幅に向上させることができます。

論文アドレス: https://www.nature.com/articles/s41586-022-05172-4

今年の 3 月、6 人のコンピューター科学者からなるチームが、最も古い「最大流量問題」の進歩に対する画期的な解決策をコンピューターに提供する「途方もなく高速な」アルゴリズムを提案しました。

新しいアルゴリズムは、この問題を「ほぼ線形」な時間で解決できます。つまり、アルゴリズムの実行時間は、ネットワークの詳細を記録するのに必要な時間に基本的に比例します。

文書アドレス: https://arxiv.org/abs/2203.00671v2

最大流量問題は組み合わせ最適化問題であり、デバイスの機能を最大限に活用して輸送流量を最大化し、最良の結果を達成する方法について説明します。

日常生活では、インターネットのデータ フロー、航空会社のスケジュール管理、さらには求職者と空席のマッチングなど、さまざまな側面で使用されています。

論文の著者の一人であるイェール大学のダニエル・スピルマン氏は、「私は当初、この問題に対してこれほど効率的なアルゴリズムは存在し得ないと強く信じていました。」

トップ6: 情報を共有する新しい方法

プリンストン大学の理論コンピューター科学者であるマーク・ブレイバーマンは、人生の4分の1以上を対話型コミュニケーションの新しい理論の研究に費やしてきました。

彼の研究により、研究者は「情報」や「知識」などの用語を定量化できるようになり、相互作用の理論的な理解を提供するだけでなく、コミュニケーションをより効率的にし、正確な。

#ブレイバーマンは、オフィスのソファーで定量的な問題について考えるのが最も好きです。

この功績をはじめとする功績により、国際数学連合は今年 7 月にブレイバーマン氏に、理論コンピューターサイエンスにおける最高の栄誉の 1 つである IMU そろばんメダルを授与しました。

IMU の受賞スピーチでは、情報の複雑さに対するブレイバーマンの貢献により、二者間で通信する際の情報コストのさまざまな尺度についての理解が深まったと指摘されました。

彼の研究は、伝送エラーの影響を受けにくい新しいエンコード戦略と、伝送および操作中にデータを圧縮する新しい方法への道を切り開きました。

情報の複雑さの問題は、クロード シャノンの先駆的な研究に由来しています。1948 年に、彼はある人がチャネルを通じて別の人にメッセージを送信するための数学的フレームワークを開発しました。

そして、ブレイバーマンの最大の貢献は、対話型コミュニケーションの境界を記述するための共通ルールを明確にする広範なフレームワークを確立したことです。これらのルールは、データをオンラインで送信するためのアルゴリズムの使用を提案しています。そしてデータの保護。

文書アドレス: https://arxiv.org/abs/1106.3595

「対話型圧縮」問題は次のように理解できます。2 人が 100 万のテキスト メッセージを交換しても、1,000 ビットの情報しか学習しない場合、その交換は 1,000 ビットの保存量まで圧縮できますか?

ブレイバーマンとラオの研究によると、答えはノーです。

そしてブレイバーマンはこれらの問題を解決しただけでなく、研究者が最初にそれらを解明し、その後数学という正式な言語に翻訳できるようにする新しい視点を導入しました。 。

彼の理論は、これらの問題を調査し、将来のテクノロジーで登場する可能性のある新しい通信プロトコルを特定するための基礎を築きました。

以上が年末総括: 2022 年のコンピューター サイエンスにおける 6 つの大きな進歩!量子暗号の解読、最速の行列乗算などがリストに載っていますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。