300元を費やして組み立てたコンピューターは、地元の大型モデルで正常に動作しました

2023 年が AI 元年と認識されている場合、2024 年は大規模な AI モデルの普及にとって重要な年になる可能性があります。

過去 1 年間で、多数の大規模な AI モデルや AI アプリケーションが登場し、Meta や Google などのメーカーも、「AI」と同様に、独自のオンライン/ローカルの大規模モデルを一般に公開し始めています。 「知能」という手の届かない概念が突然人々にやって来ます。

現在、人々は生活の中で人工知能に触れる機会が増えており、注意深く見てみると、アクセスできるさまざまな AI アプリケーションのほぼすべてが「クラウド」上に展開されていることがわかります。大規模なモデルをローカルで実行できるデバイスを構築したい場合、ハードウェアは 5,000 元以上の価格がかかる真新しい AIPC となり、一般消費者にとってはフレンドリーではありません。

(写真出典: Google)

しかし、予算を極限まで圧縮し、「使用可能な」ホストのセットを一致させることは、まさに誰もが必要としているものです。 DIY愛好家にとって究極の楽しみ。ここでの問題は、大規模な音声モデルをローカルで実行できるコンピューターを本当に入手したい場合、どれくらいの費用がかかるかということです。

私の予算は - 300 元です。

最近、本格的なメモリ/ストレージ製品の価格が上昇しているにもかかわらず、外国産のゴミの価格はあまり変わっておらず、初期の外国産ゴミの CPU やマイニング カード GPU の一部でさえ価格が下落している傾向にあります。現在の AI トレンドを考えると、オフィスのオーディオやビデオのニーズに固執するつもりはなく、300 元の予算を使って費用対効果の高いエントリーレベルのローカル大型モデルを構築してみることにしました。ホスト。

具体的にどのように操作すればよいのか、最終的に満足のいく結果が得られるのかについては、フォローしていただければ自然と分かります。

クラシックな古い CPU、マイナーレベルの GPU

CPU の選択に関しては、Xianyu から Intel® Core™i3-4170T を直接選びました。

このプロセッサは、2 コアと 4 スレッド、メイン周波数 3.2 GHz、ターボ周波数機能なし、3 MB スマート キャッシュ、および 22nm プロセス技術を使用した Haswell アーキテクチャを備えており、最大の特徴は HD4400 を搭載していることです。それがコアディスプレイを選んだ理由でもあります。

(写真提供: Lei Technology)

よく言われるように、低コストのボードを備えた低コストの U、私が選んだマザーボードは ASUS ワークパッケージ H81M-V3 マザーボードです。DDR3 メモリ スロットが 2 つだけであることは言うまでもなく、HDMI 出力インターフェイスさえなく、M2 ハード ドライブ、USB 3.0、ありません。 SATA III インターフェイスは 2 つだけですが、このものの最大の利点は中古価格が非常に安いことです。

このボード U セットは合計 80 元未満で、現在では優れたコストパフォーマンスを持っています。

(写真提供: タオバオ)

この種の CPU は消耗します熱 あまり心配しないでください。

Xianyu プッシュダウン式空冷放熱器 20 パックが郵送されてきました。見た目は少し醜くて粗雑ですが、私にはぴったりです。 -価格設定は確かに十分以上です。

(写真提供: Lei Technology)

グラフィックについては最近、Xianyu では P106-090/P106-100 マイニング カードが多数リリースされており、前者の価格は通常 75 元程度、後者の価格は通常 120 元程度です。今回はゲーム用ではなく、最終的に Zotac P106-090 マイニング カードを選択しました。このカードは帯域幅の問題によりゲームには適していませんが、価格はここにあります。

最後に、名前のない DDR3 メモリを 2 つ装備してデュアル チャネル メモリを形成し、350W 万里の長城電源と 120GB SATA を使用して電力を供給します。システムディスクとしてSSDを使用 最初のインストールで残ったバッファローシリコングリスでなんとかしのぎ、最終的に20元の小さなコンピューターシティケースと組み合わせ、300元のインストールに必要な基本的なハードウェアをすべて揃えました。

(写真提供: Lei Technology)

次の場合はポイントを目指して走ってくださいあなたは同意しません。リーズナブルなパフォーマンス

#取り付けが完了し、シャーシが点灯しました。

まず簡単なパフォーマンス テストを行ってみましょう。長年勤務してきたベテランとして、インテル® Core™i3-4170T のパフォーマンスは、たとえTrottlesStop を使用して消費電力を解放する この場合、Core 第 6 世代および第 7 世代のモバイル プロセッサのレベルとほぼ同等になります。

(出典: Lei Technology)

実際のテストセッションでは、CPU-Z テストのスコアは、シングルコアテストで 319.9 ポイント、マルチコアテストで 881.0 ポイントでした。CINEBENCH テスト基準では、CINEBENCH R20 マルチコアスコアは 732cb、シングルコアスコアは301cbでした。もちろん、この性能が飛び抜けているわけではありませんが、日常のオフィスワークや軽いエンターテイメントには十分です。

(出典: Lei Technology)

GPU を見てみましょう繰り返しになりますが、当社が所有する Zotac P106-090 は 16nm プロセスを使用して構築されています。グラフィックス カード コアは GP106、コア周波数は 1354MHz、1531MHz まで増加可能です。768 シェーディング ユニットを備え、DirectX12 をサポートし、ビデオ メモリを備えています。仕様は 3072MB/192Bit Samsung GDDR5 メモリで、メモリ周波数は 2002MHz に達します。

(写真提供: Lei Technology)

注目に値しますつまり、P106-090 のインターフェイスは PCI-E x4 1.1 であるのに対し、P106-100 のインターフェイスは PCI-E x16 1.1 であるため、同じコアを搭載している場合でも、2 つの間のパフォーマンスには明らかな違いがあります。 -090 グラフィックス カードは、非常に低価格で CUDA コンピューティング パワーを提供できるためです。

#図に示すように、DX11 のパフォーマンスを評価する Fire Strike テストでは、P106-90 は Extreme テストで 3287 ポイントのグラフィックス スコアを達成しました。 DX12 のパフォーマンスを評価するテスト Time Spy テストでは、P106-90 は基本テストで 2251 ポイントのグラフィックス スコアを達成しました。このパフォーマンスは GTX1050 と同様ですが、コアとディスプレイのパフォーマンスの間には一定のギャップがあります。 R5-7640H。

(写真提供: Lei Technology)

ストレージに関して, この社外品の 128GB Sata SSD ハード ドライブ (40 元で購入) のシーケンシャル読み取りおよび書き込み速度は 505.28MB/s および 400.09MB/s、ランダム 4K 読み取りおよび書き込み速度は 132.35MB/s および 244.29MB/s です。 M2 SSD ハード ドライブと同じではなく、少し異なりますが、システムの起動ディスクとしては間違いなく十分です。

(写真提供: Lei Technology)

このペアはチャネル DDR3 メモリ、メモリ キャッシュ テストに AIDA64 を使用、このコンピュータの読み取り速度は 20894 MB/s、書き込み速度は 23629 MB/s、コピー速度は 20901 MB/s、遅延は 67.5ns と測定されました。ちょうどいいです。

(出典: Lei Technology)

大型モデル ゲーム、それ

# 数百ドルの予算で使えるローカル大型ゲーム機を作るのが目標なので、実際の使用感は最高です注目の一品。

まず Koblodcpp を試してください。これは、Koblod.AI インターフェイスを統合する llamacpp スタートアップ プログラムです。現在インターネットで人気のある GGUF 形式のローカル大規模モデルを実行できます。音声モデルと描画モデルにより、対話中の音声と対応するシーンの生成が可能になります。

(写真提供: Lei Technology)

残念なことに、容量は現在、Huggingface で共有されている GGUF 形式の大型モデルは、一般的に 3GB を超えており、容量が 5GB 程度しかない causallm_7b モデルを選択した場合でも、グラフィックス カードのメモリがオーバーフローして CPU の計算介入が発生し、最終的には動作に影響を与える可能性があります。大型モデル全体の効率が低下します。

(写真提供: Lei Technology)

テストしてみましょう。このモードでは、Kobold.AI の最長応答は約 599 秒 (つまり 10 分) に達し、最短応答の生成には約 50 秒かかりますが、これは 10 秒で応答を提供できる平均的なクラウド モデルとは大きく異なります。確かに平均的です。

この場合、次善の策に落ち着いて、インテル AIGC アシスタントを使用してローカルの大規模モデルを体験した方がよいでしょう。これは、複数のローカルの大規模モデルを統合するデモです。言語モデル: インターネットに接続せずにインテリジェントな人間と機械の対話を実現することに取り組んでいます。

コンピュータ ネットワークがオフになっている場合、ある程度時間がかかる大規模モデルの最初の導入を除き、その後の質問は基本的に 5 秒以内に回答できます。質問への回答、翻訳、ライティングはすべて非常に高速です。一部の頭の体操や算数の問題を扱うときは依然として論理エラーが発生しますが、この場合の全体的なエクスペリエンスは以前よりもはるかに優れています。

(写真提供: Lei Technology)

もちろん、文字カードやプロンプトワードなどのより高度な機能は絶対に利用できません。

AI ペイントをもう一度見てみましょう。ここで使用するのは、Stablediffsion WebUI、さまざまな SD プラグインのダウンロード、およびリモート使用を統合する、bilibili UP master@ 統合 Huiyo ランチャーです。これは、非常に実用的なオールインワン スターターです。

(写真提供: Lei Technology)

P106- 90 の検討容量制限が3GBしかないので、容量を2GBに抑えたmistoonAnime MIX_v20モデルを選択しましたが、実測ではP106-90で128*160の写真を4枚、240*320の写真を4枚生成するのに約3分かかりました。 7 ～ 8 分かかり、512*512 の画像を生成するには約 6 分かかります。

(出典: Lei Technology)

実際の経験から見てください。個人的には、プロンプト ワードやプラグインの数を減らしながら 128*160 の画像から開始し、適切な画像が見つかったら、AI アップグレードと 1 枚の画像の再描画を実行することをお勧めします。それ以外の場合は、512*512 の仕様で画像を生成する場合、一般に画像が破棄される確率は高くありません。

# (出典: Lei Technology、SD で生成された画像)

ローカルの大型モデルが使用できるようになりましたが、ゲーム エクスペリエンスはどうですか?

実際のハードウェア構成を考慮して、「ファークライ 6」、「シャドウ オブ ザ トゥームレイダー」、「F1 2020」、「Horizo​​n: Zero Dawn」をテストしてみましょうFHD 解像度での 4 つのゲームの体験を見てみましょう。

「ファークライ 6」のパフォーマンステストでは、最低画質 1920*1080 で、このコンピューターの平均フレーム数は、FSR が低くても 32fps でした。パフォーマンス プロファイルがオンになっていると、最終的なゲームのフレーム レートは 40fps 程度しか変動しません。

(写真提供: Lei Technology)

レースの様子をご覧ください再び車 ゲームでは、「F1 2020」で1920*1080の中画質をオンにし、オーストラリアのサーキットで晴天テストを実施しましたが、最終的な平均フレームレートは59fpsに達する可能性がありました。サービスを何度もスムーズに実行できます。

(出典: Lei Technology)

標準のテスト ゲームとして, 「シャドウ オブ ザ トゥームレイダー」は当然このテストを逃しませんでした。 FSR をオンにせず、デフォルトで最低画質の 1920*1080 に設定すると、ゲーム ベンチマーク テストを実行したこのコンピューターの平均フレーム レートは 50 fps となり、このバッチの 3A ゲームの中で安定した 60 fps のゲーム エクスペリエンスに最も近くなります。

(写真提供: Lei Technology)

最後に、やってみましょう「Horizo​​n: Zero Dawn」の場合、最低画質だとビデオメモリもパンクしてしまうため、このパソコンでは1280*720の最低画質ではギリギリ30fpsの合格ラインに達することができず、不向きとしか言いようがありません。遊び用に。

(写真提供: Lei Technology)

全体的に、次の影響を受けます。帯域幅制限が厳しいため、P106-090 の実際のパフォーマンスは、同様の実行スコアを持つ GTX1050 ほど良くはありません。せいぜい、Iris Xe 96EU コア ディスプレイよりわずかに優れています。3A ゲームに対応するために多少拡張されています。近年では。 。

要約: 確かに大規模なモデルを実行できますが、安定性は良くありません

利点:

1. コスト予算が低い;

2. 実際にローカルの大規模モデルを実行できます。

欠点:

1. 中古部品は保証されていません;

2. マイニング カード ドライバーは非常に紛失しやすいです。 、白い画面が発生する問題が発生しました。

予算 300 元のこのコンピュータ ホストは使用できますか?

CPU の仕様が古く、マイニング カードのパフォーマンスが不安定ですが、予算 300 元のこのコンピューター ホストは、確かにローカルの大型モデルの展開を完了できます。描画体験も問題なく、AI PCとしても使えます。

『ファークライ 6』のような 3A の名作を動作させても、本機は FHD 低画質下でも 60 フレームで安定して動作するため、『リーグ』にも対応できます。このタイプのオンライン ゲームでは十分すぎるはずで、エントリーレベルのオンライン ゲーム ホストとしても使用できます。

(写真提供: Lei Technology)

では、どうすればよいでしょうか。このコンピュータ ホストに満足していますか?

答えは「いいえ」です。実際の使用中に、P106-90 マイニング カードは何度もドライバーの障害に見舞われ、その結果、コンピューターの画面が真っ白になりました。アンインストールするには DDDU を使用する必要があります。ドライバーを削除して再インストールします。これがテストで少し面倒な場合は、日常使用で受け入れるのは間違いなく困難です。

現在、Xianyu には私が組み立てたマシンと同様の構成を備えた多くの外国製ジャンク マシンがあり、価格は通常 350、価格は約 400 であることは注目に値します。元です。ターゲット層は明らかに大学に入学したばかりの若者や社会に出たばかりの若者です。個人的には、これらの製品を購入しないことをお勧めします。支払った金額に見合うものがあるのは冗談ではありません。

#要するに、ゴミ拾いには危険が伴うので、車に乗る前に注意してください。ハイエンドのコンピューターで遊ぶのに飽きたプレイヤーにとって、時々ガベージ コレクターで遊ぶのは非常に興味深いものですが、これは単なる遊びであり、実際には長期間メイン マシンとして使用することを目的としたものではありません。なにしろ、ガベージコレクターの付属品はボロボロで、保証もないので、故障して大切なデータを失ってしまったら、元も子もありません。

しかし、予算 300 元を使用してローカルの大型モデル PC を実行する試みを完了すると、ハードウェアのパフォーマンスが期待どおりではない可能性があることがある程度わかります。 AI PCの開発を制限する主な要因。少なくとも一般消費者の利用シーンにおいては、PCメーカーがやるべきことはコンピューティングパワーを向上させることではなく、ユーザーが大規模なAIモデルのフレームワークや環境を構築できるよう支援し、システムやソフトウェアの面でより良い体験をユーザーに提供することだ。つまり、AI PCは自分でPCを組み立てるのではなく、ユーザーが手元で使えるものでなければなりません。

以上が300元を費やして組み立てたコンピューターは、地元の大型モデルで正常に動作しましたの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。