Construire un serveur d'encodage vidéo de 300 canaux

Netint, Supermicro et Ampère travaillent ensemble pour créer un serveur vidéo en direct à haute performance et à faible coût

Présentation

La demande de vidéos en direct à haute définition a augmenté, ce qui a fait une pression énorme aux coûts opérationnels et à l'expérience utilisateur. Les processeurs x86 traditionnels ont du mal à faire face aux tâches intensives de traitement vidéo requises par les médias de streaming modernes. L'informatique de Netint, Supermicro et Ampère a collaboré à la refonte des serveurs de transcodage vidéo pour des performances plus élevées, un coût plus faible et une efficacité plus élevée.

Solution

netint combine leur VPU Quadra avec le processeur Altra Max d'Ampère pour créer un serveur plus petit, plus rapide et plus rentable. Cette nouvelle architecture de serveur prend en charge les capacités avancées de traitement vidéo, y compris les tâches d'inférence AI et la génération automatique des sous-titres à l'aide de Whisper d'Openai.

Caractéristiques de clés

• Haute performance: Capacité à transcoder plusieurs flux vidéo simultanément (par exemple, 95 Streams 1080i30, 195 720i30 Streams).
• Effectif élevé: La réduction des coûts opérationnels est de 80% par rapport aux solutions traditionnelles à base de x86.
• Traitement avancé: Soutenir la conversion entrelacée, le décodage du logiciel et les tâches d'inférence AI.
• Contrôle flexible: Gérer via FFMPEG, GSTERAMER, SDK ou Interface d'application Bitstreams Bitstreams de netint.

Innovation technique

• ASIC personnalisé: ASIC propriétaire de Netint pour le traitement vidéo de haute qualité et à faible coût.
• Processeur Ampère Altra Max: offrant une efficacité et des performances sans précédent, optimisées pour les environnements informatiques intensifs.
• Logiciel d'optimisation: Utilisez la dernière version FFMPEG et les instructions ARM64 Neon SIMD pour améliorer considérablement les performances.

Réalisations

Le résultat de cette coopération est un serveur vidéo en direct révolutionnaire avec les avantages suivants:

• Le débit est 20 fois plus élevé que celui du logiciel sur x86.
• Les coûts opérationnels ont été considérablement réduits.
• Extendez les fonctions système et prennent en charge les formats vidéo qui ne sont pas originaires de VPU netint.
• Transcription en direct en temps réel et précise grâce à la génération automatique des sous-titres.

Explication détaillée de l'architecture

Le VPU de netint est responsable du codage vidéo intensif et du traitement transcodant, tandis que les processeurs hôtes puissants peuvent effectuer d'autres fonctions que le VPU ne prend pas en charge sur le matériel, telles que la conversion entrelacée et le décodage du logiciel, et les tâches d'inférence IA. Netint a récemment annoncé la première fonctionnalité automatique de sous-titre de l'industrie à l'aide d'Openai Whisper, qui est optimisée pour le processeur Ampère Altra Max pour permettre une transcription en temps réel et précise des émissions en direct. Le serveur effectue une conversion et un transcodage entrelacés vidéo de manière haute densité, haute performance et rentable que le processeur x86 ne peut pas atteindre.

Les ingénieurs vidéo peuvent contrôler le serveur via FFMPEG, GSTERMER, SDK ou Interface d'application Bitstreams Edge de Netint, qui facilite le déploiement et le remplacement des ressources de transcodage existantes ou l'utilisation dans de nouveaux projets.

Cette étude de cas explique comment les ingénieurs netint, supermicro et ampère optimisent les systèmes pour fournir un serveur vidéo redessiné. Ce serveur peut transcoder 95 1080i30 Streams, 195 720i30 Streams, 365 576i30 Streams, ou combiner 100 576i, 100 720i et 10 1080i, 40 1080p30, 40 720p30 et 10 576p. Le serveur décode 96 entrées 1080i30 H.264 ou H.265 Streams avec 96 entrées et 320 entrées 1080i MPEG-2 Streams, étendant la fonctionnalité du système.

"La combinaison du processeur Ampère Altra Max et du VPU netint fait que les serveurs Supermicro 1u montrent une nouvelle valeur."

—— Alex Liu, co-fondateur de netint

Sélection de netint

Pour répondre aux préoccupations des clients concernant la capacité de traitement du processeur limitée et les coûts de la consommation d'énergie, NETIT a développé des ASIC personnalisés dans le but d'atteindre la plus haute qualité et le traitement vidéo et le codage de la plus faible coût. Netint a repensé le serveur de transcodage vidéo en direct en combinant le VPU NETINT Quadra avec le processeur Altra Max d'Ampère pour créer un serveur plus petit et plus rapide avec des coûts d'exploitation inférieurs de 80% et un débit 20 fois plus rapide.

Défis de performance et optimisation

Les résultats initiaux, bien que encourageants, n'ont pas atteint les objectifs fixés par netint. Grâce à l'optimisation du matériel et des logiciels, l'équipe a finalement atteint l'objectif, et le processeur Ampère Altra Max n'a que l'utilisation de 50 à 60% de processeur, laissant de la place pour les fonctionnalités futures. L'article décrit en détail le processus d'utilisation des outils mpstat, BCC softirq et perf outils pour l'analyse et l'optimisation des performances, et résout finalement le problème du goulot d'étranglement des performances.

Résultats et conclusions

L'édition Ampère du serveur vidéo en direct NETITT 300 Channel, lancé conjointement par Netint, Supermicro et Ampère, obtient des performances et une efficacité sans précédent dans un châssis de serveur Supermicro 1U. Le serveur prend également en charge le traitement de l'inférence AI, tel que la première fonctionnalité de sous-titre automatique de Netint à l'aide d'Openai Whisper, qui a été affichée au NAB 2024.

(Description de l'image: FFMPEG ARM64 Optimisation de la conversion entrelacée, après la mise à niveau de FFMPEG 5.0 à 6.0, l'amélioration des performances du processeur Ampère Altra Max est aussi élevée que 2,9 fois.)

L'article se termine par des sociétés Netint, Supermicro et Ampère, et fournit plus d'informations à obtenir.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!