recherche
Maisondéveloppement back-endTutoriel PythonAnalyse exploratoire des données : fouiller dans l'arriéré

Dans l'histoire inspirante des Six Triple Eight, la première étape de leur mission consistait à évaluer et à organiser un énorme arriéré de courrier non livré. Ces empilements, imposants jusqu'au plafond, ont dû être catégorisés et compris avant de pouvoir réaliser des progrès. Dans le monde de l'apprentissage automatique moderne, cette phase initiale s'apparente à l'Analyse exploratoire des données (EDA).

Pour cette série, nous reproduirons ce processus en utilisant un ensemble de données CSV, où chaque ligne contient une catégorie (par exemple, « technologie », « entreprise ») et le texte qui lui est associé. Les catégories fonctionnent comme des étiquettes, indiquant à quoi appartient chaque morceau de texte. Des outils tels que Pandas pour la manipulation des données, Matplotlib pour la visualisation, WordCloud pour les informations textuelles, Tiktoken pour l'analyse des jetons et NLTK pour le traitement de texte nous aideront à comprendre notre ensemble de données.

Dans cette étape, nous allons :

  1. Chargez les données et inspectez leur structure.

  2. Identifier les valeurs manquantes ou incohérentes qui pourraient nuire aux performances de notre modèle.

  3. Explorez les répartitions des catégories pour comprendre l'équilibre entre les étiquettes.

  4. Visualisez les fréquences des mots dans les données textuelles pour découvrir des modèles.

  5. Analysez le nombre de jetons à l'aide de Tiktoken pour mesurer la complexité.

Cette phase EDA reflète les efforts de tri méticuleux des Six Triple Eight, qui ont dû donner un sens au chaos avant de pouvoir remettre de l'ordre. En comprenant notre ensemble de données en détail, nous jetons les bases de la création d'un LLM affiné, capable de catégoriser et d'interpréter le texte avec précision.

Introduction

L'analyse exploratoire des données (EDA) revient à s'attaquer à un énorme arriéré de données : empilées, non organisées et remplies d'un potentiel inexploité. Tout comme l'unité Six Triple Eight s'est attaquée à l'énorme arriéré de courrier non livré pendant la Seconde Guerre mondiale, l'EDA est notre moyen de passer au crible le chaos pour découvrir des informations, identifier les tendances et préparer les prochaines étapes de l'analyse des données.

Dans cette exploration, nous plongerons dans un ensemble de données d'articles de presse de la BBC, démêlant sa structure, corrigeant les incohérences et découvrant les histoires enfouies dans les données. "

Évaluation du retard : aperçu de l'ensemble de données

Pour commencer, nous devons d'abord comprendre l'échelle et la structure de notre ensemble de données. L'ensemble de données d'articles d'actualité de la BBC comprend 2 234 entrées réparties dans cinq catégories : affaires, sports, politique, technologie et divertissement. Chaque entrée présente deux caractéristiques principales :

  • catégorie : le sujet ou la section de l'article.
  • texte : Le contenu complet de l'article.

Pour avoir une vue plus claire de ce avec quoi nous travaillons, nous avons chargé les données dans un Pandas DataFrame, effectué une inspection rapide et découvert :

Nettoyer l'arriéré

Alors que le Six Triple Eight s'est attaqué à des piles de courrier non triés, nous devons nous aussi organiser notre ensemble de données. Le processus de nettoyage impliquait plusieurs étapes clés :

  • Suppression des doublons
    Des articles en double encombraient l’ensemble de données. Après avoir identifié et supprimé ces redondances.

  • Gestion des valeurs manquantes
    Bien que notre ensemble de données soit relativement propre, nous nous sommes assurés que toutes les valeurs nulles potentielles étaient prises en compte, ne laissant aucune entrée vide dans les données finales."

Décomposer les catégories

Une fois le retard éliminé, nous avons analysé la répartition des articles entre les catégories pour identifier les thèmes dominants. Voici ce que nous avons trouvé :

  • Premières catégories : affaires et sports à égalité pour la plus grande part, chacune contenant 512 articles.

  • Catégories plus petites : le divertissement, la politique et la technologie comportaient moins d'articles mais offraient des informations uniques.

La distribution a confirmé que l'ensemble de données était équilibré, nous permettant de nous concentrer sur une analyse plus approfondie sans nous soucier d'un déséquilibre significatif des catégories."

Zoom avant : les articles sportifs sous le microscope

Tout comme le tri du courrier par destination, nous avons choisi de nous concentrer sur la catégorie sports pour approfondir. L'objectif était d'analyser le contenu textuel et d'en extraire des modèles significatifs."

  • Tokénisation et suppression des mots vides
    À l'aide de la bibliothèque NLTK, nous avons tokenisé le texte en mots individuels et supprimé les mots vides courants (par exemple, « et », « le », « est »). Cela nous a permis de nous concentrer sur des mots ayant une plus grande signification pour la catégorie."

  • Analyse de la fréquence des mots
    Une distribution de fréquence a été créée pour identifier les termes les plus courants dans les articles sportifs. Sans surprise, des mots comme « match », « équipe » et « jeu » ont dominé, reflétant la nature compétitive du contenu. »

Visualiser les résultats : un nuage de mots
Pour capturer l'essence des articles sportifs, nous avons généré un nuage de mots. Les termes les plus fréquemment utilisés apparaissent plus grands, dressant un tableau vivant des thèmes principaux de la catégorie. "

Exploratory Data Analysis: Digging Through the Backlog

Principaux points à retenir

Tout comme Six Triple Eight a méticuleusement trié et livré l'arriéré de courrier, notre processus EDA a dévoilé une vue structurée et perspicace de l'ensemble de données d'information de la BBC.

Code

!pip install tiktoken
!pip install matplotlib
!pip install wordcloud
!pip install nltk
!pip install pandas

import pandas as pd

df = pd.read_csv('/content/bbc.csv', on_bad_lines='skip')  


df.head()

df.info()

df.describe()

label_count = df['category'].value_counts()


len(df['text'])


df.drop_duplicates(inplace=True)

null_values = df.isnull().sum()

df.dropna(inplace=True)

import nltk
from nltk.corpus import stopwords
from nltk.tokenize import word_tokenize
from wordcloud import WordCloud
from collections import Counter
import matplotlib.pyplot as plt


nltk.download('punkt')
nltk.download('stopwords')
nltk.download('punkt_tab') 


target_label ="sport"
target_df = df[df['category'] == target_label]



target_word = [ word.lower()  for text in target_df['text']
                 for word in word_tokenize(text)
                 if word.isalnum() and word not in stopwords.words('english')
                   ]

target_word_count = Counter(target_word)


word_cloud = WordCloud().generate_from_frequencies(target_word_count)


plt.figure(figsize=(10, 5))
plt.imshow(word_cloud, interpolation='bilinear')
plt.axis('off')
plt.show()

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Comment résoudre le problème des autorisations rencontré lors de la visualisation de la version Python dans le terminal Linux?Comment résoudre le problème des autorisations rencontré lors de la visualisation de la version Python dans le terminal Linux?Apr 01, 2025 pm 05:09 PM

Solution aux problèmes d'autorisation Lors de la visualisation de la version Python dans Linux Terminal Lorsque vous essayez d'afficher la version Python dans Linux Terminal, entrez Python ...

Comment utiliser la belle soupe pour analyser HTML?Comment utiliser la belle soupe pour analyser HTML?Mar 10, 2025 pm 06:54 PM

Cet article explique comment utiliser la belle soupe, une bibliothèque Python, pour analyser HTML. Il détaille des méthodes courantes comme find (), find_all (), select () et get_text () pour l'extraction des données, la gestion de diverses structures et erreurs HTML et alternatives (Sel

Comment effectuer l'apprentissage en profondeur avec TensorFlow ou Pytorch?Comment effectuer l'apprentissage en profondeur avec TensorFlow ou Pytorch?Mar 10, 2025 pm 06:52 PM

Cet article compare TensorFlow et Pytorch pour l'apprentissage en profondeur. Il détaille les étapes impliquées: préparation des données, construction de modèles, formation, évaluation et déploiement. Différences clés entre les cadres, en particulier en ce qui concerne le raisin informatique

Comment créer des interfaces de ligne de commande (CLI) avec Python?Comment créer des interfaces de ligne de commande (CLI) avec Python?Mar 10, 2025 pm 06:48 PM

Cet article guide les développeurs Python sur la construction d'interfaces de ligne de commande (CLI). Il détaille à l'aide de bibliothèques comme Typer, Click et Argparse, mettant l'accent sur la gestion des entrées / sorties et promouvant des modèles de conception conviviaux pour une meilleure convivialité par la CLI.

Comment copier efficacement la colonne entière d'une dataframe dans une autre dataframe avec différentes structures dans Python?Comment copier efficacement la colonne entière d'une dataframe dans une autre dataframe avec différentes structures dans Python?Apr 01, 2025 pm 11:15 PM

Lorsque vous utilisez la bibliothèque Pandas de Python, comment copier des colonnes entières entre deux frames de données avec différentes structures est un problème courant. Supposons que nous ayons deux dats ...

Quelles sont les bibliothèques Python populaires et leurs utilisations?Quelles sont les bibliothèques Python populaires et leurs utilisations?Mar 21, 2025 pm 06:46 PM

L'article traite des bibliothèques Python populaires comme Numpy, Pandas, Matplotlib, Scikit-Learn, Tensorflow, Django, Flask et Demandes, détaillant leurs utilisations dans le calcul scientifique, l'analyse des données, la visualisation, l'apprentissage automatique, le développement Web et H et H

Expliquez le but des environnements virtuels dans Python.Expliquez le but des environnements virtuels dans Python.Mar 19, 2025 pm 02:27 PM

L'article traite du rôle des environnements virtuels dans Python, en se concentrant sur la gestion des dépendances du projet et l'évitement des conflits. Il détaille leur création, leur activation et leurs avantages pour améliorer la gestion de projet et réduire les problèmes de dépendance.

Que sont les expressions régulières?Que sont les expressions régulières?Mar 20, 2025 pm 06:25 PM

Les expressions régulières sont des outils puissants pour la correspondance des motifs et la manipulation du texte dans la programmation, améliorant l'efficacité du traitement de texte sur diverses applications.

See all articles

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semainesBy尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semainesBy尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semainesBy尊渡假赌尊渡假赌尊渡假赌

Outils chauds

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

Puissant environnement de développement intégré PHP

Version crackée d'EditPlus en chinois

Version crackée d'EditPlus en chinois

Petite taille, coloration syntaxique, ne prend pas en charge la fonction d'invite de code

MantisBT

MantisBT

Mantis est un outil Web de suivi des défauts facile à déployer, conçu pour faciliter le suivi des défauts des produits. Cela nécessite PHP, MySQL et un serveur Web. Découvrez nos services de démonstration et d'hébergement.

SublimeText3 Linux nouvelle version

SublimeText3 Linux nouvelle version

Dernière version de SublimeText3 Linux

mPDF

mPDF

mPDF est une bibliothèque PHP qui peut générer des fichiers PDF à partir de HTML encodé en UTF-8. L'auteur original, Ian Back, a écrit mPDF pour générer des fichiers PDF « à la volée » depuis son site Web et gérer différentes langues. Il est plus lent et produit des fichiers plus volumineux lors de l'utilisation de polices Unicode que les scripts originaux comme HTML2FPDF, mais prend en charge les styles CSS, etc. et présente de nombreuses améliorations. Prend en charge presque toutes les langues, y compris RTL (arabe et hébreu) ​​et CJK (chinois, japonais et coréen). Prend en charge les éléments imbriqués au niveau du bloc (tels que P, DIV),