cari
Rumahpembangunan bahagian belakangTutorial PythonAnalisis Data Penerokaan: Menggali Melalui Tunggakan

Dalam kisah inspirasi Six Triple Eight, langkah pertama misi mereka adalah untuk menilai dan mengatur banyak tunggakan mel yang tidak dihantar. Tindanan ini, menjulang ke siling, perlu dikategorikan dan difahami sebelum sebarang kemajuan boleh dibuat. Dalam dunia pembelajaran mesin moden, fasa awal ini serupa dengan Analisis Data Penerokaan (EDA).

Untuk siri ini, kami akan meniru proses ini menggunakan set data CSV, di mana setiap baris mengandungi kategori (mis., "teknologi," "perniagaan") dan teks yang dikaitkan dengannya. Kategori berfungsi sebagai label, menunjukkan di mana setiap bahagian teks berada. Alat seperti Pandas untuk manipulasi data, Matplotlib untuk visualisasi, WordCloud untuk cerapan teks, Tiktoken untuk analisis token dan NLTK untuk pemprosesan teks akan membantu kami memahami set data kami.

Dalam langkah ini, kami akan:

  1. Muatkan data dan periksa strukturnya.

  2. Kenal pasti nilai yang hilang atau tidak konsisten yang boleh menghalang prestasi model kami.

  3. Teroka pengedaran kategori untuk memahami keseimbangan antara label.

  4. Visualkan kekerapan perkataan dalam data teks untuk mendedahkan corak.

  5. Analisis kiraan token menggunakan Tiktoken untuk mengukur kerumitan.

Fasa EDA ini mencerminkan usaha pengisihan teliti Six Triple Eight, yang perlu memahami keadaan huru-hara sebelum mereka dapat mengatur. Dengan memahami set data kami secara terperinci, kami meletakkan asas untuk membina LLM diperhalusi yang mampu mengkategorikan dan mentafsir teks dengan tepat.

pengenalan

Analisis Data Penerokaan (EDA) adalah serupa dengan menangani tunggakan data yang menakutkan—bertindan tinggi, tidak teratur dan penuh dengan potensi yang belum diterokai. Sama seperti unit Six Triple Eight yang menangani tunggakan mel yang tidak dihantar semasa Perang Dunia II, EDA ialah cara kami menyaring kekacauan untuk mendedahkan cerapan, mengenal pasti arah aliran dan bersedia untuk peringkat analisis data seterusnya.

Dalam penerokaan ini, kami akan menyelami set data artikel berita BBC, membongkar strukturnya, menangani ketidakkonsistenan dan mendedahkan cerita yang terkubur dalam data."

Menilai Backlog: Gambaran Keseluruhan Set Data

Untuk bermula, kami mesti memahami skala dan struktur set data kami terlebih dahulu. Set data artikel berita BBC terdiri daripada 2,234 entri yang diedarkan merentas lima kategori: perniagaan, sukan, politik, teknologi dan hiburan. Setiap entri mempunyai dua ciri utama:

  • kategori: Topik atau bahagian artikel.
  • teks: Kandungan penuh artikel.

Untuk mendapatkan pandangan yang lebih jelas tentang perkara yang sedang kami usahakan, kami memuatkan data ke dalam Pandas DataFrame, melakukan pemeriksaan pantas dan menemui:

Membersihkan Backlog

Memandangkan Six Triple Eight menangani longgokan mel yang tidak diisih, kami juga perlu menyusun set data kami. Proses pembersihan melibatkan beberapa langkah utama:

  • Mengalih Keluar Pendua
    Artikel pendua mengeruhkan set data. Selepas mengenal pasti dan mengalih keluar lebihan ini.

  • Mengendalikan Nilai Yang Hilang
    Walaupun set data kami agak bersih, kami memastikan bahawa sebarang nilai null berpotensi ditangani, tidak meninggalkan entri kosong dalam data akhir."

Memecahkan Kategori

Dengan tunggakan dihapuskan, kami menganalisis pengedaran artikel merentas kategori untuk mengenal pasti tema dominan. Inilah yang kami temui:

  • Kategori Teratas: Perniagaan dan sukan terikat untuk bahagian terbesar, setiap satu mengandungi 512 artikel.

  • Kategori Lebih Kecil: Hiburan, politik dan teknologi mempunyai lebih sedikit artikel tetapi menawarkan cerapan unik.

Pengagihan mengesahkan bahawa set data adalah seimbang, membolehkan kami menumpukan pada analisis yang lebih mendalam tanpa perlu risau tentang ketidakseimbangan kategori yang ketara."

Zum Masuk: Artikel Sukan Di Bawah Mikroskop

Sama seperti mengisih mel mengikut destinasinya, kami memilih untuk menumpukan pada kategori sukan untuk menyelam lebih mendalam. Matlamatnya adalah untuk menganalisis kandungan teks dan mengekstrak corak yang bermakna."

  • Penyingkiran Tokenisasi dan Kata Henti
    Menggunakan pustaka NLTK, kami menandakan teks menjadi perkataan individu dan mengalih keluar kata henti biasa (cth., 'dan,' 'the,' 'is'). Ini membolehkan kami menumpukan pada perkataan yang lebih penting kepada kategori."

  • Analisis Kekerapan Perkataan
    Taburan kekerapan telah dibuat untuk mengenal pasti istilah yang paling biasa dalam artikel sukan. Tidak mengejutkan, perkataan seperti 'perlawanan,' 'pasukan' dan 'permainan' didominasi, mencerminkan sifat daya saing kandungan."

Membayangkan Penemuan: Awan Kata
Untuk menangkap intipati artikel sukan, kami menghasilkan awan perkataan. Istilah yang paling kerap digunakan kelihatan lebih besar, melukiskan gambaran jelas tentang tema teras kategori."

Exploratory Data Analysis: Digging Through the Backlog

Pengambilan Utama

Sama seperti Six Triple Eight menyusun dan menghantar mel tertunggak dengan teliti, proses EDA kami telah mendedahkan pandangan tersusun dan berwawasan bagi set data berita BBC.

Kod

!pip install tiktoken
!pip install matplotlib
!pip install wordcloud
!pip install nltk
!pip install pandas

import pandas as pd

df = pd.read_csv('/content/bbc.csv', on_bad_lines='skip')  


df.head()

df.info()

df.describe()

label_count = df['category'].value_counts()


len(df['text'])


df.drop_duplicates(inplace=True)

null_values = df.isnull().sum()

df.dropna(inplace=True)

import nltk
from nltk.corpus import stopwords
from nltk.tokenize import word_tokenize
from wordcloud import WordCloud
from collections import Counter
import matplotlib.pyplot as plt


nltk.download('punkt')
nltk.download('stopwords')
nltk.download('punkt_tab') 


target_label ="sport"
target_df = df[df['category'] == target_label]



target_word = [ word.lower()  for text in target_df['text']
                 for word in word_tokenize(text)
                 if word.isalnum() and word not in stopwords.words('english')
                   ]

target_word_count = Counter(target_word)


word_cloud = WordCloud().generate_from_frequencies(target_word_count)


plt.figure(figsize=(10, 5))
plt.imshow(word_cloud, interpolation='bilinear')
plt.axis('off')
plt.show()

Atas ialah kandungan terperinci Analisis Data Penerokaan: Menggali Melalui Tunggakan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Kenyataan
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Apakah penyataan suis python?Apakah penyataan suis python?Apr 30, 2025 pm 02:08 PM

Artikel ini membincangkan pernyataan baru "Match" Python yang diperkenalkan dalam versi 3.10, yang berfungsi sebagai setara dengan menukar pernyataan dalam bahasa lain. Ia meningkatkan kebolehbacaan kod dan menawarkan manfaat prestasi ke atas tradisional if-elif-el

Apakah kumpulan pengecualian dalam Python?Apakah kumpulan pengecualian dalam Python?Apr 30, 2025 pm 02:07 PM

Kumpulan Pengecualian dalam Python 3.11 Membenarkan mengendalikan pelbagai pengecualian secara serentak, meningkatkan pengurusan ralat dalam senario serentak dan operasi kompleks.

Apakah anotasi fungsi dalam python?Apakah anotasi fungsi dalam python?Apr 30, 2025 pm 02:06 PM

Fungsi anotasi dalam python Tambah metadata ke fungsi untuk pemeriksaan jenis, dokumentasi, dan sokongan IDE. Mereka meningkatkan kebolehbacaan kod, penyelenggaraan, dan penting dalam pembangunan API, sains data, dan penciptaan perpustakaan.

Apakah ujian unit di Python?Apakah ujian unit di Python?Apr 30, 2025 pm 02:05 PM

Artikel ini membincangkan ujian unit di Python, faedah mereka, dan bagaimana menulisnya dengan berkesan. Ia menyoroti alat seperti Unittest dan Pytest untuk ujian.

Apakah penentu akses dalam python?Apakah penentu akses dalam python?Apr 30, 2025 pm 02:03 PM

Artikel membincangkan penentu akses dalam Python, yang menggunakan konvensyen penamaan untuk menunjukkan keterlihatan ahli kelas, dan bukan penguatkuasaan yang ketat.

Apakah __init __ () dalam python dan bagaimana diri memainkan peranan di dalamnya?Apakah __init __ () dalam python dan bagaimana diri memainkan peranan di dalamnya?Apr 30, 2025 pm 02:02 PM

Artikel membincangkan kaedah Python \ _ _ _ _ _ \ _ () dan peranan diri dalam memulakan atribut objek. Kaedah kelas lain dan kesan warisan pada \ _ _ _ init \ _ \ _ () juga dilindungi.

Apakah perbezaan antara kaedah @classmethod, @staticmethod dan contoh dalam python?Apakah perbezaan antara kaedah @classmethod, @staticmethod dan contoh dalam python?Apr 30, 2025 pm 02:01 PM

Artikel ini membincangkan perbezaan antara @classmethod, @staticmethod, dan kaedah contoh dalam python, memperincikan sifat mereka, kes penggunaan, dan faedah. Ia menerangkan cara memilih jenis kaedah yang betul berdasarkan fungsi yang diperlukan dan da

Bagaimana anda menambah elemen ke array python?Bagaimana anda menambah elemen ke array python?Apr 30, 2025 am 12:19 AM

Inpython, youAppendElementStoalistusingTheAppend () method.1) useAppend () forsingLements: my_list.append (4) .2) useextend () or = formultipleelements: my_list.extend (lain_list) ormy_list = [4,5,6] .3) UseInsert () ForSpecificPositions: my_list.insert (1,5) .beaware

See all articles

Alat AI Hot

Undresser.AI Undress

Undresser.AI Undress

Apl berkuasa AI untuk mencipta foto bogel yang realistik

AI Clothes Remover

AI Clothes Remover

Alat AI dalam talian untuk mengeluarkan pakaian daripada foto.

Undress AI Tool

Undress AI Tool

Gambar buka pakaian secara percuma

Clothoff.io

Clothoff.io

Penyingkiran pakaian AI

Video Face Swap

Video Face Swap

Tukar muka dalam mana-mana video dengan mudah menggunakan alat tukar muka AI percuma kami!

Alat panas

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

Persekitaran pembangunan bersepadu PHP yang berkuasa

mPDF

mPDF

mPDF ialah perpustakaan PHP yang boleh menjana fail PDF daripada HTML yang dikodkan UTF-8. Pengarang asal, Ian Back, menulis mPDF untuk mengeluarkan fail PDF "dengan cepat" dari tapak webnya dan mengendalikan bahasa yang berbeza. Ia lebih perlahan dan menghasilkan fail yang lebih besar apabila menggunakan fon Unicode daripada skrip asal seperti HTML2FPDF, tetapi menyokong gaya CSS dsb. dan mempunyai banyak peningkatan. Menyokong hampir semua bahasa, termasuk RTL (Arab dan Ibrani) dan CJK (Cina, Jepun dan Korea). Menyokong elemen peringkat blok bersarang (seperti P, DIV),

SecLists

SecLists

SecLists ialah rakan penguji keselamatan muktamad. Ia ialah koleksi pelbagai jenis senarai yang kerap digunakan semasa penilaian keselamatan, semuanya di satu tempat. SecLists membantu menjadikan ujian keselamatan lebih cekap dan produktif dengan menyediakan semua senarai yang mungkin diperlukan oleh penguji keselamatan dengan mudah. Jenis senarai termasuk nama pengguna, kata laluan, URL, muatan kabur, corak data sensitif, cangkerang web dan banyak lagi. Penguji hanya boleh menarik repositori ini ke mesin ujian baharu dan dia akan mempunyai akses kepada setiap jenis senarai yang dia perlukan.

Penyesuai Pelayan SAP NetWeaver untuk Eclipse

Penyesuai Pelayan SAP NetWeaver untuk Eclipse

Integrasikan Eclipse dengan pelayan aplikasi SAP NetWeaver.

MinGW - GNU Minimalis untuk Windows

MinGW - GNU Minimalis untuk Windows

Projek ini dalam proses untuk dipindahkan ke osdn.net/projects/mingw, anda boleh terus mengikuti kami di sana. MinGW: Port Windows asli bagi GNU Compiler Collection (GCC), perpustakaan import yang boleh diedarkan secara bebas dan fail pengepala untuk membina aplikasi Windows asli termasuk sambungan kepada masa jalan MSVC untuk menyokong fungsi C99. Semua perisian MinGW boleh dijalankan pada platform Windows 64-bit.