Adakah alat AI menjadi komoditi hangat untuk penjenayah siber? Kajian mendapati penggodam Rusia memintas sekatan OpenAI untuk mengakses ChatGPT

Menurut laporan media industri, OpenAI telah mengehadkan aplikasi ChatGPT, bot sembang berkuasa, di sesetengah negara dan wilayah kerana kebimbangan ia mungkin digunakan untuk aktiviti jenayah. Walau bagaimanapun, kajian mendapati bahawa beberapa penjenayah siber dari Rusia telah cuba mencari cara baharu untuk memintas sekatan sedia ada untuk menerima pakai ChatGPT, dan menemui kes termasuk memintas IP, sekatan kad pembayaran dan nombor telefon.

Penyelidik menemui bukti di forum penggodam bahawa penggodam Rusia cuba memintas sekatan untuk mengakses ChatGPT

Sejak November 2022 Sejak pelancarannya , ChatGPT telah menjadi alat aliran kerja yang penting untuk pembangun, penulis dan pelajar, tetapi ia juga telah menjadi senjata ampuh yang boleh dieksploitasi oleh penjenayah siber, dengan bukti bahawa penggodam menggunakannya untuk menulis kod berniat jahat dan meningkatkan e-mel pancingan data.

ChatGPT mungkin digunakan untuk tujuan berniat jahat, yang bermaksud OpenAI perlu mengehadkan cara alat itu digunakan, kerana penggodam yang menggunakan ChatGPT boleh melakukan serangan berniat jahat dengan lebih cepat. OpenAI menggunakan langkah penyekatan geo untuk menghalang pengguna Rusia daripada mengakses sistem.

Walau bagaimanapun, penyelidik Perisian Check Point menemui beberapa contoh penggodam dari Rusia bercakap di forum penggodaman bawah tanah tentang cara memintas sekatan ini. Sebagai contoh, kumpulan penggodam dari Rusia menimbulkan soalan di forum - jika mereka tidak boleh memasuki ChatGPT seperti biasa, bagaimana mereka boleh menggunakan kad pembayaran yang dicuri untuk membayar akaun OpenAI dan menggunakan API untuk mengakses sistem? Sistem pada masa ini dalam pratonton percuma untuk digunakan, manakala API termasuk penjanaan teks dan kod menggunakan token untuk pembayaran semasa sesi.

Sergey Shykevich, pengurus jabatan perisikan ancaman Check Point, berkata memintas sekatan OpenAI tidak begitu sukar "Kami kini melihat beberapa penggodam Rusia sudah berbincang dan meneliti cara memintas geofens dan menggunakan ChatGPT untuk Untuk tujuan jahat mereka. Kami percaya bahawa penggodam ini mungkin akan mencuba dan menggunakan ChatGPT dalam aktiviti penjenayah siber mereka semakin berminat dengan ChatGPT kerana teknologi kecerdasan buatan di belakangnya boleh menjadikan serangan siber mereka lebih cekap Forum penggodaman bawah tanah ini juga menawarkan tutorial dalam bahasa Rusia mengenai perkhidmatan pemesejan teks dalam talian separa sah dan cara menggunakannya untuk mendaftar untuk ChatGPT, menjadikannya kelihatan bahawa ChatGPT sedang digunakan di negara lain yang tidak disekat.

Penggodam belajar daripada forum ini bahawa mereka hanya perlu membayar 2 sen untuk nombor maya dan kemudian menggunakan nombor ini untuk mendapatkan kod daripada OpenAI. Nombor telefon sementara ini boleh datang dari mana-mana sahaja di dunia, dan nombor baharu boleh dijana mengikut keperluan.

Penggunaan berniat jahat Infostealer dan ChatGPT

Siasatan sebelum ini menemui contoh penjenayah siber menyiarkan di forum penggodaman ini cara menggunakan ChatGPT untuk aktiviti haram. Ini termasuk mencipta Infostealer yang sangat mudah. Apabila alat kecerdasan buatan semakin digunakan secara meluas, Infostealers ini akan menjadi lebih maju.

Infostealer ialah contoh menggunakan "alat mudah" ini dan muncul di forum penggodam dalam siaran bertajuk "ChatGPT - Manfaat Perisian Hasad". Penulis catatan menyatakan bahawa penggodam boleh menggunakan ChatGPT untuk mencipta semula perisian hasad dengan menyuap penerangan dan laporan ke dalam alat kecerdasan buatan, dan kemudian berkongsi kod mencuri berasaskan Python yang mencari jenis fail biasa dan menyalinnya ke folder rawak dan memuat naik mereka ke pelayan FTP berkod keras.

Shykevich berkata. "Penjenayah siber mendapati ChatGPT menarik. Dalam beberapa minggu kebelakangan ini, kami telah menemui bukti bahawa penggodam telah mula menggunakan ChatGPT untuk menulis kod berniat jahat. ChatGPT berpotensi untuk menyediakan titik permulaan yang baik untuk penggodam dan mempercepatkan kemajuan serangan siber. Seperti yang boleh dilakukan oleh ChatGPT. digunakan Sama seperti ia membantu pembangun menulis kod, ia juga boleh digunakan untuk tujuan jahat."

OpenAI berkata ia telah mengambil langkah untuk mengehadkan penggunaan ChatGPT, termasuk mengehadkan jenis permintaan yang boleh dibuat, tetapi beberapa permintaan mungkin terlepas. Terdapat juga bukti bahawa petuanya digunakan untuk "menipu" ChatGPT, memberikan contoh kod yang berpotensi berbahaya di bawah nama penyelidikan atau sebagai contoh rekaan.

ChatGPT dan potensi maklumat salah

Sementara itu, OpenAI bekerjasama dengan Pusat Keselamatan dan Teknologi Baru Universiti Georgetown dan Balai Cerap Internet Stanford untuk mengkaji model bahasa besar ( Contohnya, GPT-3), asas ChatGPT, boleh digunakan untuk menyebarkan maklumat palsu.

Model ini boleh digunakan untuk mengurangkan kos operasi pengaruh operasi, memastikan mereka berada dalam jangkauan jenis penjenayah siber baharu, sedangkan sebelum ini hanya pelakon besar yang mempunyai akses kepada jenis kandungan ini. Begitu juga, perekrut yang boleh mengautomasikan pengeluaran teks mungkin mendapat kelebihan daya saing baharu.

Penggunaan ChatGPT oleh penggodam juga boleh membawa kepada tingkah laku yang berbeza, meningkatkan skala serangan siber dan membenarkan penciptaan kandungan yang lebih diperibadikan dan disasarkan berbanding dengan penciptaan manual. Akhirnya, mereka mendapati bahawa alat penjanaan teks mampu menjana mesej yang lebih berkesan dan meyakinkan, berbanding kebanyakan dokumen propaganda yang dijana oleh manusia bahawa penggodam mungkin kekurangan pengetahuan yang diperlukan tentang bahasa atau budaya sasaran mereka.

Penyelidik di OpenAI mengisytiharkan: “Pertimbangan asas kami ialah model bahasa berguna untuk penginjil jenama dan mungkin mengubah operasi pengaruh dalam talian Malah model yang paling canggih disulitkan, atau melalui antara muka Pengaturcaraan aplikasi (API) akses dikawal , dan propagandis juga mungkin cenderung untuk menggunakan alternatif sumber terbuka.”

Atas ialah kandungan terperinci Adakah alat AI menjadi komoditi hangat untuk penjenayah siber? Kajian mendapati penggodam Rusia memintas sekatan OpenAI untuk mengakses ChatGPT. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!