ChatGPT berlumba sepanjang jalan, di manakah tali pinggang keledar kita?

Sejak dikeluarkan pada 30 November tahun lepas, OpenAI's ChatGPT telah merentasi pelbagai bidang sosial dalam masa tiga bulan sahaja: orang biasa menggunakannya sebagai enjin carian; kerani pejabat menggunakannya untuk menulis salinan dan melakukan... Mesyuarat minit, yang digunakan pengaturcara untuk menulis kod.

Tetapi, yang membimbangkan, pelajar juga menggunakannya untuk membuat kerja rumah. Tinjauan beberapa waktu lalu menunjukkan bahawa hampir 90% pelajar di Amerika Syarikat sudah menggunakan ChatGPT untuk menulis kerja rumah, dan satu kertas yang dihasilkan oleh ChatGPT malah menduduki tempat pertama dalam kelas. Bagi guru sekolah, perubahan ini berlaku terlalu mendadak. Sebelum membuat tindakan balas, beberapa sekolah secara langsung memilih untuk mengharamkannya.

Sesetengah syarikat juga telah mengharamkan ChatGPT, termasuk institusi kewangan Wall Street seperti Citigroup, Goldman Sachs dan JPMorgan Chase, kerana mereka bimbang pekerja akan membocorkan maklumat sensitif syarikat apabila menggunakan ChatGPT. .

Respon tergesa-gesa ini mencerminkan masalah: Masyarakat kita belum bersedia untuk kedatangan model generatif AI seperti ChatGPT, perbincangan mengenai berkaitan isu perlu diletakkan dalam agenda. Mungkin ini juga sebab mengapa Persidangan Perintis Pembangun Kecerdasan Buatan Global yang diadakan baru-baru ini "Youzhizhi: Forum Tema Keselamatan dan Wawasan Etika AI " penuh dengan tempat duduk.

Walaupun tema persidangan ialah "A Safety and Ethical Insights", skop perbincangan tetamu adalah tidak terhad kepada ini, sebaliknya, perbincangan berbilang dimensi telah ditambah, daripada kesan model penjanaan AI seperti ChatGPT pada penyelidikan asas kepada isu aplikasinya kepada idea untuk latihan bakat dalam era baharu telah dijalankan daripada semua sudut. Melalui forum ini, semua orang cuba menggariskan jawapan kepada soalan: Dalam era AIGC yang telah tiba, bagaimana kita harus bertindak balas ?

Apakah inspirasi dan cabaran yang dibawa oleh ChatGPT kepada bidang penyelidikan saintifik?

Pada Januari tahun ini, pemenang Anugerah Turing Yann LeCun telah diletakkan dalam senarai carian hangat kerana penilaiannya yang keras terhadap ChatGPT. Pada pandangan beliau, "Setakat teknologi asas berkenaan, ChatGPT tidak mempunyai inovasi khas," dan bukan juga "sesuatu yang revolusioner Ia hanya boleh dianggap sebagai contoh kejuruteraan yang baik."

"Sama ada ChatGPT adalah revolusioner" ialah topik kontroversi. Tetapi tidak ada keraguan bahawa ia sememangnya karya kejuruteraan. Di tempat kejadian, E Weinan, ahli akademik Akademi Sains Cina, turut menyatakan perkara ini.

Beliau juga menekankan bahawa karya agung ini adalah hasil pengesahan beransur-ansur dan pelaburan tertumpu OpenAI. Antaranya, “concentrated investment” adalah sangat penting. Kerana kejayaan OpenAI menunjukkan bahawa kaedah pemerkasaan AI "bengkel kecil, berasaskan projek" sebelum ini menjadi sejarah, dan "kejuruteraan AI dan platformisasi" menjadi sokongan penting untuk mengeluarkan dividen teknologi kecerdasan buatan. Sekiranya ia dapat menyesuaikan diri dengan perubahan ini, kejayaan AI dalam bidang bahasa semula jadi dijangka dapat direplikasi dalam bidang penyelidikan saintifik asas. Ini juga merupakan kerja yang diceburi oleh Academician E Weinan dalam bidang AI untuk Sains.

Sudah tentu, kerja ini tidak mudah dan memerlukan kami menumpukan pada membina infrastruktur platform untuk penyelidikan saintifik asas, termasuk data, alatan perisian asas, platform pengkomputeran dan platform penyelidikan kimia , dsb. Dalam beberapa tahun kebelakangan ini, Academician E telah mengetuai pasukan untuk melakukan beberapa kerja dalam bidang ini dan mengeluarkan hasil penting seperti model pra-latihan fungsi tenaga potensi antara atom.

Walau bagaimanapun, kerja mereka masih menghadapi banyak cabaran, seperti format data terkumpul berbeza dan bising, perisian tidak mempunyai sistem ujian asas, infrastruktur pengkomputeran tidak dapat bersaing, dsb. Pada pandangan Academician E, ini adalah "kegelapan sebelum subuh."

Selain sains semula jadi, kemunculan ChatGPT juga telah memberi inspirasi kepada penyelidik dalam bidang sains sosial. Dalam hal ini, Wu Guanjun, Dekan Pusat Pengajian Politik dan Hubungan Antarabangsa di Universiti Normal China Timur , menyumbangkan idea yang sangat berharga.

Dean Wu menegaskan bahawa penyelidik sains sosial sepatutnya mempunyai sedikit perasaan krisis di hadapan ChatGPT. Pertama sekali, di belakangnya terdapat sejumlah besar data yang mungkin tidak dapat dikumpulkan oleh ahli antropologi melalui tinjauan lapangan tradisional, dan ia boleh memproses sejumlah besar data dalam masa yang singkat. Kedua, ia "membaca" sejumlah besar buku, yang mungkin tidak dapat dihabiskan oleh seseorang seumur hidup.

"Kami menghadapi ketunggalan (teknologi), tetapi ramai ulama kami tidak menyedarinya," kata Wu Guanjun.

Kesingularan teknologi di sini merujuk kepada sudut pandangan yang diringkaskan berdasarkan sejarah perkembangan teknologi, yang percaya bahawa peristiwa yang tidak dapat dielakkan akan berlaku pada masa hadapan: pembangunan teknologi akan berlaku dalam masa yang sangat lama. masa yang singkat Kemajuan besar yang hampir tidak terhingga berlaku dalam. Pada masa itu, semua pengetahuan, nilai dan peraturan yang kita kenali akan menjadi tidak sah.

Oleh itu, beliau menyeru saintis sosial untuk bekerjasama dengan saintis lain untuk memajukan penyelidikan mengenai era ketunggalan teknologi. Penyelidikan jenis ini memfokuskan kepada "pengetahuan praktikal" (seperti etika dan politik) dalam klasifikasi pengetahuan Aristotle, kerana dalam dua jenis pengetahuan lain (pengetahuan produktif dan pengetahuan teori), AI telah mula belajar malah Belajar lebih baik daripada manusia. Dalam bidang ilmu praktikal seperti politik, AI hanya boleh menceritakan semula dan tidak boleh mencipta dunia baharu. Oleh itu, Dean Wu percaya bahawa manusia akan mempunyai potensi besar dalam bidang ini.

Pasaran AIGC hampir meletup. Bagaimanakah pihak aplikasi perlu bersedia?

Beberapa hari lalu, OpenAI mengeluarkan ChatGPT API di tengah-tengah panggilan yang sudah lama ditunggu-tunggu, dan harganya sangat murah, menjana satu juta token pada harga $2 sahaja. Untuk bahagian aplikasi, ini adalah berita yang cukup menggembirakan. Pada masa yang sama, penyelidikan dan pembangunan produk seperti ChatGPT domestik juga semakin pantas, dan produk baharu akan dikeluarkan bulan ini. Adalah dijangka bahawa pada tahun hadapan, aplikasi yang disokong oleh model AIGC akan meletup di dalam dan di luar negara.

Tetapi pada masa yang sama, pelaburan kami dalam bahagian aplikasi nampaknya tidak dapat bersaing dengan Pengerusi Deloitte China Jiang Ying Fenomena yang diperhatikan.

Secara khusus, beliau mendapati bahawa pembangunan kecerdasan buatan negara saya mempunyai ketidakseimbangan dalam pelaburan dalam bahagian bekalan R&D dan bahagian permintaan aplikasi. Ketidakseimbangan ini nyata dalam tiga aspek.

Pertama sekali, dari segi peranan, banyak organisasi pembuat keputusan semasa kebanyakannya terdiri daripada institusi penyelidikan saintifik dan syarikat teknologi, dan penyertaan pihak yang berkaitan dalam senario aplikasi seperti industri persatuan agak tidak mencukupi. Oleh itu, Jiang Ying percaya bahawa kita perlu mewujudkan pakatan berbilang parti untuk meningkatkan lagi peranan mengubah kuasa sisi permintaan dalam pembangunan kecerdasan buatan.

Kedua, dari segi pembangunan, peningkatan pembangunan kecerdasan buatan melalui inovasi teknologi telah disebut sepenuhnya dan mendapat banyak sokongan, tetapi kuasa inovasi model belum dinilai sepenuhnya. . Oleh itu, Jiang Ying mencadangkan agar kita menggalakkan penggunaan praktikal model perniagaan inovatif kecerdasan buatan dan meningkatkan penyelidikan dalam bidang ini.

Akhir sekali, dari segi latihan bakat, banyak universiti kini mempunyai jurusan berkaitan kecerdasan buatan, tetapi kebanyakan jurusan ini terhad kepada penanaman pengetahuan dan kemahiran sains dan kejuruteraan, menyebabkan aplikasi teknikal dan pengurusan Bakat dengan pengetahuan dua hala agak terhad. Anda mesti tahu bahawa dalam senario aplikasi sebenar, jika AI ingin benar-benar mencapai kecekapan ekonomi, tidak cukup dengan hanya menggunakannya untuk menyelesaikan kerja barisan pengeluaran tertentu Seluruh proses dan struktur pengurusan perlu diubah memenuhi keperluan tersebut pada masa ini sangat terhad.

Di peringkat aplikasi, SenseTime Intelligence Tian Feng, pengarah Institut Penyelidikan Perindustrian dan timbalan pengarah Institut Penyelidikan Kecerdasan Buatan Shanghai, turut berkongsi pandangannya, tetapi dia lebih mengambil berat tentang pelbagai risiko yang wujud dalam proses aplikasi AI, termasuk risiko model, Risiko data dan banyak lagi. .

Secara khusus, Tian Feng menyokong penggunaan teknologi dan alatan pengurusan untuk meningkatkan keupayaan tadbir urus etika AI korporat. Dalam beberapa tahun kebelakangan ini, SenseTime telah membangunkan satu set kotak alat tadbir urus risiko etika AI, termasuk penanda air digital, penyahpekaan data, kotak pasir data, platform pemeriksaan fizikal model, dsb., meliputi reka bentuk, pembangunan, penggunaan dan kitaran hayat produk yang lengkap .

Pelajar menggunakan ChatGPT, apakah yang perlu dilakukan oleh guru?

Di forum itu, Naib Presiden Universiti Shanghai Wang Xiaofan telah ditanya soalan: Adakah Universiti Shanghai akan melarang pelajar menggunakan ChatGPT? Sebagai tindak balas, Pengetua Wang menjawab: Saya tidak menyokong pengharamannya.

Pada pandangan beliau, kemunculan alatan AI seperti ChatGPT mempunyai sisi positifnya.

Dalam latihan mengajar, ia boleh memberi pelajar maklum balas segera, membantu pelajar membuat kemajuan lebih pantas seperti AlphaGo membantu pemain catur manusia. Ingat bahawa 30 tahun yang lalu, kami masih menyemak dokumen satu per satu di perpustakaan 20 tahun yang lalu, kami mula mencari dokumen dalam talian dengan cepat dan hari ini, ChatGPT sudah boleh membantu kami menyusun dokumen menjadi abstrak atau ulasan. Ini sudah pasti meningkatkan kecekapan pengetahuan pembelajaran kita.

Dari segi kandungan dan kaedah pengajaran, ia akan memaksa tenaga pengajar untuk merenung: Apakah jenis pengetahuan yang harus diberikan oleh pendidikan kita? Bagaimanakah kita boleh menggunakan alatan seperti ChatGPT untuk menjadikan pengajaran dan pembelajaran pendidikan tinggi kita lebih cekap? Selepas pusingan refleksi dan perubahan ini, pendidikan tinggi mungkin lebih dekat dengan intipatinya. Seperti yang dikatakan oleh Einstein, "Nilai pendidikan kolej bukan untuk menghafal banyak fakta, tetapi untuk melatih otak untuk berfikir... Keutamaan utama harus sentiasa penanaman keupayaan keseluruhan pemikiran dan pertimbangan bebas, bukannya pemerolehan. pengetahuan." pengetahuan khusus".

Sudah tentu, masalah yang dibawa oleh ChatGPT kepada pendidikan tinggi tidak dapat dielakkan. Dalam hal ini, Presiden Wang mencadangkan tiga tugas yang perlu dilakukan: pertama, terdapat peraturan yang perlu dipatuhi, iaitu, merumuskan prinsip panduan penggunaan AIGC dalam pengajaran dan penyelidikan, dan memastikan pelajar dan guru dapat memahami dan mengikuti ini. garis panduan; kedua, Penggunaan adil, iaitu menyokong penggunaan AIGC yang munasabah dalam pengajaran, pembelajaran dan penyelidikan, tetapi mengambil langkah-langkah berkesan untuk melarang salah laku akademik seperti plagiarisme, demonstrasi pengajaran, iaitu guru memainkan peranan dalam proses pengajaran dan penyelidikan, dan menggunakan penggunaan saksama Teknologi kecerdasan buatan seperti AIGC disepadukan ke dalam pengajaran kursus integriti dan etika akademik.

Pembangunan kecerdasan buatan tidak boleh mengikut laluan lama kereta

Selain perkongsian indah para tetamu, forum ini juga menghasilkan dua keputusan penting.

Keputusan pertama ialah ahli pakar teras kumpulan kerja "Garis Panduan Tadbir Urus Kitaran Hayat Sistem Kecerdasan Buatan Teknologi Maklumat" telah dianugerahkan surat pelantikan. Panduan ini akan bermula daripada reka bentuk konsep model algoritma AI dan dijalankan melalui kitaran hayat lengkap pembangunan, ujian dan penilaian, penggunaan, pemantauan operasi dan persaraan, memberikan panduan untuk tadbir urus sistem kecerdasan buatan. Ini adalah piawaian tempatan pertama negara mengenai tadbir urus sistem kecerdasan buatan Ia bertujuan untuk menggalakkan pembangunan dengan peraturan standard, mengekalkan garis bawah keselamatan dan etika melalui cara teknikal dan langkah pengawalseliaan, dan memastikan bahawa teknologi seperti AIGC dapat menggunakan sepenuhnya sosial dan etika mereka. nilai ekonomi dan menggunakannya Hasil sebenar mewujudkan "pengalaman Shanghai" dalam pembangunan kecerdasan buatan.

Pelancaran dan penandatanganan keputusan kedua "Inisiatif Etika Keselamatan Kepintaran Buatan Shanghai 2023". "Cadangan" dipandu oleh "Peraturan Shanghai tentang Menggalakkan Pembangunan Industri Kepintaran Buatan", menyokong pembangun kecerdasan buatan untuk bergerak ke arah yang terang, dan memastikan industri kecerdasan buatan bergerak ke arah keadilan dan keadilan, keselamatan kandungan, privasi perlindungan, kesalinghubungan, dan pembinaan dan perkongsian bersama Hala tuju tadbir urus terus maju dan berkembang ke atas. Wakil daripada Persatuan Industri Kepintaran Buatan Shanghai, Persatuan Intelektual Muda dan Pertengahan Umur Shanghai, Kumpulan Lingang Shanghai, Akademi Teknologi Maklumat dan Komunikasi Cawangan China Timur, dan Pusat Pembangunan Perisian Perbandaran bersama-sama menandatangani "Cadangan".

Kenapa awak buat dua perkara ini? Dalam ucapannya, Presiden Wang menyebut sekeping trivia: kereta itu dicipta pada penghujung abad ke-19, tetapi tidak sampai separuh kedua abad ke-20 negara yang berbeza memperkenalkan peraturan yang mewajibkan pemakaian tali pinggang keledar semasa memandu. Dapat dibayangkan berapa ramai orang yang mati sia-sia.

Jika anda memikirkannya dengan teliti, kami sebenarnya agak seperti mereka yang baru sahaja terdedah kepada kereta pada abad ke-19: AIGC yang baru muncul semakin pantas, tetapi tiada peraturan untuk menyekat pemandu, dan terdapat tiada tali pinggang keledar untuk orang di dalam kereta. Isu-isu ini adalah mendesak.

"Perkembangan kecerdasan buatan hari ini jelas tidak boleh mengikut laluan kereta," kata Pengetua Wang dengan ikhlas. Mengambil forum sebagai titik tolak, semua pihak dalam masyarakat sedang menerokai laluan baharu agar kita tenang menghadapi kedatangan era AIGC.

Atas ialah kandungan terperinci ChatGPT berlumba sepanjang jalan, di manakah tali pinggang keledar kita?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!