Sumber terbuka! Cina Hong Kong, MIT, dan Fudan mencadangkan model asas RNA yang pertama

Berbeza dengan bidang protein, penyelidikan dalam bidang RNA selalunya kekurangan data anotasi yang mencukupi Contohnya, data 3D hanya mempunyai lebih daripada 1,000 RNA. Ini sangat mengehadkan pembangunan kaedah pembelajaran mesin dalam tugas ramalan fungsi struktur RNA.

Untuk mengimbangi kekurangan data beranotasi, Artikel ini menunjukkan model asas yang boleh memberikan pengetahuan struktur dan fungsi yang kaya untuk pelbagai kajian RNA - RNA model asas ( RNA-FM). Sebagai model asas RNA pertama di dunia dilatih dengan cara tanpa pengawasan berdasarkan 23 juta jujukan RNA tidak berlabel, RNA-FM melombong corak evolusi dan struktur yang terkandung dalam jujukan RNA.

Perlu diperhatikan bahawa RNA-FM hanya perlu memadankan model hiliran yang mudah atau hanya menyediakan pembenaman, dan ia boleh mencapai prestasi yang jauh melebihi SOTA dalam banyak tugas hiliran, seperti Ia boleh dipertingkatkan sebanyak 20% dalam ramalan struktur sekunder dan 30% dalam ramalan peta jarak. Eksperimen berskala besar telah membuktikan bahawa model ini sangat boleh digeneralisasikan malah boleh digunakan untuk COVID-19 dan serpihan pengawalseliaan mRNA.

​

• Pracetak kertas: https://arxiv org /abs/2204.00300
• Kod dan model: https://github.com/ml4bio/RNA-FM
• Pelayan: https://proj.cse.cuhk.edu.hk/rnafm

Pengenalan

Dalam beberapa tahun kebelakangan ini, kaedah pengkomputeran biologi berdasarkan pembelajaran mendalam telah mencapai kemajuan yang cemerlang dalam bidang protein Pencapaian yang paling terkenal ialah rangka kerja ramalan struktur 3D protein hujung ke hujung AlphaFold2 yang dibangunkan oleh pasukan Google DeepMind. Walau bagaimanapun, protein hanyalah satu jenis daripada banyak molekul biologi (DNA/RNA), sebagai sumber penghasilan protein, mengandungi lebih banyak maklumat asas daripada yang terakhir dan mempunyai nilai penyelidikan yang lebih penting.

Secara umumnya, protein ialah produk terjemahan daripada RNA yang digunakan untuk pengekodan, iaitu mRNA tetap boleh diterjemahkan ke dalam urutan protein tetap. Malah, bahagian pengekodan RNA ini hanya menyumbang 2% daripada semua urutan RNA, dan baki 98% ialah RNA bukan pengekodan (ncRNA). Walaupun ncRNA tidak "diterjemahkan" secara langsung kepada protein, ia terlipat menjadi struktur tertier dengan fungsi tertentu dan memainkan peranan pengawalseliaan dalam proses terjemahan mRNA atau fungsi biologi yang lain. Oleh itu, menganalisis struktur dan fungsi ncRNA adalah penyelidikan yang lebih asas dan kompleks daripada analisis protein.

Walau bagaimanapun, berbanding medan protein di mana kaedah pengiraan lebih matang, ramalan struktur dan fungsi berasaskan RNA masih dalam peringkat awal, dan kaedah pengiraan pada asalnya digunakan untuk medan protein adalah juga sukar untuk dipindahkan secara langsung ke medan RNA. Had utama kaedah pengiraan ini ialah anotasi data RNA biasanya sukar diperoleh, dan ia memerlukan banyak sumber percubaan dan masa untuk melengkapkan anotasi sejumlah kecil data Kebanyakan kaedah pengiraan memerlukan sejumlah besar data beranotasi untuk penyeliaan untuk mencapai prestasi tinggi. Walaupun tidak banyak data beranotasi, medan RNA sebenarnya telah mengumpul banyak data jujukan yang tidak bernotasi. Kaedah artikel ini adalah menggunakan data tidak berlabel ini untuk menyediakan maklumat tambahan yang berkesan untuk pelbagai tugas hiliran.

Berdasarkan pertimbangan ini, Pasukan Makmal Kecerdasan Buatan Hong Kong, MIT, Fudan dan Shanghai mencadangkan kaedah tanpa pengawasan kepada Yayasan RNA model (RNA-FM) dilatih pada 23 juta jujukan RNA tulen tanpa label. Walaupun data tidak memberikan maklumat anotasi semasa proses latihan, RNA-FM masih menambang corak evolusi dan struktur yang terkandung dalam jujukan RNA ini dengan cara yang tidak diawasi.

Jika RNA-FM boleh digunakan dengan berkesan pada struktur RNA hiliran dan tugas ramalan fungsi, kaedah pengiraan ini pasti akan mendapat manfaat daripada pengetahuan yang didorong oleh RNA-FM dan mencapai peningkatan prestasi prestasi yang lebih baik. Rangka kerja pra-latihan huluan dan migrasi hiliran dan aplikasi RNA-FM ditunjukkan dalam rajah di bawah.

Gambaran Keseluruhan Penyelidikan

Untuk mengesahkan sama ada RNA-FM pra-latihan telah mempelajari "pengetahuan" daripada sejumlah besar data tidak berlabel dan Apakah jenis "pengetahuan" yang telah dipelajari? Artikel menjalankan satu siri analisis mengenai pembenaman.

Pertama ialah perbandingan pengelompokan mudah pelbagai ciri secara terus melalui UMAP , dan didapati bahawa pembenaman daripada RNA pra-latihan -FM lebih baik daripada yang lain. Membenamkan membentuk kelompok dengan spesies RNA yang lebih berbeza. Ini bermakna pembenaman RNA-FM memang mengandungi maklumat struktur atau berfungsi untuk membezakan spesies RNA.

Kemudian, Artikel itu juga menggunakan inferens trajektori (inferens Trajektori) untuk meramalkan evolusi lncRNA daripada spesies yang berbeza melalui pembenaman RNA-FM . Daripada streamplot di bawah, ramalan masa pseudo evolusi antara spesies adalah kira-kira konsisten dengan maklumat evolusi spesies sebenar, menunjukkan bahawa pembenaman RNA-FM juga mengandungi sebahagian daripada maklumat evolusi.

Perlu diambil perhatian bahawa sama ada maklumat komuniti spesies RNA atau maklumat evolusi lncRNA, RNA-FM tidak terdedah secara langsung kepada label ini semasa latihan. RNA-FM menemui corak yang berkaitan dengan struktur, fungsi dan evolusi daripada jujukan tulen dengan cara yang diselia sendiri sepenuhnya .

Lebih banyak hasil eksperimen

Selain menganalisis secara langsung pembenaman RNA-FM , artikel itu juga cuba memperkenalkan RNA-FM kepada pelbagai tugas ramalan struktur RNA hiliran, termasuk struktur sekunder, ramalan kenalan, ramalan jarak dan ramalan struktur tertier, dan telah mencapai hasil yang jelas .

Terutama dalam ramalan struktur sekunder, artikel itu menggunakan RNA-FM sebagai tulang belakang dan hanya rangkaian ResNet yang ringkas sebagai model hiliran, mengatasi dua set data awam yang lain kaedah -of-the-art adalah lebih baik daripada UFold terbaik dengan 3-5 mata peratusan dalam F1score Dalam perbandingan head-to-head dengan UFold, RNA-FM berprestasi lebih baik dalam kebanyakan kategori RNA. Jika RNA-FM digabungkan dengan E2Efold, peningkatan prestasi 5% lagi boleh dicapai.

Untuk mengesahkan nilai aplikasi praktikal model, artikel Menggunakan RNA-FM untuk menjalankan analisis lengkap data COVID-19, termasuk menggunakan RNA-FM untuk meramal dengan tepat elemen pengawalseliaan utama dalam genom rujukan COVID-19 (29870 nt), dan menggunakan pembenaman RNA-FM untuk meramalkan secara kasar arah aliran evolusi COVID-19 utama -19 varian.

Secara umumnya, struktur molekul menentukan fungsinya Memandangkan RNA-FM boleh menyelesaikan tugas ramalan struktur RNA dengan cemerlang, adakah mungkin untuk menggunakan RNA-FM untuk juga meningkatkan ramalan fungsi?

Oleh itu, artikel seterusnya cuba memperkenalkan RNA-FM ke dalam tugas ramalan fungsi RNA hiliran , seperti menggunakan pembenaman RNA-FM. Ramalan peranan RNA-protein.

Percubaan telah membuktikan bahawa pengenalan pembenaman RNA-FM telah meningkatkan prestasi model, dan dalam beberapa kes ia telah mencapai hasil ramalan yang sepadan dengan maklumat struktur sekunder sebenar sebagai input.

Untuk meneroka sama ada RNA-FM berdasarkan latihan ncRNA boleh digeneralisasikan kepada RNA lain, artikel akhirnya mencuba untuk menggunakan RNA -FM melaksanakan ramalan fungsi ekspresi protein berdasarkan 5'UTR pada mRNA. Walaupun mRNA bukan milik ncRNA, 5'UTR di atasnya adalah rantau yang tidak diterjemahkan tetapi mempunyai fungsi pengawalseliaan, yang konsisten dengan ciri-ciri ncRNA dan tidak muncul dalam data latihan.

Seperti yang anda lihat daripada rajah di bawah, model yang menyertakan pembenaman RNA-FM sentiasa lebih baik daripada model yang tidak. Walaupun peningkatan dalam prestasi agak terhad, ia sebahagiannya menunjukkan bahawa RNA-FM juga mempunyai keupayaan generalisasi tertentu pada data bukan ncRNA.

Kesimpulan

Secara amnya, artikel ini menggunakan data jujukan RNA yang tidak berlabel untuk pra-melatih model bahasa RNA-FM, dan melalui kaedah langsung atau tidak langsung, satu siri pengesahan Komprehensif struktur atau berfungsi pada tugas yang berbeza membuktikan bahawa RNA-FM sememangnya boleh meningkatkan prestasi kaedah pengkomputeran dalam tugas hiliran dengan berkesan.

Kemunculan RNA-FM telah mengurangkan keadaan semasa data berlabel RNA pada tahap tertentu, dan menyediakan penyelidik lain antara muka yang mudah untuk mengakses kumpulan besar data tidak berlabel, yang akan Sebagai model asas dalam bidang RNA, ia memberikan sokongan dan bantuan yang kuat untuk pelbagai penyelidikan dalam bidang ini.

Mengenai pengarang

Artikel ini mempunyai dua pengarang bersama pertama. Chen Jiayang ialah pembantu penyelidik di Universiti Cina Hong Kong. Hu Zhihang ialah calon kedoktoran di Universiti Cina Hong Kong.

Terdapat dua pengarang yang sepadan untuk artikel ini. Sun Siqi, penyelidik muda di Makmal Sistem Kompleks Pintar Universiti Fudan dan Makmal Kepintaran Buatan Shanghai, halaman utama https://intersun.github.io.

Li Yu, Penolong Profesor di Universiti China Hong Kong, Penolong Profesor Pelawat di MIT James Collins Lab, Saintis Penyelidikan di Institut Broad MIT dan Harvard, Sarjana Pelawat di Institut Wyss di Universiti Harvard, senarai Forbes 30 Bawah 30 Asia–Kelas 2022, Penjagaan Kesihatan & Sains. Laman utama: https://liyu95.com.

Atas ialah kandungan terperinci Sumber terbuka! Cina Hong Kong, MIT, dan Fudan mencadangkan model asas RNA yang pertama. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!