찾다
기술 주변기기일체 포함반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.

KAN은 상징적 표현을 선도하지만 MLP는 여전히 일반주의자입니다.


Les perceptrons multicouches (MLP), également connus sous le nom de réseaux neuronaux à rétroaction entièrement connectés, sont un composant de base des modèles d'apprentissage profond d'aujourd'hui. L'importance du MLP ne peut être surestimée car il s'agit de la méthode par défaut pour approximer les fonctions non linéaires dans l'apprentissage automatique.

Cependant, MLP présente également certaines limites, telles que la difficulté à interpréter les représentations apprises et la difficulté à faire évoluer de manière flexible la taille du réseau. L'émergence de

KAN (Kolmogorov-Arnold Networks) offre une alternative innovante au MLP traditionnel. Cette méthode surpasse MLP en termes de précision et d’interprétabilité, et elle est capable de surpasser MLP fonctionnant avec un nombre beaucoup plus grand de paramètres avec un très petit nombre de paramètres.

Alors, la question est : lequel dois-je choisir entre KAN et MLP ? Certaines personnes soutiennent MLP parce que KAN n'est qu'un MLP ordinaire et ne peut pas être remplacé du tout, mais d'autres pensent que KAN est supérieur. La comparaison actuelle entre les deux est également limitée à différents paramètres ou FLOP, et les résultats expérimentaux sont injustes.

Afin d'explorer le potentiel de KAN, il est nécessaire de comparer de manière exhaustive KAN et MLP dans un cadre équitable.

À cette fin, des chercheurs de l'Université nationale de Singapour ont formé et évalué KAN et MLP dans des tâches dans différents domaines, notamment la représentation de formules symboliques, l'apprentissage automatique, tout en contrôlant les paramètres ou FLOP de KAN et MLP, PNL et traitement audio. Dans ces paramètres équitables, ils ont constaté que KAN surpassait uniquement MLP sur la tâche de représentation de formule symbolique, tandis que MLP surpassait généralement KAN sur d'autres tâches.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
  • Adresse du papier : https://arxiv.org/pdf/2407.16674
  • Lien du projet : https://github.com/yu-rp/KANbeFair
  • Titre du papier : KAN ou MLP : Une comparaison plus juste

L'auteur a en outre découvert que L'avantage de KAN dans la représentation symbolique des formules découle de son utilisation de la fonction d'activation B-spline. Initialement, les performances globales de MLP étaient en retard par rapport à KAN, mais après avoir remplacé la fonction d'activation de MLP par des B-splines, ses performances ont égalé ou même dépassé KAN. Cependant, les B-splines ne peuvent pas améliorer davantage les performances du MLP sur d'autres tâches telles que la vision par ordinateur.

Les auteurs ont également constaté que KAN ne fonctionnait pas mieux que MLP sur les tâches d'apprentissage continu. L'article original du KAN comparait les performances du KAN et du MLP sur une tâche d'apprentissage continu utilisant une série de fonctions unidimensionnelles, où chaque fonction suivante est une traduction de la fonction précédente le long de l'axe des nombres. Cet article compare les performances de KAN et MLP dans un cadre d’apprentissage continu incrémentiel de classe plus standard. Dans des conditions d’itération d’entraînement fixes, ils ont découvert que le problème d’oubli de KAN est plus grave que celui de MLP.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
KAN, brève introduction de MLP

KAN a deux branches, la première branche est la branche B-spline et l'autre branche est la branche de raccourci, c'est-à-dire que l'activation non linéaire et la transformation linéaire sont connectés ensemble. Dans l'implémentation officielle, la branche raccourcie est une fonction SiLU suivie d'une transformation linéaire. Soit x représente le vecteur caractéristique d'un échantillon. Ensuite, l'équation directe de la branche spline KAN peut s'écrire comme suit :
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
Dans l'architecture KAN originale, la fonction spline est choisie comme fonction B-spline. Les paramètres de chaque fonction B-spline sont appris avec les autres paramètres du réseau.

En conséquence, l'équation directe du MLP monocouche peut être exprimée comme suit :
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
Cette formule a la même forme que la formule de branche B-spline dans KAN, sauf qu'elle diffère par la fonction non linéaire . Par conséquent, quelle que soit l’interprétation de la structure KAN donnée par l’article original, KAN peut également être considéré comme une couche entièrement connectée.

Par conséquent, il existe deux différences principales entre KAN et MLP ordinaire :

  1. La fonction d'activation est différente. Habituellement, la fonction d'activation dans MLP inclut ReLU, GELU, etc., qui n'ont pas de paramètres apprenables et sont uniformes pour tous les éléments d'entrée. Dans KAN, la fonction d'activation est une fonction spline avec des paramètres apprenables, et pour chaque entrée, les éléments sont tous différents. .
  2. Séquence d'opérations linéaires et non linéaires.Secara umumnya, penyelidik akan berkonsepkan MLP sebagai pertama melakukan transformasi linear dan kemudian transformasi tak linear, manakala KAN sebenarnya melakukan transformasi bukan linear dahulu dan kemudian transformasi linear. Tetapi pada tahap tertentu, ia juga boleh digunakan untuk menggambarkan lapisan yang bersambung sepenuhnya dalam MLP sebagai pertama bukan linear dan kemudian linear.

Dengan membandingkan KAN dan MLP, kajian ini percaya bahawa perbezaan antara keduanya adalah terutamanya fungsi pengaktifan. Oleh itu, mereka membuat hipotesis bahawa perbezaan dalam fungsi pengaktifan menjadikan KAN dan MLP sesuai untuk tugas yang berbeza, menyebabkan perbezaan fungsi antara kedua-dua model. Untuk menguji hipotesis ini, penyelidik membandingkan prestasi KAN dan MLP pada tugasan yang berbeza dan menerangkan tugasan yang mana setiap model sesuai. Untuk memastikan perbandingan yang adil, kajian ini mula-mula memperoleh formula untuk mengira bilangan parameter dan FLOP KAN dan MLP. Proses percubaan mengawal bilangan parameter atau FLOP yang sama untuk membandingkan prestasi KAN dan MLP. Bilangan parameter 的 Kan dan MLP dan bilangan parameter kawalan dalam FLOP



반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.

🎗 반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.


반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.





🎜🎜🎜🎜🎜🎜, Berat pintasan, berat berat bersaiz B dan istilah bias. Jumlah bilangan parameter yang boleh dipelajari ialah: 🎜🎜🎜🎜🎜di mana, d_in dan d_out mewakili dimensi input dan output lapisan rangkaian saraf, K mewakili susunan spline, yang sepadan dengan parameter k nn.Modul rasmi KANLayer, iaitu susunan asas polinomial dalam fungsi spline. G mewakili bilangan selang spline, yang sepadan dengan parameter nombor nn.Modul KANLayer rasmi. Ia adalah bilangan selang B-spline sebelum diisi. Sebelum mengisi, ia adalah sama dengan bilangan titik kawalan - 1. Selepas mengisi, perlu ada (K +G) titik kawalan yang sah. 🎜🎜🎜🎜🎜Selaras dengan itu, parameter yang boleh dipelajari bagi lapisan MLP ialah: 🎜🎜🎜🎜🎜🎜KAN dan FLOP MLP🎜🎜🎜🎜🎜🎜🎜🎜🎜🎜 OP1 yang akan saya lakukan, dalam mana-mana penilaian OP1 yang akan saya lakukan, dalam mana-mana penilaian yang akan saya lakukan, dalam mana-mana penilaian yang akan datang. FLOP operasi Boolean dianggap sebagai 0. Operasi tertib ke-0 dalam algoritma De Boor-Cox boleh ditukar kepada satu siri operasi Boolean yang tidak memerlukan operasi titik terapung. Oleh itu, secara teorinya, FLOPnya ialah 0. Ini berbeza daripada pelaksanaan KAN rasmi, di mana ia menukar data boolean kembali kepada data titik terapung untuk operasi. 🎜🎜🎜🎜🎜Dalam penilaian penulis, FLOP dikira untuk satu sampel. FLOP B-spline yang dilaksanakan menggunakan formula lelaran De Boor-Cox dalam kod KAN rasmi ialah: 🎜🎜🎜🎜🎜 Bersama-sama dengan FLOP laluan pintasan dan FLOP penggabungan dua cabang, jumlah FLOP lapisan KAN ialah: 🎜🎜🎜🎜🎜 Sejajar dengan itu, FLOP lapisan MLP ialah: 🎜🎜🎜🎜🎜Perbezaan FLOP antara lapisan KAN dan lapisan MLP dengan dimensi input dan dimensi output yang sama boleh dinyatakan sebagai: 🎜🎜🎜🎜 🎜Jika MLP juga melakukan operasi tak linear terlebih dahulu , maka sebutan utama akan menjadi sifar. 🎜🎜🎜🎜🎜🎜 Eksperimen 🎜🎜🎜🎜🎜🎜Matlamat pengarang adalah untuk membandingkan perbezaan prestasi antara KAN dan MLP apabila bilangan parameter atau FLOP adalah sama. Percubaan merangkumi pelbagai bidang, termasuk pembelajaran mesin, penglihatan komputer, pemprosesan bahasa semula jadi, pemprosesan audio dan perwakilan formula simbolik. Semua eksperimen menggunakan pengoptimum Adam dan semuanya dijalankan pada GPU RTX3090. 🎜🎜🎜🎜🎜🎜Perbandingan prestasi🎜🎜🎜🎜🎜🎜Pembelajaran mesin. Pengarang menjalankan eksperimen pada 8 set data pembelajaran mesin, menggunakan KAN dan MLP dengan satu atau dua lapisan tersembunyi, dan berdasarkan ciri setiap set data, mereka melaraskan dimensi input dan output rangkaian saraf. 🎜🎜🎜🎜🎜Untuk MLP, lebar lapisan tersembunyi ditetapkan kepada 32, 64, 128, 256, 512 atau 1024, dan GELU atau ReLU digunakan sebagai fungsi pengaktifan, manakala lapisan normalisasi digunakan dalam MLP. Untuk KAN, lebar lapisan tersembunyi ialah 2, 4, 8, atau 16, bilangan jejaring B-spline ialah 3, 5, 10, atau 20, dan darjah B-spline ialah 2, 3, atau 5.

Memandangkan seni bina KAN asal tidak termasuk lapisan normalisasi, untuk mengimbangi kemungkinan kelebihan lapisan normalisasi dalam MLP, penulis mengembangkan julat nilai fungsi spline KAN. Semua eksperimen telah dijalankan untuk 20 pusingan latihan, dan ketepatan terbaik yang dicapai pada set ujian semasa proses latihan telah direkodkan, seperti yang ditunjukkan dalam Rajah 2 dan 3.

Pada set data pembelajaran mesin, MLP biasanya mengekalkan kelebihan. Dalam eksperimen mereka pada lapan set data, MLP mengatasi KAN pada enam set data. Walau bagaimanapun, mereka juga mendapati bahawa pada satu set data, prestasi MLP dan KAN hampir setara, manakala pada set data yang lain, KAN menunjukkan prestasi yang lebih baik daripada MLP.

Secara keseluruhan, MLP masih mempunyai kelebihan umum pada set data pembelajaran mesin.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
Penglihatan Komputer. Penulis menjalankan eksperimen pada 8 set data penglihatan komputer. Mereka menggunakan KAN dan MLP dengan satu atau dua lapisan tersembunyi, melaraskan dimensi input dan output rangkaian saraf bergantung pada set data.

Dalam set data penglihatan komputer, bias pemprosesan yang diperkenalkan oleh fungsi spline KAN tidak mempunyai kesan, dan prestasi nya sentiasa lebih rendah daripada MLP dengan bilangan parameter atau FLOP yang sama.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
Pemprosesan audio dan bahasa semula jadi. Penulis menjalankan eksperimen pada 2 klasifikasi audio dan 2 set data pengelasan teks. Mereka menggunakan KAN dan MLP dengan satu hingga dua lapisan tersembunyi dan melaraskan dimensi input dan output rangkaian saraf mengikut ciri set data.

Pada kedua-dua set data audio, MLP mengatasi prestasi KAN.

Dalam tugas pengelasan teks, MLP mengekalkan kelebihannya pada set data AG News. Walau bagaimanapun, pada set data CoLA, tidak terdapat perbezaan yang signifikan dalam prestasi antara MLP dan KAN. KAN nampaknya mempunyai kelebihan pada dataset CoLA apabila bilangan parameter kawalan adalah sama. Walau bagaimanapun, memandangkan spline KAN memerlukan FLOP yang lebih tinggi, kelebihan ini tidak terbukti secara konsisten dalam eksperimen dengan FLOP terkawal. Apabila mengawal FLOP, MLP nampaknya lebih unggul. Oleh itu, Tiada jawapan yang jelas tentang model mana yang lebih baik pada set data CoLA.

Secara keseluruhan, MLP masih menjadi pilihan yang lebih baik dalam kedua-dua tugasan audio dan teks.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
perwakilan formula simbol. Penulis membandingkan perbezaan antara KAN dan MLP pada lapan tugas perwakilan formula simbolik. Mereka menggunakan KAN dan MLP dengan satu hingga empat lapisan tersembunyi, melaraskan dimensi input dan output rangkaian saraf mengikut set data.

KAN mengatasi prestasi MLP pada 7 daripada 8 set data sambil mengawal bilangan parameter. Apabila mengawal FLOP, KAN berprestasi secara kasar setanding dengan MLP, mengatasi MLP pada dua set data dan lebih rendah daripada MLP pada satu lagi disebabkan oleh kerumitan pengiraan tambahan yang diperkenalkan oleh splines.

Secara keseluruhan, KAN mengatasi MLP dalam tugas perwakilan formula simbolik.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.
반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.

위 내용은 반전? 새로운 대회에서 MLP를 대체한다고 주장하는 KAN은 단 1승만을 거두었습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
10 생성 AI 코드의 생성 AI 코딩 확장 대 코드를 탐색해야합니다.10 생성 AI 코드의 생성 AI 코딩 확장 대 코드를 탐색해야합니다.Apr 13, 2025 am 01:14 AM

이봐, 코딩 닌자! 하루 동안 어떤 코딩 관련 작업을 계획 했습니까? 이 블로그에 더 자세히 살펴보기 전에, 나는 당신이 당신의 모든 코딩 관련 문제에 대해 생각하기를 원합니다. 완료? - ’

요리 혁신 요리 : 인공 지능이 식품 서비스를 변화시키는 방법요리 혁신 요리 : 인공 지능이 식품 서비스를 변화시키는 방법Apr 12, 2025 pm 12:09 PM

AI 식품 준비 여전히 초기 사용 중이지만 AI 시스템은 음식 준비에 점점 더 많이 사용되고 있습니다. AI 구동 로봇은 부엌에서 햄버거를 뒤집기, 피자 만들기 또는 SA 조립과 같은 음식 준비 작업을 자동화하는 데 사용됩니다

파이썬 네임 스페이스 및 가변 범위에 대한 포괄적 인 안내서파이썬 네임 스페이스 및 가변 범위에 대한 포괄적 인 안내서Apr 12, 2025 pm 12:00 PM

소개 파이썬 기능에서 변수의 네임 스페이스, 범위 및 동작을 이해하는 것은 효율적으로 작성하고 런타임 오류 또는 예외를 피하는 데 중요합니다. 이 기사에서는 다양한 ASP를 탐구 할 것입니다

비전 언어 모델 (VLMS)에 대한 포괄적 인 안내서비전 언어 모델 (VLMS)에 대한 포괄적 인 안내서Apr 12, 2025 am 11:58 AM

소개 생생한 그림과 조각으로 둘러싸인 아트 갤러리를 걷는 것을 상상해보십시오. 이제 각 작품에 질문을하고 의미있는 대답을 얻을 수 있다면 어떨까요? “어떤 이야기를하고 있습니까?

Mediatek은 Kompanio Ultra 및 Dimensity 9400으로 프리미엄 라인업을 향상시킵니다.Mediatek은 Kompanio Ultra 및 Dimensity 9400으로 프리미엄 라인업을 향상시킵니다.Apr 12, 2025 am 11:52 AM

제품 케이던스를 계속하면서 이번 달 Mediatek은 새로운 Kompanio Ultra and Dimensity 9400을 포함한 일련의 발표를했습니다. 이 제품은 스마트 폰 용 칩을 포함하여 Mediatek 비즈니스의 전통적인 부분을 채우고 있습니다.

이번 주 AI : Walmart는 패션 트렌드를 설정하기 전에 패션 트렌드를 설정합니다.이번 주 AI : Walmart는 패션 트렌드를 설정하기 전에 패션 트렌드를 설정합니다.Apr 12, 2025 am 11:51 AM

#1 Google은 Agent2agent를 시작했습니다 이야기 : 월요일 아침입니다. AI 기반 채용 담당자로서 당신은 더 똑똑하지 않고 더 똑똑하지 않습니다. 휴대 전화에서 회사의 대시 보드에 로그인합니다. 세 가지 중요한 역할이 공급되고, 검증되며, 예정된 FO가 있음을 알려줍니다.

생성 AI는 사이코브블을 만난다생성 AI는 사이코브블을 만난다Apr 12, 2025 am 11:50 AM

나는 당신이되어야한다고 생각합니다. 우리 모두는 Psychobabble이 다양한 심리적 용어를 혼합하고 종종 이해할 수 없거나 완전히 무의미한 모듬 채터로 구성되어 있다는 것을 알고 있습니다. 당신이 fo를 뿌리기 위해해야 ​​할 일

프로토 타입 : 과학자들은 종이를 플라스틱으로 바꿉니다프로토 타입 : 과학자들은 종이를 플라스틱으로 바꿉니다Apr 12, 2025 am 11:49 AM

이번 주 발표 된 새로운 연구에 따르면 2022 년에 제조 된 플라스틱의 9.5%만이 재활용 재료로 만들어졌습니다. 한편, 플라스틱은 계속해서 매립지와 생태계에 전 세계에 쌓이고 있습니다. 그러나 도움이 진행 중입니다. 엥인 팀

See all articles

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

인기 기사

R.E.P.O. 에너지 결정과 그들이하는 일 (노란색 크리스탈)
3 몇 주 전By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 최고의 그래픽 설정
3 몇 주 전By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 아무도들을 수없는 경우 오디오를 수정하는 방법
3 몇 주 전By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25 : Myrise에서 모든 것을 잠금 해제하는 방법
4 몇 주 전By尊渡假赌尊渡假赌尊渡假赌

뜨거운 도구

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

안전한 시험 브라우저

안전한 시험 브라우저

안전한 시험 브라우저는 온라인 시험을 안전하게 치르기 위한 보안 브라우저 환경입니다. 이 소프트웨어는 모든 컴퓨터를 안전한 워크스테이션으로 바꿔줍니다. 이는 모든 유틸리티에 대한 액세스를 제어하고 학생들이 승인되지 않은 리소스를 사용하는 것을 방지합니다.

에디트플러스 중국어 크랙 버전

에디트플러스 중국어 크랙 버전

작은 크기, 구문 강조, 코드 프롬프트 기능을 지원하지 않음

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

WebStorm Mac 버전

WebStorm Mac 버전

유용한 JavaScript 개발 도구