Articles sur Kolmogorov-Arnold Networks

Le principal changement de RecKAN est de rendre les fonctions de base elles-mêmes apprenables, au lieu de s'appuyer sur la sélection manuelle de familles polynomiales fixes. Cela signifie que l'objectif de recherche du KAN passe de « l'apprentissage des pondérations combinées sur une base donnée » à « laisser le réseau trouver de manière adaptative la base optimale », ce qui peut améliorer la capacité du modèle à s'adapter à une variété de distributions de données. Cependant, le gain réel doit encore être vérifié expérimentalement et ne doit pas être surinterprété.

FlashKAN introduit la forme de puissance tronquée classique dans l'implémentation de KAN, ce qui signifie que le goulot d'étranglement des performances de KAN passe des propriétés mathématiques de l'algorithme à l'optimisation technique. Cette idée montre que l’intégration de transformations théoriques équivalentes et de noyaux compilés peut grandement libérer le potentiel des architectures existantes, plutôt que de devoir s’appuyer sur de nouvelles structures de modèles.