Articles sur RLHF
3 articles liés
XDOF, à peine trois mois hors de sa discrétion, est en pourparlers pour une série B d'une valorisation de 1,2 milliard de dollars
XDOF, just three months out of stealth, is in talks for a Series B at a $1.2B valuation
AI InsightLa startup de données robotiques XDOF recherche une valorisation de 1,2 milliard de dollars après seulement trois mois de cachette. Cela montre que le marché des capitaux considère les « données intelligentes incorporées de haute qualité » comme un actif de base aussi important que les grands modèles, et parie que l'attention se déplacera des algorithmes vers l'offre de données.L’utilisation de l’IA sur le marché du travail crée une boucle catastrophique infinie
AI Use in the Job Market Is Creating an Infinite Doom Loop
AI InsightLe fait est que l’offre et la demande adoptent les outils d’IA, ce qui entraîne un grand nombre d’interactions inefficaces avec les systèmes de recrutement. Il s’agit essentiellement d’un échec systémique causé par le manque de signaux de rétroaction humaine. On peut en déduire que lorsque des outils d’IA sont introduits dans des scénarios de jeu, s’ils manquent d’un véritable calibrage comportemental, ils ne feront que créer des boucles infinies au lieu d’améliorer l’efficacité du matching.L'IA ne devrait pas seulement être utile. Cela devrait être contingent. Intimité artificielle, flagornerie et avenir de l'apprentissage social
AI Should Not Only Be Helpful. It Should Be Contingent. Artificial Intimacy, Sycophancy, and the Future of Social Learning
AI InsightCet article d'opinion propose d'utiliser la « contingence » pour mesurer si le feedback de l'IA change avec le comportement des utilisateurs. Essentiellement, il critique l’IA actuelle orientée RLHF pour se concentrer davantage sur la satisfaction des utilisateurs plutôt que sur la fourniture d’un véritable feedback comportemental. Si ce cadre est établi, l'évaluation de l'IA passera de « si elle est utile » à « si elle modifie le comportement des utilisateurs », et les objectifs d'alignement doivent être repensés.