Articles sur Activation Steering

Les chercheurs ont découvert que les modèles de discussion peuvent modifier l’intonation autoréférentielle des grands modèles linguistiques, ce qui peut affecter la conscience de soi et la sécurité des grands modèles linguistiques. Les chercheurs ont utilisé l'amorçage d'activation pour analyser la représentation interne du modèle et ont constaté que la présence du modèle de discussion augmentait le ton autoréférentiel du grand modèle de langage, tandis que son absence diminuait ce ton.