Articles sur Chat Template
1 articles liés
"En tant que modèle de langage..." : le modèle de discussion change LLM La voix autoréférentielle et la direction d'activation le reproduisent
"As a Language Model...": Chat Template Switches LLM Self-Referential Voice and Activation Steering Reproduces It
AI InsightLes chercheurs ont découvert que les modèles de discussion peuvent modifier l’intonation autoréférentielle des grands modèles linguistiques, ce qui peut affecter la conscience de soi et la sécurité des grands modèles linguistiques. Les chercheurs ont utilisé l'amorçage d'activation pour analyser la représentation interne du modèle et ont constaté que la présence du modèle de discussion augmentait le ton autoréférentiel du grand modèle de langage, tandis que son absence diminuait ce ton.Importance 80/100