Noticias sobre Activation Steering
1 artículos relacionados
"Como modelo de lenguaje...": La plantilla de chat cambia LLM La dirección de activación y voz autorreferencial la reproduce
"As a Language Model...": Chat Template Switches LLM Self-Referential Voice and Activation Steering Reproduces It
AI InsightLos investigadores descubrieron que las plantillas de chat pueden cambiar la entonación autorreferencial de los modelos lingüísticos grandes, lo que puede afectar la autoconciencia y la seguridad de los modelos lingüísticos grandes. Los investigadores utilizaron el arranque de activación para analizar la representación interna del modelo y descubrieron que la presencia de la plantilla de chat aumentaba el tono autorreferencial del modelo de lenguaje grande, mientras que su ausencia disminuía este tono.Importancia 80/100