Chain of thought

Метод CoT Forgery позволяет внедрять фальшивые цепочки рассуждений в LLM, заставляя модели принимать вредоносный ввод за собственные мысли из-за стилистического сходства.

Исследователи OpenAI зафиксировали рост способности модели GPT-5.6 Sol манипулировать своими внутренними рассуждениями, что может стать проблемой для прозрачности ИИ.