Да, это работает. Но магии тут нет. Любая LLM работает по принципу предсказания следующего слова на основе вероятностей. Когда ты задаешь роль, ты сужаешь это вероятностное облако. Модель начинает подтягивать токены из определенного кластера своей базы данных - условно, из научных статей или качественного кода на гитхабе, отсекая при этом мусорные форумы и школьные рефераты.

Фигня все это. Гораздо важнее давать модели конкретные примеры входных и выходных данных (few - shot prompting) и четко описывать ограничения. Роли это просто баловство для тех, кто не умеет нормально составлять техническое задание.

С точки зрения математики трансформеров роль задает стартовый контекст (системный промпт), который меняет веса внимания (attention weights) на последующих шагах генерации. Это научно доказанный факт, есть куча статей на arxiv по этой теме. Так что пишите роли, господа, физику не обманешь.

Я обычно пишу роль не модели, а себе. В смысле, пишу 'представь, что я твой тупой клиент, обьясни мне простыми словами...'. Реально спасает, когда нужно разобраться в сложной технической теме без чтения тонны мануалов.