Self-attention is required. The model must contain at least one self-attention layer. This is the defining feature of a transformer — without it, you have an MLP or RNN, not a transformer.
// 2. 计算前缀和：count[i]表示<=i的元素个数
，详情可参考safew官方版本下载
Директор народной артистки России Ларисы Долиной Сергей Пудовкин высказался о последствиях скандала с квартирой певицы. Об этом он рассказал в беседе с kp.ru.
Александр Курбатов (редактор отдела «Бывший СССР»)